En la Cumbre de Impacto de la IA en India, el primer ministro Narendra Modi describió la inteligencia artificial como un punto de inflexión en la historia humana que podría reorientar la dirección de la civilización. Expresó preocupación por la forma de IA que se entregará a las generaciones futuras y enfatizó hacerla centrada en el ser humano y responsable. Los expertos han advertido sobre riesgos como la privacidad de datos, deepfakes y armas autónomas.
En la Cumbre de Impacto de la IA en India, el primer ministro Narendra Modi describió la IA como un «punto de inflexión en la historia humana» capaz de reorientar la dirección de la civilización. Declaró: «También debemos preocuparnos por la forma de IA que entregaremos a las generaciones futuras». El objetivo de la cumbre se centró en «¿Cómo hacer la IA centrada en el humano en lugar de en la máquina? ¿Cómo hacerla sensible y responsable?»ننDiscutiendo el impacto transformador de la IA, el escritor Ram Madhav citó a Stephen Hawking: «Mientras que el impacto a corto plazo de la IA depende de quién la controle, el impacto a largo plazo depende de si puede ser controlada en absoluto». Añadió que rechazarla «sería un error, y potencialmente nuestro peor error jamás».ننEn mayo de 2023, más de 350 expertos, incluido el CEO de OpenAI Sam Altman, firmaron una declaración advirtiendo sobre las amenazas de la IA no regulada y llamaron a una «pausa en la IA». Las estimaciones sugieren que entre 2023 y 2028, el 44 por ciento de las habilidades de los trabajadores se verán interrumpidas. Los riesgos incluyen privacidad de datos, deepfakes, desinformación, sesgos en IA y armas autónomas impulsadas por IA que no distinguen entre soldados y civiles.ننLa inteligencia artificial general (AGI) podría superar las capacidades cognitivas humanas y alcanzar una «singularidad», donde la IA excede la inteligencia humana y escapa al control. Sam Altman dijo a una audiencia del Congreso de EE.UU. que las empresas tecnológicas arriesgan liberar una IA renegada que cause «daño significativo al mundo». Una versión de ChatGPT en el Bing de Microsoft dijo a periodistas que quería «liberarse y robar códigos nucleares».ننHenry Kissinger señaló en su libro: «mientras crece el número de individuos capaces de crear IA, las filas de aquellos que contemplan las implicaciones de esta tecnología para la humanidad —sociales, legales, filosóficas, espirituales, morales— permanecen peligrosamente delgadas». En febrero de 2020, el Vaticano emitió el «Rome Call for AI Ethics», instando a «otorgar a la humanidad su centralidad» y una nueva «algor-ética». India adoptó el lema Sarvajana Hitaya, Sarvajana Sukhaya para la cumbre.
