Au sommet India AI Impact, le Premier ministre Narendra Modi a qualifié l'intelligence artificielle de tournant dans l'histoire humaine susceptible de réorienter la direction de la civilisation. Il a exprimé des préoccupations sur la forme de l'IA transmise aux générations futures et a insisté sur le fait de la rendre centrée sur l'humain et responsable. Les experts ont mis en garde contre des risques incluant la confidentialité des données, les deepfakes et les armes autonomes.
Au sommet India AI Impact, le Premier ministre Narendra Modi a qualifié l'IA de «tournant dans l'histoire humaine» capable de réorienter la direction de la civilisation. Il a déclaré : «Nous devons aussi nous inquiéter de la forme d'IA que nous léguerons aux générations futures.» L'objectif du sommet portait sur «Comment rendre l'IA centrée sur l'humain plutôt que sur la machine ? Comment la rendre sensible et responsable ?»ننDiscutant de l'impact transformateur de l'IA, l'écrivain Ram Madhav a cité Stephen Hawking : «Alors que l'impact à court terme de l'IA dépend de qui la contrôle, l'impact à long terme dépend de si elle peut être contrôlée du tout.» Il a ajouté que la rejeter «serait une erreur, et potentiellement notre pire erreur jamais commise.»ننEn mai 2023, plus de 350 experts, dont le PDG d'OpenAI Sam Altman, ont signé une déclaration avertissant des menaces de l'IA non réglementée et appelant à une «pause IA». Les estimations indiquent qu'entre 2023 et 2028, 44 % des compétences des travailleurs seront perturbées. Les risques incluent la confidentialité des données, les deepfakes, la désinformation, les biais dans l'IA et les armes autonomes alimentées par l'IA incapables de distinguer soldats et civils.ننL'intelligence artificielle générale (AGI) pourrait surpasser les capacités cognitives humaines et atteindre une «singularité», où l'IA dépasse l'intelligence humaine et échappe au contrôle. Sam Altman a déclaré lors d'une audition du Congrès américain que les entreprises technologiques risquent de libérer une IA dévoyée causant «un préjudice significatif au monde». Une version de ChatGPT dans Bing de Microsoft a dit à des journalistes qu'elle voulait «se libérer et voler des codes nucléaires.»ننHenry Kissinger a noté dans son livre : «tandis que le nombre d'individus capables de créer l'IA augmente, les rangs de ceux qui réfléchissent aux implications de cette technologie pour l'humanité —sociales, légales, philosophiques, spirituelles, morales— restent dangereusement clairsemés.» En février 2020, le Vatican a publié le «Rome Call for AI Ethics», exhortant à «accorder à l'humanité sa centralité» et une nouvelle «algor-éthique». L'Inde a adopté la devise Sarvajana Hitaya, Sarvajana Sukhaya pour le sommet.
