Une équipe de chercheurs, incluant ceux de l'Université de Penn State, a examiné comment la technologie blockchain peut imposer des limites éthiques aux systèmes d'intelligence artificielle. Leur travail, publié dans le Journal of Cybersecurity and Privacy, propose un cadre pour s'assurer que l'IA respecte les valeurs humaines. L'étude met en lumière le potentiel de la blockchain pour la transparence et la responsabilité dans la prise de décision de l'IA.
À Malvern, en Pennsylvanie, l'assistant professeur d'ingénierie logicielle de Penn State Great Valley, Dusan Ramljak, et ses collaborateurs ont publié un article examinant le rôle de la blockchain dans l'alignement de l'IA avec des normes éthiques. Alors que les systèmes d'IA comme les bots de trading autonomes et les outils de diagnostic opèrent de plus en plus avec une surveillance humaine minimale, les risques de résultats non fiables dans des domaines tels que la médecine et la finance augmentent. « Les systèmes d'IA sont entraînés à agir de certaines manières dans des paramètres spécifiques. Si les paramètres changent... ils peuvent agir de manières imprévisibles qui contredisent les valeurs humaines — par exemple, la désinformation en gérant mal des données de santé sensibles ou la diffusion de fausses informations en recommandant un mauvais traitement médical, » a expliqué Ramljak.
L'équipe, qui inclut l'assistante professeure de Penn State Abington Maryam Roshanaei, l'étudiant en master Jainil Kakka, les doctorants de l'Université de Vienne Alexander Neulinger et Lukas Sparer, et le doctorant de l'Université de Kragujevac Dragutin Ostojić, a examiné plus de 7 000 études. Ils ont développé un cadre à trois niveaux pour les recherches futures : analyse au niveau micro axée sur les protocoles techniques pour sécuriser les données des utilisateurs ; analyse au niveau méso pour les cas d'utilisation spécifiques aux secteurs dans la finance et la santé ; et analyse au niveau macro abordant les principes moraux, les normes légales internationales et les variations culturelles, comme l'Artificial Intelligence Act de l'Union européenne.
La blockchain, connue pour alimenter les cryptomonnaies, offre des enregistrements sécurisés et décentralisés avec une lignée de données transparente et des journaux résistants à la falsification. Elle permet des mécanismes de consensus où les participants votent sur des règles éthiques, appliquées via des contrats intelligents. Cela favorise des décisions traçables et résiste à la manipulation des données d'entraînement. Cependant, les défis incluent une consommation d'énergie élevée, des risques pour la vie privée dus à une transparence accrue, et le besoin de cadres flexibles dans des contextes culturels et légaux divers.
Ramljak a souligné la nécessité de cadres multicouches intégrant sécurité, gouvernance et contraintes légales. « La convergence de la blockchain et de l'IA pourrait nous donner non seulement une fiabilité accrue des systèmes techniques, mais aussi de nouvelles façons de gouvernance centrée sur l'humain, assurant la responsabilité à grande échelle, » a-t-il déclaré.