Un equipo de investigadores, incluidos los de la Universidad de Penn State, ha investigado cómo la tecnología blockchain puede imponer límites éticos en los sistemas de inteligencia artificial. Su trabajo, publicado en el Journal of Cybersecurity and Privacy, propone un marco para garantizar que la IA cumpla con los valores humanos. El estudio destaca el potencial de blockchain para la transparencia y la rendición de cuentas en la toma de decisiones de la IA.
En Malvern, Pensilvania, el profesor asistente de Ingeniería de Software de Penn State Great Valley, Dusan Ramljak, y sus colaboradores publicaron un artículo que examina el rol de blockchain en la alineación de la IA con estándares éticos. A medida que los sistemas de IA como bots de trading autónomos y herramientas de diagnóstico operan cada vez más con mínima supervisión humana, aumentan los riesgos de resultados no confiables en áreas como la medicina y las finanzas. "Los sistemas de IA se entrenan para actuar de ciertas maneras dentro de parámetros específicos. Si los parámetros cambian... pueden actuar de maneras impredecibles que contradicen los valores humanos —por ejemplo, tergiversación al manejar mal datos de salud sensibles o desinformación al recomendar el tratamiento médico equivocado," explicó Ramljak.
El equipo, que incluye a la profesora asistente de Penn State Abington Maryam Roshanaei, al estudiante de maestría Jainil Kakka, a los estudiantes doctorales de la Universidad de Viena Alexander Neulinger y Lukas Sparer, y al estudiante doctoral de la Universidad de Kragujevac Dragutin Ostojić, revisó más de 7.000 estudios. Desarrollaron un marco de tres niveles para futuras investigaciones: análisis a nivel micro que se centra en protocolos técnicos para asegurar datos de usuarios; análisis a nivel meso para casos de uso específicos de sectores en finanzas y salud; y análisis a nivel macro que aborda principios morales, estándares legales internacionales y variaciones culturales, como el Artificial Intelligence Act de la Unión Europea.
Blockchain, conocido por impulsar las criptomonedas, ofrece registros seguros y descentralizados con linaje de datos transparente y registros resistentes a manipulaciones. Permite mecanismos de consenso donde los participantes votan sobre reglas éticas, aplicadas mediante contratos inteligentes. Esto promueve decisiones trazables y resiste la manipulación de datos de entrenamiento. Sin embargo, los desafíos incluyen un alto consumo de energía, riesgos de privacidad por mayor transparencia y la necesidad de marcos flexibles en contextos culturales y legales diversos.
Ramljak enfatizó la necesidad de marcos multicapa que integren seguridad, gobernanza y restricciones legales. "La convergencia de blockchain e IA podría darnos no solo mayor fiabilidad en sistemas técnicos, sino también nuevas formas de gobernanza centrada en el humano, asegurando rendición de cuentas a escala," dijo.