Uma equipe de pesquisadores, incluindo os da Universidade de Penn State, investigou como a tecnologia blockchain pode impor limites éticos em sistemas de inteligência artificial. Seu trabalho, publicado no Journal of Cybersecurity and Privacy, propõe um framework para garantir que a IA cumpra valores humanos. O estudo destaca o potencial do blockchain para transparência e accountability na tomada de decisões da IA.
Em Malvern, Pensilvânia, o Professor Assistente de Engenharia de Software da Penn State Great Valley, Dusan Ramljak, e seus colaboradores publicaram um artigo examinando o papel do blockchain no alinhamento da IA com padrões éticos. À medida que sistemas de IA como bots de negociação autônomos e ferramentas de diagnóstico operam cada vez mais com supervisão humana mínima, os riscos de resultados não confiáveis em áreas como medicina e finanças aumentam. "Sistemas de IA são treinados para agir de certas maneiras dentro de parâmetros específicos. Se os parâmetros mudarem... eles podem agir de maneiras imprevisíveis que contradizem valores humanos — por exemplo, deturpação ao lidar mal com dados de saúde sensíveis ou desinformação ao recomendar o tratamento médico errado," explicou Ramljak.
A equipe, que inclui a Professora Assistente da Penn State Abington Maryam Roshanaei, o aluno de mestrado Jainil Kakka, os alunos de doutorado da Universidade de Viena Alexander Neulinger e Lukas Sparer, e o aluno de doutorado da Universidade de Kragujevac Dragutin Ostojić, revisou mais de 7.000 estudos. Eles desenvolveram um framework de três níveis para pesquisas futuras: análise de nível micro focada em protocolos técnicos para proteger dados de usuários; análise de nível meso para casos de uso específicos de setores em finanças e saúde; e análise de nível macro abordando princípios morais, padrões legais internacionais e variações culturais, como o Artificial Intelligence Act da União Europeia.
O blockchain, conhecido por impulsionar criptomoedas, oferece registros seguros e descentralizados com linhagem de dados transparente e logs resistentes a adulteração. Ele permite mecanismos de consenso onde participantes votam em regras éticas, aplicadas via contratos inteligentes. Isso promove decisões rastreáveis e resiste à manipulação de dados de treinamento. No entanto, desafios incluem alto consumo de energia, riscos de privacidade devido à transparência aumentada e a necessidade de frameworks flexíveis em contextos culturais e legais diversos.
Ramljak enfatizou a necessidade de frameworks multicamadas que integrem segurança, governança e restrições legais. "A convergência de blockchain e IA poderia nos dar não apenas maior confiabilidade em sistemas técnicos, mas também novas formas de governança centrada no humano, garantindo accountability em escala," disse ele.