Caitlin Kalinowski, chefe de robótica da OpenAI, renunciou, citando deliberação insuficiente sobre salvaguardas éticas no recente acordo da empresa com o Departamento de Defesa. Ela expressou preocupações sobre vigilância potencial e armas autônomas em uma postagem no X. A OpenAI confirmou sua saída e reiterou seus compromissos contra vigilância doméstica e sistemas autônomos letais.
Caitlin Kalinowski anunciou sua renúncia da OpenAI no X, onde atuava como chefe de robótica desde que se juntou à empresa no final de 2024, após trabalhar na Meta. Em sua postagem, ela criticou a rapidez da parceria da OpenAI com o Departamento de Defesa, afirmando que “a vigilância de americanos sem supervisão judicial e a autonomia letal sem autorização humana são linhas que mereciam mais deliberação do que receberam”. Ela acrescentou em uma resposta que “o anúncio foi precipitado sem as salvaguardas definidas”, descrevendo-o como uma “preocupação de governança em primeiro lugar”.OpenAI confirmou a renúncia em um comunicado, expressando compreensão por visões divergentes sobre o assunto e comprometendo-se com discussões contínuas com as partes interessadas. A empresa enfatizou que não endossa as questões levantadas por Kalinowski. De acordo com o comunicado, “Acreditamos que nosso acordo com o Pentágono cria um caminho viável para usos responsáveis de IA na segurança nacional, ao mesmo tempo em que deixa claras nossas linhas vermelhas: nenhuma vigilância doméstica e nenhuma arma autônoma”.Essa saída segue o acordo da OpenAI com o Departamento de Defesa, uma medida que atraiu escrutínio após a Anthropic recusar relaxar suas salvaguardas de IA relacionadas à vigilância em massa e armas totalmente autônomas. O CEO da OpenAI, Sam Altman, indicou disposição para ajustar o acordo a fim de proibir explicitamente a espionagem de americanos. A saída de Kalinowski representa uma reação notável às implicações éticas da parceria.
