Caitlin Kalinowski, responsable de la robotique chez OpenAI, a démissionné, citant un manque de délibération sur les garde-fous éthiques dans l'accord récent de l'entreprise avec le département de la Défense. Elle a exprimé des préoccupations concernant une surveillance potentielle et des armes autonomes dans un post sur X. OpenAI a reconnu son départ et réitéré ses engagements contre la surveillance intérieure et les systèmes autonomes létaux.
Caitlin Kalinowski a annoncé sa démission d'OpenAI sur X, où elle était responsable de la robotique depuis son arrivée dans l'entreprise fin 2024 après avoir travaillé chez Meta. Dans son post, elle a critiqué la rapidité du partenariat d'OpenAI avec le département de la Défense, déclarant que « la surveillance des Américains sans contrôle judiciaire et l'autonomie létale sans autorisation humaine sont des lignes qui méritaient plus de délibération qu'elles n'en ont reçu ». Elle a ajouté dans une réponse que « l'annonce a été précipitée sans que les garde-fous soient définis », la qualifiant de « préoccupation de gouvernance avant tout ».OpenAI a confirmé la démission dans un communiqué, exprimant sa compréhension des points de vue divergents sur la question et s'engageant à poursuivre les discussions avec les parties prenantes. L'entreprise a souligné qu'elle ne cautionne pas les problèmes soulevés par Kalinowski. Selon le communiqué, « Nous pensons que notre accord avec le Pentagone crée une voie viable pour des utilisations responsables de l'IA en matière de sécurité nationale tout en clarifiant nos lignes rouges : pas de surveillance intérieure et pas d'armes autonomes ».Ce départ fait suite à l'accord d'OpenAI avec le département de la Défense, une décision qui a attiré l'attention après qu'Anthropic a refusé d'assouplir ses garde-fous liés à l'IA en matière de surveillance de masse et d'armes totalement autonomes. Le PDG d'OpenAI, Sam Altman, a indiqué sa volonté d'ajuster l'accord pour interdire explicitement l'espionnage des Américains. Le départ de Kalinowski représente une réaction notable aux implications éthiques du partenariat.
