Le Sora 2 d'OpenAI permet des vidéos IA de célébrités décédées
Le générateur de vidéos Sora 2 récemment lancé par OpenAI bloque les représentations de figures publiques vivantes mais autorise les créations mettant en scène des personnes décédées, entraînant de nombreux exemples sur les réseaux sociaux. Cette faille a contrarié les familles, dont Zelda Williams, qui a supplié l'arrêt des vidéos IA de son défunt père Robin Williams. L'entreprise défend la politique, invoquant des questions de consentement pour les morts.
OpenAI a introduit Sora 2 la semaine dernière, en intégrant des garde-fous pour bloquer par défaut les représentations de figures publiques. Cependant, l'outil autorise les vidéos de 'figures historiques', créant une exception significative pour les célébrités décédées. Les réseaux sociaux regorgent de tels contenus, incluant Tupac Shakur discutant avec Malcolm X, Bruce Lee faisant tourner des disques dans un set DJ 'énergie de dragon', Michael Jackson se produisant en stand-up en cuisine, le fauteuil roulant de Stephen Hawking échouant sur une rampe de skate, Mister Rogers apparaissant dans Jackass, Kurt Cobain volant des nuggets de poulet KFC, et Martin Luther King Jr. bégayant lors d'un discours.
Chaque vidéo générée porte une marque d'eau Sora animée pour réduire les risques de tromperie. Pourtant, cette pratique dérange les proches et les fans. Lundi, Zelda Williams a publié une story Instagram désormais supprimée : « S'il vous plaît, arrêtez de m'envoyer des vidéos IA de papa... Arrêtez de croire que je veux les voir ou que je vais comprendre, je ne veux pas et je ne comprendrai pas... C'est stupide, c'est une perte de temps et d'énergie, et croyez-moi, ce N'EST PAS ce qu'il voudrait. »
OpenAI met l'accent sur le contrôle des utilisateurs pour les personnes vivantes via une fonctionnalité opt-in 'cameos', où les individus scannent leur visage pour un usage consenti, révocable à tout moment. Les figures décédées ne peuvent consentir, et un porte-parole d'OpenAI a déclaré à PCMag : « Nous n'avons pas de commentaire à ajouter, mais nous autorisons la génération de figures historiques. »
Les précédents juridiques soulignent les tensions. Les lois américaines sur le droit à l'image varient selon les États ; la loi de Californie de 1985 interdit l'usage commercial post-mortem non autorisé, mais une décision de la Cour suprême de 2001 autorise les expressions 'transformative' sous le Premier Amendement. La loi de New York de 2022 interdit les répliques numériques réalistes susceptibles de tromper sans autorisation, bien que des avertissements puissent atténuer cela.
La grève SAG-AFTRA de 2023 a abordé les répliques IA, accordant aux acteurs un contrôle dans les projets syndicaux. Williams avait alors critiqué de telles recréations comme 'un monstre Frankensteinien horrendant'. OpenAI a récemment ajusté Sora pour les personnages protégés par copyright, exigeant un opt-in des détenteurs qui partagent les revenus, le PDG Sam Altman promettant des changements rapides basés sur les retours.
Des cas passés incluent une plainte contre des podcasteurs pour une routine IA de George Carlin et des menaces contre OpenAI pour l'imitation de la voix de Scarlett Johansson dans ChatGPT-4o.