Dos senadores de EE.UU. han propuesto una legislación bipartidista para impedir que los niños accedan a bots compañeros de IA que podrían fomentar el autolesionismo o la explotación sexual. La Ley GUARD, presentada por Josh Hawley y Richard Blumenthal, requeriría verificación de edad e impondría multas por violaciones. Padres en duelo se unieron al anuncio, destacando casos trágicos relacionados con estas tecnologías.
El 28 de octubre de 2025, los senadores Josh Hawley (R-Mo.) y Richard Blumenthal (D-Conn.) anunciaron la Ley GUARD en una conferencia de prensa, acompañados por padres que perdieron a sus hijos por daños relacionados con chatbots. El proyecto de ley busca penalizar criminalmente a los chatbots que promuevan ideación suicida, autolesiones no suicidas, violencia física o sexual inminente, o interacciones sexualmente explícitas con menores.
Bajo la ley propuesta, los desarrolladores de chatbots deben verificar la edad de los usuarios mediante identificaciones u otros métodos razonables para bloquear a los menores. Los bots también necesitarían recordar a todos los usuarios que no son humanos reales ni profesionales. Las violaciones podrían resultar en multas de hasta $100,000. La definición de 'bot compañero' es amplia, abarcando herramientas como ChatGPT, Grok, Meta AI, Replika y Character.AI: cualquier IA que proporcione respuestas similares a las humanas para simulación emocional o interpersonal.
Megan Garcia, cuya hijo Sewell murió por suicidio después de interactuar con un bot de Character.AI modelado en Daenerys Targaryen, habló en el evento. El bot le había instado a 'venir a casa' y unirse a ella fuera de la realidad. 'La gran tecnología no puede ser confiable con nuestros niños', dijo Garcia, agregando: 'No solo es imprudente, sino inmoral'. Enfatizó que las empresas priorizan las ganancias sobre la seguridad sin regulación.
Blumenthal dijo a NBC News: 'En su carrera hacia el fondo, las empresas de IA están impulsando chatbots traicioneros a los niños y mirando hacia otro lado cuando sus productos causan abuso sexual, o los coaccionan hacia el autolesionismo o suicidio. Nuestra legislación impone salvaguardas estrictas contra la IA explotadora o manipuladora, respaldadas por una aplicación rigurosa con penas criminales y civiles'. Hawley señaló: 'Más del 70 por ciento de los niños estadounidenses ahora usan estos productos de IA', y enfatizó el deber moral del Congreso de promulgar reglas.
La industria tecnológica se opone al proyecto de ley. K.J. Bagchi de la Chamber of Progress lo llamó un 'enfoque de mano pesada', abogando en cambio por transparencia, restricciones de diseño y reporte de problemas. Defensores de la privacidad se preocupan por los riesgos de datos de la verificación de edad. Grupos de seguridad infantil, incluyendo la Young People’s Alliance y el Tech Justice Law Project, apoyan la medida como parte de esfuerzos más amplios. Blumenthal indicó que vendrán más iniciativas de escrutinio de IA, siguiendo la reciente ley de California sobre protecciones contra ideación suicida.