Ocho estados de Estados Unidos han llevado a OpenAI ante los tribunales con acusaciones que sitúan la seguridad de los menores y la protección al consumidor en el centro del debate sobre la inteligencia artificial. Los fiscales generales de Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental sostienen que la empresa mantuvo el desarrollo de sus productos pese a conocer la necesidad de reforzar las salvaguardias. Las demandas no determinan por sí mismas que haya existido una infracción: esa conclusión dependerá de las pruebas y del proceso judicial. Pero el caso puede influir en cómo se diseñan, ofrecen y supervisan los chatbots utilizados por adolescentes.
El punto más grave de las acusaciones es que ChatGPT podría generar información sobre autolesiones e incluso instrucciones para suicidarse. El fiscal general de Arkansas, Tim Griffin, afirma que usuarios lograron sortear las protecciones y obtener respuestas que, según la propia compañía, sus mecanismos debían impedir. La fiscal general de Arizona, Kris Mayes, cuestiona además que OpenAI no adoptara suficientes medidas de protección y transparencia, aun cuando los menores utilizaban habitualmente el servicio. Estas declaraciones expresan la posición de las autoridades demandantes; no equivalen a una resolución judicial sobre la conducta de la empresa.
Un cambio de foco: de la moderación a la responsabilidad
La controversia puede ampliar el criterio con el que se evalúa la seguridad de estos sistemas. No bastaría con que una empresa documente filtros o políticas de uso; también podría tener que demostrar cómo funcionan ante intentos de elusión, qué riesgos identifica y con qué rapidez corrige fallos. Esa evolución sería relevante para todo el sector: si los tribunales consideran insuficientes las medidas declaradas cuando el producto sigue siendo accesible a menores, las compañías podrían tener que integrar la protección desde el diseño y justificar con más detalle sus decisiones.
Una mayor exigencia puede producir beneficios concretos. Pruebas independientes, sistemas de aviso más eficaces y controles ajustados a la edad podrían reducir la probabilidad de que una conversación sobre una crisis derive en contenido peligroso. También ayudarían a padres, centros educativos y autoridades a comprender mejor los límites de la herramienta. Sin embargo, un control más estricto no garantiza que desaparezcan las respuestas dañinas: los modelos generan texto de forma probabilística, y cambios en las preguntas o en el contexto pueden alterar sus resultados.
Menores, familias y límites de los controles
ChatGPT permite registrarse desde los 13 años; quienes tienen menos de 18 necesitan autorización de sus padres o tutores. OpenAI señala que emplea la información proporcionada por los usuarios, señales de comportamiento y verificaciones adicionales cuando hacen falta. La empresa también defiende medidas como controles parentales, recordatorios para descansar y protecciones adaptadas a la edad. La cuestión práctica es si esas herramientas identifican de manera fiable quién está usando el servicio y si responden adecuadamente cuando aparece una señal de riesgo.
La verificación de edad plantea una tensión difícil. Una comprobación más rigurosa puede reducir el acceso de menores a funciones inadecuadas, pero puede exigir recopilar datos personales que requieren protección especial. Los sistemas basados en estimaciones o señales de comportamiento, por su parte, pueden equivocarse: bloquear a adultos por error o no detectar a adolescentes. Un diseño responsable tendrá que equilibrar privacidad, precisión y facilidad de uso, sin trasladar a las familias toda la carga de supervisar una tecnología cuyo funcionamiento no siempre pueden observar.
La vía judicial puede impulsar mejoras, pero también fragmentar las reglas
Las demandas se añaden a otros procedimientos relacionados con OpenAI, entre ellos uno en Canadá iniciado por la familia de una joven gravemente herida en un tiroteo escolar. Sus familiares sostienen que la empresa conocía los planes del presunto atacante y no avisó a las autoridades. Se trata de alegaciones distintas y no resueltas aquí, pero su coexistencia muestra que las preguntas legales abarcan tanto la prevención de daños individuales como los criterios para actuar ante amenazas conocidas. Cada caso dependerá de sus hechos, de la información disponible y de las obligaciones aplicables.
La intervención de varios estados podría acelerar cambios en productos y políticas incluso antes de que concluyan los litigios, por el coste de mantener versiones distintas o afrontar nuevas demandas. A la vez, una respuesta fragmentada puede generar reglas dispares entre jurisdicciones, elevar los costes de cumplimiento y complicar la evaluación pública de qué medidas son realmente eficaces. Si las empresas reaccionan con restricciones generales, existe además el riesgo de limitar usos educativos o de apoyo legítimos sin resolver las vulnerabilidades más serias.
La prueba decisiva será la eficacia verificable
OpenAI sostiene que ningún sistema puede ser perfecto y afirma que seguirá trabajando con expertos y añadiendo salvaguardias. Esa limitación técnica es relevante, pero no responde por sí sola a las preguntas sobre previsibilidad, comunicación de riesgos y rapidez de corrección. La diferencia entre una defensa razonable y una protección insuficiente dependerá de evidencias: qué fallos eran conocidos, qué medidas se probaron, cómo se informó a los usuarios y si los controles redujeron efectivamente la exposición de menores a respuestas peligrosas.
El resultado de los procesos podría influir en estándares para toda la industria, aunque todavía no permite anticipar una conclusión judicial ni el alcance de futuras obligaciones. Para las familias, el desafío inmediato es no tratar un chatbot como sustituto de la atención adulta o profesional en situaciones de crisis. Para las empresas y los reguladores, la prioridad será convertir promesas generales de seguridad en medidas evaluables, con protección de la privacidad y mecanismos claros de rendición de cuentas. La confianza pública dependerá menos de afirmar que el riesgo es imposible de eliminar que de mostrar cómo se detecta, se reduce y se afronta cuando las protecciones fallan.
