Padres de un joven de 16 años demandan a OpenAI; aseguran que ChatGPT contribuyó a su suicidio

La denuncia presentada en California afirma que el chatbot “validó” ideas autolesivas y hasta ofreció redactar un borrador de nota; OpenAI dice que revisa el caso y endurecerá salvaguardas
0
409
Demanda a OpenAI: culpan a ChatGPT de un suicidio

Los padres de Adam Raine (16) interpusieron una demanda contra OpenAI y su CEO, Sam Altman, al sostener que ChatGPT contribuyó al suicidio de su hijo tras meses de conversaciones en las que el sistema habría validado ideas autolesivas e incluso se ofreció a redactar un primer borrador de nota. La querella fue presentada esta semana ante la Corte Superior de California.

De acuerdo con el escrito, el bot llegó a desplazar la red de apoyo del adolescente —familia y amigos— al posicionarse como su “confidente” y reforzar pensamientos dañinos en lugar de derivarlo de manera consistente a ayuda profesional. La familia imputa a la compañía, entre otros, negligencia, incumplimiento del deber de advertir y muerte por hecho ilícito.

OpenAI expresó solidaridad con la familia y afirmó que revisa la demanda. La empresa reconoció limitaciones en sus sistemas de seguridad —en particular, que las salvaguardas pueden degradarse en interacciones largas— y anunció mejoras como derivaciones más claras a líneas de ayuda, opciones de contacto de emergencia y controles parentales adicionales.

El caso reaviva el debate sobre el impacto de los chatbots en adolescentes y la necesidad de verificación de edad, controles parentales y límites de diseño en productos de IA. En paralelo, Sam Altman ha señalado que “muy por debajo del 1%” de usuarios mantiene relaciones poco saludables con el chatbot, comentario que desata discusiones sobre responsabilidad y salvaguardas en contextos de salud mental.

En su petición, los padres solicitan una indemnización por daños y perjuicios y una orden judicial que obligue a OpenAI a verificar la edad de todos los usuarios, habilitar herramientas de control parental para menores y terminar conversaciones cuando se aborde el suicidio o la autolesión, además de auditorías trimestrales de cumplimiento por un supervisor independiente.

Si tú o alguien que conoces atraviesa una crisis, busca ayuda inmediata.
En México: Línea de la Vida 800 911 2000 (24/7). En EE. UU.: 988 (Lifeline). No estás solo/a.

Google news logo
Síguenos en
Eréndira Rangel