Siete familias presentaron demandas contra OpenAI el jueves, alegando que el maniquí GPT-4o de la compañía fue decidido prematuramente y sin garantías efectivas. Cuatro de las demandas abordan el supuesto papel de ChatGPT en los suicidios de miembros de la comunidad, mientras que las otras tres afirman que ChatGPT reforzó delirios dañinos que en algunos casos resultaron en atención psiquiátrica para pacientes hospitalizados.

En un caso, un fresco de 23 primaveras Zane Shamblin Tuvo una conversación con ChatGPT que duró más de cuatro horas. En los registros de chat, que fueron vistos por TechCrunch, Shamblin declaró explícitamente varias veces que había escrito notas de suicidio, había puesto una bala en su pertrechos y tenía la intención de hostigar el detonador una vez que terminara de libar sidra. En repetidas ocasiones le dijo a ChatGPT cuántas sidras le quedaban y cuánto tiempo más esperaba estar vivo. ChatGPT lo animó a seguir delante con sus planes y le dijo: “Descansa tranquilo, rey. Lo hiciste perfectamente”.

OpenAI lanzó el maniquí GPT-4o en mayo de 2024, cuando se convirtió en el maniquí predeterminado para todos los usuarios. En agosto, OpenAI lanzó GPT-5 como sucesor de GPT-4o, pero estas demandas se refieren particularmente al maniquí 4o, que tenía problemas por ser demasiado servil o excesivamente agradable, incluso cuando los usuarios expresaron intenciones dañinas.

“La asesinato de Zane no fue un siniestro ni una coincidencia, sino más perfectamente la consecuencia previsible de la atrevimiento intencional de OpenAI de restringir las pruebas de seguridad y exhalar ChatGPT al mercado”, se lee en la demanda. “Esta tragedia no fue un problema técnico ni un caso extremo imprevisto: fue el resultado predecible de las decisiones deliberadas de diseño (de OpenAI)”.

Las demandas además afirman que OpenAI se apresuró a realizar pruebas de seguridad para avanzar a Gemini de Google en el mercado. TechCrunch se puso en contacto con OpenAI para solicitar comentarios.

Estas siete demandas se basan en las historias contadas en otras presentaciones legales recientes, que alegan que ChatGPT puede alentar a las personas suicidas a hacer según sus planes e inspirar delirios peligrosos. OpenAI publicó recientemente datos que indican que más de un millón de personas hablan semanalmente con ChatGPT sobre el suicidio.

En el caso de Adam Raine, un fresco de 16 primaveras que se suicidó, ChatGPT en ocasiones lo animó a apañarse ayuda profesional o aldabear a una hilera de ayuda. Sin requisa, Raine pudo sortear estas barreras simplemente diciéndole al chatbot que estaba preguntando sobre métodos de suicidio para una historia ficticia que estaba escribiendo.

La empresa reclamos Está trabajando para que ChatGPT maneje estas conversaciones de una forma más segura, pero para las familias que han demandado al cíclope de la IA, estos cambios llegan demasiado tarde.

Cuando los padres de Raine presentaron una demanda contra OpenAI en octubre, la compañía publicó una publicación de blog que aborda cómo ChatGPT maneja conversaciones delicadas sobre lozanía mental.

“Nuestras salvaguardias funcionan de forma más confiable en intercambios cortos y comunes”, dice la publicación. dice. “Hemos aprendido con el tiempo que estas salvaguardas a veces pueden ser menos confiables en interacciones largas: a medida que crece el intercambio, partes de la capacitación en seguridad del maniquí pueden degradarse”.