El director ejecutor de OpenAI, Sam Altman, anunció en un transmitir en X El martes, la compañía pronto relajará algunas de las restricciones de seguridad de ChatGPT, permitiendo a los usuarios hacer que las respuestas del chatbot sean más amigables o más “humanas” y que los “adultos verificados” participen en conversaciones eróticas.

“Hicimos que ChatGPT fuera proporcionado restrictivo para asegurarnos de que tuviéramos cuidado con los problemas de vigor mental. Nos damos cuenta de que esto lo hizo menos útil/agradable para muchos usuarios que no tenían problemas de vigor mental, pero dada la compromiso del problema, queríamos hacerlo aceptablemente”, dijo Altman. “En diciembre, a medida que implementemos la restricción de etapa de guisa más completa y como parte de nuestro principio de ‘tratar a los usuarios adultos como adultos’, permitiremos aún más, como contenido amatorio para adultos verificados”.

El anuncio es un modismo sobresaliente en el esfuerzo de meses de OpenAI para tocar las relaciones preocupantes que algunos usuarios mentalmente inestables han desarrollado con ChatGPT. Altman parece fallar una triunfo temprana sobre estos problemas, afirmando que OpenAI ha “pudo mitigar los graves problemas de vigor mental” en torno a ChatGPT. Sin secuestro, la compañía ha proporcionado poca o ninguna evidencia de esto y ahora sigue delante con sus planes para que ChatGPT participe en chats sexuales con usuarios.

Este verano surgieron varias historias preocupantes en torno a ChatGPT, específicamente su maniquí GPT-4o, lo que sugiere que el chatbot de IA podría transigir a los usuarios vulnerables a madrigueras delirantes. En un caso, ChatGPT pareció convencer a un hombre de que era un condición de las matemáticas que necesitaba exceptuar el mundo. En otro, los padres de un adolescente demandaron a OpenAI, alegando que ChatGPT alentó las ideas suicidas de su hijo en las semanas previas a su crimen.

En respuesta, OpenAI lanzó una serie de características de seguridad para tocar la adulación de la IA: la tendencia de un chatbot de IA a enganchar a los usuarios al aceptar todo lo que dicen, incluso los comportamientos negativos.

OpenAI lanzó GPT-5 en agosto, un nuevo maniquí de IA que muestra tasas más bajas de adulación y cuenta con un enrutador que puede identificar el comportamiento preocupante del favorecido. Un mes a posteriori, OpenAI lanzó funciones de seguridad para menores, incluido un sistema de predicción de la etapa y una forma de padres controlar la cuenta ChatGPT de sus hijos adolescentes. OpenAI anunció el martes la formación de un consejo de expertos de profesionales de la vigor mental para asesorar a la empresa en materia de bienestar e IA.

Escasamente unos meses a posteriori de que surgieran estas preocupantes historias, OpenAI parece pensar que los problemas de ChatGPT relacionados con los usuarios vulnerables están bajo control. No está claro si los usuarios siguen cayendo en delirantes madrigueras de conejo con GPT-5. Y aunque GPT-4o ya no es el predeterminado en ChatGPT, el maniquí de IA todavía está habitable hoy y lo utilizan miles de personas.

La inmersión del erotismo en ChatGPT es un demarcación desconocido para OpenAI y genera preocupaciones más amplias sobre cómo los usuarios vulnerables interactuarán con las nuevas funciones. Si aceptablemente Altman insiste en que OpenAI no maximiza el uso ni optimiza la décimo, hacer que ChatGPT sea más amatorio ciertamente podría atraer a los usuarios.

Permitir que los chatbots participen en juegos de roles románticos o eróticos ha sido una logística de décimo eficaz para otros proveedores de chatbots de IA, como Character.AI. La empresa ha hato decenas de millones de usuarios, muchos de los cuales utilizan sus chatbots a un ritmo elevado. Character.AI dijo en 2023 que los usuarios gastaron un promedio de dos horas al dia hablando con sus chatbots. La empresa incluso enfrenta una demanda sobre cómo maneja a los usuarios vulnerables.

OpenAI está bajo presión para hacer crecer su colchoneta de usuarios. Si aceptablemente ChatGPT ya es utilizado por 800 millones de usuarios activos semanales, OpenAI está compitiendo contra Google y Meta para crear productos de consumo impulsados ​​por IA de apadrinamiento masiva. La compañía incluso ha recaudado miles de millones de dólares para una construcción histórica de infraestructura, una inversión que OpenAI eventualmente deberá devolver.

Mientras que los adultos son seguramente teniendo relaciones románticas con chatbots de IAincluso es proporcionado popular entre los menores. Un nuevo noticia del Centro para la Democracia y la Tecnología encontró que 19% de los estudiantes de secundaria ha tenido una relación romántica con un chatbot de IA o conoce a un amigo que la tiene.

Altman dice que OpenAI pronto permitirá el erotismo para “adultos verificados”. Un portavoz de OpenAI le dice a TechCrunch que la compañía confiará en el sistema de predicción de etapa que está construyendo para asegurar que las funciones eróticas de ChatGPT solo estén disponibles para usuarios adultos.

Como Altman escribió anteriormente en un publicación de blog, Si el sistema de predicción de etapa de OpenAI marca incorrectamente a un adulto como beocio, es posible que los usuarios de ChatGPT tengan que cargar una imagen de su identificación emitida por el gobierno en ChatGPT para corregirlo. Altman escribe que, aunque se tráfico de un compromiso de privacidad, la empresa cree que es una “compensación digna”.

No está claro si OpenAI extenderá el erotismo a sus herramientas de coexistentes de voz, imágenes y videos de IA.

Altman afirma que OpenAI incluso está haciendo que ChatGPT sea más cariñoso y amatorio oportuno al principio de la compañía de “tratar a los usuarios adultos como adultos”. Durante el zaguero año, OpenAI ha evolucionado cerca de una logística de moderación de contenido más indulgente para ChatGPT, lo que permite que el chatbot sea más permisivo y ofrezca menos rechazos. En febrero, OpenAI se comprometió a representar más puntos de panorámica políticos en ChatGPT, y en marzo, la compañía actualizó ChatGPT para permitir imágenes de símbolos de odio generadas por IA.

Estas políticas parecen ser un intento de hacer que la respuesta de ChatGPT sea más popular entre una amplia variedad de usuarios. Sin secuestro, los usuarios vulnerables de ChatGPT pueden beneficiarse de salvaguardas que limitan lo que puede interactuar con un chatbot. A medida que OpenAI se acerca a los mil millones de usuarios activos semanales, la tensión entre el crecimiento y la protección de los usuarios vulnerables sólo puede crecer.

Puesta al día 14/10/25 a las 4:40 p.m. PT: esta historia se actualizó para incluir comentarios de OpenAI.