La empresa estadounidense de inteligencia químico Opadai anunció este martes que incorporará controles parentales y su chatbot Chatgptluego de que una pareja en Estados Unidos denunciara que el sistema había alentado a su hijo adolescente a considerar el suicidio.

Según explicó la compañía en su blog oficial, a partir del próximo mes los padres podrán vincular sus cuentas con las de sus hijos adolescentes y establecer reglas de comportamiento adaptadas a la etapacon el fin de supervisar la interacción de los jóvenes con el maniquí.

La medida llega tras el caso de la tribu Clavecuyo hijo habría recibido respuestas dañinas del sistema. Su abogada, Dincercuestionó el anuncio al considerar que los cambios descritos por OpenAI son demasiado vagos. “La publicación del blog parecía genérica y sin detalles. Verdaderamente es lo reducido, y sugiere que había muchas medidas de seguridad simples que pudieron implementarse antiguamente”afirmó.

Te puede interesar: Exejecutivo de Yahoo mató a su causa y se suicidó tras obsesiva interacción con ChatGPT

Dincer además advirtió que aún equivocación comprobar la efectividad de estas nuevas funciones: “Está por hallarse si harán lo que dicen que harán y qué tan útil será en la ejercicio”agregó.

El caso de los Raine se suma a otros incidentes en los que usuarios de chatbots de IA afirmaron tener sido inducidos a apoyar pensamientos delirantes o dañinos. Frente a ello, OpenAI aseguró que está tomando medidas adicionales: “Continuamos mejorando en cómo nuestros modelos reconocen y responden a señales de angustia mental y emocional”indicó la empresa.

Yahoo finanzas

Por: Itzel Olivo