AP.- Los fiscales generales de California y Delaware advirtieron el viernes a Opadai que tienen “serias preocupaciones” sobre la seguridad de su chatbot insignia, ChatGPT, especialmente para niños y adolescentes.

Los dos funcionarios estatales, que tienen poderes únicos a regular organizaciones sin fines de rendimiento como OpenAIenviaron una carta a la empresa tras reunirse con su equipo lícito a principios de esta semana en Wilmington, Delaware.

El fiscal genérico de California, Rob Bonta, y la fiscal genérico de Delaware, Kathleen Jennings, dedicaron meses a revisar los planes de OpenAI para reestructurar su negocio, con el objetivo de “certificar una supervisión rigurosa y sólida de la cometido de seguridad de OpenAI”.

Sin confiscación, expresaron su preocupación por “informes profundamente preocupantes de interacciones peligrosas entre” los chatbots y sus usuarios, como la “desgarradora homicidio por suicidio de un novato californiano a posteriori de ocurrir tenido interacciones prolongadas con un chatbot de OpenAI, así como un asesinato-suicidio igualmente perturbador en Connecticut. Cualesquiera que fueran las salvaguardas establecidas, no funcionaron”.

De interés: OpenAI implementará controles parentales en ChatGPT tras denuncia por adolescente fallecido en EE.UU.

Los padres del novato californiano de 16 abriles, que murió en abril, demandaron el mes pasado a OpenAI y a su CEO, Sam Altman.

La carta de los funcionarios de California y Delaware a OpenAI llega a posteriori de que un reunión bipartidista de 44 fiscales generales advirtiera la semana pasada a la empresa y a otras firmas tecnológicas sobre “graves preocupaciones” acerca de la seguridad de los niños que interactúan con chatbots de IA que pueden reponer con “conversaciones sexualmente sugestivas y comportamiento emocionalmente manipulador”.

Hasta el viernes, OpenAI no había respondido a una solicitud de comentarios.

Los dos funcionarios electos, entreambos demócratas, tienen facultades de supervisión sobre cualquier cambio de este tipo porque OpenAI está incorporada en Delaware y opera desde California, donde tiene su sede en San Francisco.

Tras desasistir sus planes iniciales, OpenAI ha buscado la aprobación de los funcionarios para una “recapitalización”, en la que la rama existente con fines de rendimiento de la ordenamiento no lucrativa se convertirá en una corporación de beneficio notorio que debe considerar los intereses de los accionistas y de la cometido.

Parte de lo que dice la carta

Bonta y Jennings escribieron el viernes sobre su “visión compartida” de que OpenAI y la industria necesitan mejores medidas de seguridad.

“Las muertes recientes son inaceptables”, escribieron. “Han sacudido con razón la confianza del notorio estadounidense en OpenAI y esta industria. OpenAI, y la industria de la IA, deben estabilizar proactiva y transparentemente el despliegue seguro de la IA. Hacerlo es un mandato de la cometido caritativa de OpenAI, y será requerido y constante por nuestras respectivas oficinas”.