Los filtros para “adultos” de ChatGPT tienen errores

Las fuentes le dijeron al WSJ que dudaban que las herramientas de OpenAI estuvieran listas para excluir a los niños del contenido prohibido.

Su denuncia de irregularidades viene luego OpenAI despidió a un parada ejecutante de seguridad quien se opuso al tirada del “modo adulto”. OpenAI negó que el despido estuviera relacionado, pero el empleado saliente criticó directamente tanto la capacidad de la empresa de inteligencia fabricado para aislar a los niños del contenido como para evitar que los productos promuevan la explotación de niño. Por otra parte, un segundo ex miembro del personal de seguridad asimismo habló el otoño pasado, advirtiendo que los padres no deberían encargar en las afirmaciones del “modo adulto” de OpenAI.

Para contrarrestar esta novelística, el portavoz de OpenAI prometió que la compañía “ha desarrollado un plan para monitorear una variedad de posibles artículos a abundante plazo del modo adulto, tanto positivos como negativos”.

Sin confiscación, ese plan probablemente fue desarrollado con los mismos expertos que, según informó el WSJ, se oponen firmemente a su implementación, lo que hace que los padres se pregunten si a OpenAI le importan los consejos de su equipo de bienestar jovial o no.

Por otra parte de los controles de antigüedad ineficaces o los menores inteligentes que eluden las barreras de antigüedad, OpenAI puede tener problemas con los padres si sus propios sistemas fallan inesperadamente. En abril, cuando OpenAI comenzó a incursionar con resultados más atrevidos, OpenAI solucionó un error que Pruebas TechCrunch enfrentado fue permitir a menores entrar a contenidos eróticos gráficos en ChatGPT. Parece que se rompieron los filtros de OpenAI que se suponía que restringían claramente “el contenido sensible como el erotismo a contextos limitados como los informes científicos, históricos o de noticiero”.

“En este caso, un error permitió respuestas fuera de esas pautas, y estamos implementando activamente una opción para acotar estas generaciones”, dijo OpenAI en ese momento.

OpenAI no respondió a la solicitud de Ars de hacer comentarios.

Si usted o determinado que conoce tiene tendencias suicidas o está angustiado, llame al número de la Tendencia de vida para la prevención del suicidio marcando 988, que lo pondrá en contacto con un centro de crisis almacén.