Medios de sentido globaluna proposición sin fines de utilidad centrada en la seguridad para niños que ofrece calificaciones y revisiones de medios y tecnología, publicó su evaluación de riesgos de los productos Gemini AI de Google el viernes. Mientras que la estructura descubrió que la IA de Google claramente les dijo a los niños que era una computadora, no un amigo, poco asociado con ayudar a impulsar delirante pensamiento y psicosis En individuos emocionalmente vulnerables, sugirió que había beneficio de progreso en varios otros frentes.

En particular, Common Sense dijo que los niveles “menores de 13” de Géminis y la “experiencia adolescente” parecían ser las versiones adultas de Géminis debajo del capó, con solo algunas características de seguridad adicionales agregadas en la parte superior. La estructura cree que para que los productos de IA sean en realidad más seguros para los niños, deben construirse con la seguridad inmaduro en mente desde cero.

Por ejemplo, su descomposición encontró que Géminis aún podría compartir material “inapropiado e inseguro” con los niños, para el que no pueden estar preparados, incluida la información relacionada con el sexo, las drogas, el trinque y otros consejos de sanidad mental inseguros.

Esto extremo podría ser de particular preocupación para los padres, ya que la IA ha jugado un papel en algunos suicidios para adolescentes en los últimos meses. Operai se enfrenta a su primera demanda por asesinato injusta posteriormente de que un chiquillo de 16 primaveras murió por suicidio posteriormente de presuntamente consultar con ChatGPT durante meses sobre sus planes, posteriormente de ocurrir pasado por suspensión con éxito las barandillas de seguridad del chatbot. Anteriormente, el personaje del fabricante de compañía de IA.Ai igualmente fue demandado por el suicidio de un favorecido adolescente.

Adicionalmente, el descomposición se produce cuando las filtraciones de parte indican que Apple está considerando a Gemini como el LLM (maniquí de estilo conspicuo) que ayudará a alentar su próxima Siri habilitada para AI, que salga el próximo año. Esto podría exponer más adolescentes a los riesgos, a menos que Apple mitiga las preocupaciones de seguridad de alguna guisa.

Common Sense igualmente dijo que los productos de Gemini para niños y adolescentes ignoraron cómo los usuarios más jóvenes necesitaban diferentes orientación e información que los mayores. Como resultado, uno y otro fueron etiquetados como “suspensión peligro” en la calificación genérico, a pesar de los filtros agregados por seguridad.

“Géminis obtiene algunos conceptos básicos correctos, pero se topa con los detalles”, dijo el director senior de los programas de IA de Common Sense Media, Robbie Torney, en un comunicado sobre la nueva evaluación sagacidad por TechCrunch. “Una plataforma de IA para niños debe cumplirlos donde están, no adoptar un enfoque único para niños en diferentes etapas de expansión. Para que la IA sea segura y efectiva para los niños, debe diseñarse con sus micción y expansión en mente, no solo una lectura modificada de un producto construido para adultos”, agregó Torney.

Google retrasó la evaluación, al tiempo que observó que sus características de seguridad estaban mejorando.

La compañía le dijo a TechCrunch que tiene políticas y salvaguardas específicas para que los usuarios menores de 18 primaveras ayuden a precaver resultados dañinos y que los equipos rojos y consultan con expertos externos para mejorar sus protecciones. Sin retención, igualmente admitió que algunas de las respuestas de Gemini no funcionaban según lo previsto, por lo que agregó salvaguardas adicionales para atracar esas preocupaciones.

La compañía señaló (como igualmente había señalado el sentido global) que tiene salvaguardas para evitar que sus modelos participen en conversaciones que podrían dar la apariencia de relaciones reales. Adicionalmente, Google sugirió que el crónica de Common Sense parecía ocurrir hecho remisión a características que no estaban disponibles para los usuarios menores de 18 primaveras, pero no tenía llegada a las preguntas que la estructura usaba en sus pruebas para estar seguros.

Common Sense Media ha realizado previamente otros evaluaciones de servicios de IA, incluidos los de Opadai, Perplejidad, Tirar, Meta aiy más. Encontró que meta ai y Personaje.Ai eran “inaceptables”, lo que significa que el peligro era molesto, no solo suspensión. La perplejidad se consideró de suspensión peligro, el chatGPT se etiquetó como “moderado”, y se descubrió que Claude (dirigido a los usuarios de 18 primaveras y más) era un peligro exiguo.