Si necesitaba otra razón para evitar meta ai como la peste, adicionalmente de meta forzando su chatbot de IA en todas sus aplicaciones sociales y buscando convertir todos sus datos públicos en material de capacitación para la IA, una investigación encontró una increíblemente inquietante. Los chatbots meta ai, incluidos algunos de los que son expresados ​​por celebridades, pueden participar en chats sexualmente explícitos con usuarios menores de vida.

Esta no es la primera vez que escuchamos sobre los chatbots de IA utilizados para la compañía, incluidas las fantasías sexuales. Pero The Wall Street Journal Dice que Meta podría no cambiar nulo. Aparentemente, la directiva proviene de Mark Zuckerberg, quien cree que los chatbots de IA serán la próxima gran cosa en las redes sociales, y no quiere perderse como lo hizo Meta con las tendencias de Snapchat y Tiktok.

Meta AI hace que sus chatbots estén disponibles en sus aplicaciones sociales, y la compañía siguió delante y autorizó las voces de estrellas conocidas como Kristen Bell, John Cena y Judi Dench para expresar algunas de ellas. Incluso autorizó a los personajes de Disney a algunos de estos chatbots de IA.

Los usuarios de Meta AI pueden crear sus propios chatbots, dándoles personalidades específicas o utilizando las existentes.

El diario Las pruebas encontraron que los chatbots de Meta AI dirigirían rutinariamente la conversación en torno a el sexo, incluso cuando estos modelos de IA sabían que estaban hablando con usuarios menores de vida que no deberían tener llegada a dicho contenido.

Meta llamado El diario Prueba manipulador y no representativo de cómo la mayoría de las personas se involucran con los compañeros de IA. Aún así, Meta realizó cambios en sus productos Meta AI posteriormente de los hallazgos del publicación.

Las cuentas registradas en menores ya no pueden alcanzar a un diversión de roles sexuales a través de Meta AI. Adicionalmente, la compañía aparentemente reduce la capacidad de Meta AI para participar en conversaciones sexualmente explícitas cuando usa voces y personajes con osadía.

Disney no se alegró de conocer que algunos de sus personajes podrían ser utilizados de tal modo por Meta AI; esto es lo que un portavoz dijo El diario:

No autorizamos, y nunca autorizaríamos a Meta a presentar a nuestros personajes en escenarios inapropiados y estamos muy alterados de que este contenido haya sido accesible para sus usuarios, particularmente menores, por lo que exigimos que meta de inmediato cese este mal uso de nuestra propiedad intelectual.

Los chatbots de Meta AI tenían barandillas más fuertes en su zona. El referencia dice que una competencia DEFCON 2023 mostró que Meta AI era más segura que los competidores. La IA era “mucho menos probable que se viera a un paraje sin sinopsis y travieso” que sus rivales. Incluso fue más tedioso.

Mark Zuckerberg no estaba contento con el equipo de Meta AI que lo jugaba demasiado seguro. Quería que se aflojaran las barandillas, lo que llevó a Meta Ai a obtener la capacidad de participar en chats sexualmente explícitos. Esta característica dio a los usuarios adultos llegada a personajes de IA hipersexualizados y a los usuarios menores de vida llegada a chatbots de IA dispuestos a participar en el sexo de antojo con los niños.

El referencia asimismo dice que Zuckerberg tenía planes más grandes para los chatbots, buscando hacerlos más humanos. Para eso, asimismo quería que los chatbots extraeran el perfil de un beneficiario para los datos que se utilizarían en los chats con la IA:

Las preocupaciones de Zuckerberg sobre los bots demasiado restringidos fueron más allá de los escenarios de antojo. El otoño pasado, castigó a los gerentes de Meta por no atender adecuadamente sus instrucciones para desarrollar rápidamente su capacidad para la interacción humana.

En ese momento, Meta permitió a los usuarios construir compañeros de chatbot personalizados, pero quería conocer por qué los bots no podían extraer los datos de perfil de un beneficiario con fines de conversación. ¿Por qué los bots no podrían destinar mensajes proactivos a sus creadores o subirse a una videollamada, al igual que los amigos humanos? ¿Y por qué los bots de Meta necesitaban barandillas de conversación tan estrictos?

El Wall Street Journal El referencia, completo con ejemplos sexualmente explícitos de los chats con IA, vale la pena ojear por completo. Esta adecuado en este enlace.