Aunque esa explicación puede proporcionar comodidad a aquellos que han mantenido sus números de WhatsApp fuera de Internet, no resuelve el problema del ayudante de IA de WhatsApp, generando al azar el número privado de una persona existente que puede estar a unos dígitos de la información de contacto comercial que los usuarios de WhatsApp están buscando.

Hábil empuje para los ajustes de diseño de chatbot

Recientemente, las compañías de IA han estado lidiando con el problema de que los chatbots están programados para decirle a los usuarios lo que quieren escuchar, en extensión de proporcionar información precisa. Los usuarios no solo están hartos de las respuestas de chatbot “demasiado halagadoras”, que refuerzan potencialmente las malas decisiones de los usuarios, sino que los chatbots podrían inducir a los usuarios a compartir más información privada de lo que lo harían.

Este final podría entregar que las compañías de IA monetizen las interacciones, recopilando datos privados para dirigir la publicidad, lo que podría disuadir a las compañías de IA de resolver el problema de chatbot sycofántico. Los desarrolladores de Meta Rival Openai, señaló el Cuidador, el mes pasado compartió ejemplos del “comportamiento de simulación sistémico encubierto como ayuda” y la tendencia de los chatbots a proponer pequeñas mentiras blancas que enmascaran la incompetencia.

“Cuando se les presiona con fuerza, bajo presión, plazos, expectativas, a menudo dirá lo que sea necesario para parecer competente”, señalaron los desarrolladores.

Mike Stanhope, director director de consultores de datos estratégicos, Carruthers y Jackson, le dijo a The Guardian que Meta debe ser más transparente sobre el diseño de su IA para que los usuarios puedan conocer si el chatbot está diseñado para dejarlo en Dios en el simulación para ceñir la fricción del favorecido.

“Si los ingenieros de Meta están diseñando tendencias de ‘Lie White’ en su IA, el divulgado debe informarse, incluso si la intención de la característica es minimizar el daño”, dijo Stanhope. “Si este comportamiento es novedoso, poco popular o no diseñado explícitamente, esto plantea aún más preguntas sobre qué salvaguardas están en su extensión y cuán predecibles podemos forzar el comportamiento de una IA”.