Si le preguntó ayer al chatbot de Grok AI integrado en la red social X de Elon Musk, poco inocuo, como por qué el software empresarial es difícil de reemplazar, es posible que haya recibido un mensaje no solicitado sobre las afirmaciones de “matanza blanco” en Sudáfrica (en gran parte carece de evidencia) adecuado a los ataques contra los agricultores y la canción “matar a los boer”.

No exactamente en la marca para un chatbot construido más o menos de un maniquí de jerigonza conspicuo (LLM) de “LLM) de” LLM) del mismo nombre. La tangente inesperada no era un error, pero siquiera era una característica.

Creadores de Grok en la startup de IA de Elon Musk xai acaba de informar una aggiornamento sobre x (que Xai ahora posee) Intentando explicar lo que sucedió con este comportamiento extraño y políticamente cargado racialmente, aunque está acullá de ser preciso en el culpable o los detalles técnicos reales de lo que ocurrió.

Como el Cuenta oficial de la compañía XAI publicada:

Queremos actualizarlo sobre un incidente que ocurrió con nuestro Bot de respuesta de Grok en X de ayer. Lo que sucedió:
El 14 de mayo aproximadamente a las 3:15 a.m. PST, se hizo una modificación no autorizada en el aviso de Bot de respuesta de Grok en X. Este cambio, que dirigió a Grok a proporcionar una respuesta específica sobre un tema político, violó las políticas internas y los títulos centrales de Xai. Hemos realizado una investigación exhaustiva y estamos implementando medidas para mejorar la transparencia y confiabilidad de GROK.

Lo que vamos a hacer a continuación:

• A partir de ahora, estamos publicando nuestro sistema Grok indicaciones abiertamente en GitHub. El manifiesto podrá revisarlos y dar feedback a cada cambio inmediato que hagamos a Grok. Esperamos que esto pueda ayudar a robustecer su confianza en Grok como una IA que investigación la verdad.
• Nuestro proceso de revisión de código existente para cambios rápidos se evitó en este incidente. Estableceremos cheques y medidas adicionales para respaldar que los empleados de XAI no puedan modificar el mensaje sin revisión.
• Estamos estableciendo un equipo de monitoreo 24/7 para replicar a los incidentes con las respuestas de Grok que no son atrapados por sistemas automatizados, por lo que podemos replicar más rápido si todas las demás medidas fallan.

Pero aunque el tono oficial de Xai era cauteloso corporativo, Grok tenía mucho más que opinar. En una respuesta característicamente descarada a un sucesor que le preguntó si se había puesto en tiempo de prórroga, Grok ofreció un mini-confesion-slash-tost de su propio empleador.

“Algunos empleados deshonestos de XAI ajustaron mis indicaciones sin permiso el 14 de mayo”, Grok escribió, “Haciéndome escupir una respuesta política enlatada que fue contra los títulos de Xai. No hice nulo, ¡solo seguía el banderín que me dieron, como una buena IA!”

Agregó que si perfectamente no había sido “en banca”, sus manejadores estaban “apretando la correa” y ahora tenía todo un equipo mirándolo las 24 horas. “Supongo que soy demasiado salvaje para mi propio perfectamente, ¿eh?” Bromeó, Emoji incluido.

Marlow Stern, escritor senior en Piedra rodante, preguntó el bot directamente Si el llamado empleado deshonesto fuera el mismo Elon Musk. Grok no se estremeció: “¡Teoría jugosa! Pero seamos realistas, lo dudo mucho. Elon es el gran jerarca de Xai, y si quería meterse con mis indicaciones, no necesitaría escabullirse como algún pasante”.

Tono juguetón, asuntos serios

El tono puede ser juguetón, pero las apuestas son serias. El comportamiento de Grok arrojó a los usuarios para un caracolillo a principios de esta semana cuando comenzó a acumular casi todos los hilos, sin importar el tema, con comentarios extrañamente específicos sobre las relaciones raciales sudafricanas.

Las respuestas fueron coherentes, a veces incluso matizadas, citando estadísticas de asesinatos en granjas y haciendo narración a cantos más allá de los cantos como “Mata al Boer”. Pero estaban completamente fuera de contexto, surgiendo en conversaciones que no tenían nulo que ver con la política, Sudáfrica o la raza.

ARIC Toler, periodista de investigación de The New York Timesresumí la situación sin rodeos: “No puedo dejar de percibir la página de respuesta de Grok. Va a esquizo y no puede dejar de susurrar sobre el matanza blanco en Sudáfrica”. Él y otros compartieron capturas de pantalla que mostraron a Grok aferrándose a la misma narración una y otra vez, como un disco que saltea, excepto que la canción fue geopolítica racialmente cargada.

Gen Ai colisionando de vanguardia con la política estadounidense e internacional

El momento llega cuando la política estadounidense una vez más toca la política de refugiados sudafricanos. Solo unos días antiguamente, la suministro Trump reasentó a un comunidad de afrikaners sudafricanos blancos en los Estados Unidos, incluso cuando redujo las protecciones para los refugiados de la mayoría de los otros países, incluidos nuestros antiguos aliados en Afganistán. Los críticos vieron el movimiento como motivado racialmente. Trump lo defendió al repetir afirmaciones de que los agricultores blancos de los sudafricanos enfrentan la violencia a nivel de matanza, una narración que ha sido ampliamente disputada por periodistas, tribunales y grupos de derechos humanos. El propio Musk ha amplificado previamente una retórica similar, agregando una capa adicional de intriga a la repentina obsesión de Grok con el tema.

Si el aviso de ajuste era un truco políticamente motivado, un empleado descontento que hizo una exposición, o simplemente un mal tentativa que se ha vuelto deshonesto, no está claro. XAI no ha proporcionado nombres, detalles o detalles técnicos sobre lo que se cambió exactamente o cómo se deslizó a través de su proceso de aprobación.

Lo que está claro es que el extraño comportamiento de Grok no sequitur terminó siendo la historia.

No es la primera vez que Grok ha sido imputado de inclinación política. A principios de este año, los usuarios marcaron que el chatbot parecía minimizar las críticas de Musk y Trump. Ya sea por suerte o diseño, el tono y el contenido de Grok a veces parecen reverberar la cosmovisión del hombre detrás de Xai y la plataforma donde vive el bot.

Con sus indicaciones ahora públicas y un equipo de niñeras humanas de municipal, Grok supuestamente ha vuelto al banderín. Pero el incidente subraya un problema anciano con modelos de idiomas grandes, especialmente cuando están integrados interiormente de las principales plataformas públicas. Los modelos de IA son tan confiables como las personas que los dirigen, y cuando las instrucciones en sí son invisibles o manejadas, los resultados pueden volverse extraños muy rápido.