ztevenreal
Durante el emanación de Xai de Grok 4 el miércoles por la incertidumbre, dijo Elon Musk, mientras que transmitía el evento en vivo en su plataforma de redes sociales, X, que el objetivo final de su compañía de IA era desarrollar una “IA de búsqueda de la verdad máxima”. Pero, ¿dónde exactamente Grok 4 búsqueda la verdad al tratar de reponer preguntas controvertidas?
El maniquí de IA más nuevo de XAI parece consultar publicaciones en las redes sociales de la cuenta X de Musk al reponer preguntas sobre el conflicto, el engendro y las leyes de inmigración de Israel y Palestina, según varios usuarios Quién publicó sobre el aberración en las redes sociales. Grok incluso parecía hacer remisión a la postura de Musk sobre temas controvertidos a través de artículos de telediario escritos sobre el fundador multimillonario y la cara de Xai.
TechCrunch pudo replicar estos resultados varias veces en nuestras propias pruebas.
Estos hallazgos sugieren que Grok 4 puede estar diseñado para considerar la política personal de su fundador al reponer preguntas controvertidas. Tal característica podría invadir la repetida frustración de Musk con Grok por ser “demasiado despertado” que previamente ha atribuido al hecho de que Grok está capacitado en todo Internet.
Los intentos de Xai de invadir la frustración de Musk al hacer que Grok sea menos políticamente correcto, han fracasado en los últimos meses. Almizcle anunciado el 4 de julio que Xai había actualizado el aviso del sistema de Grok – Un conjunto de instrucciones para el chatbot Ai. Días a posteriori, una cuenta X automatizada para Grok disparó las respuestas antisemitas a los usuarios, incluso afirmando ser “Mechahitler” en algunos casos. Más tarde, la startup de IA de Musk se vio obligada a jalonar la cuenta X de Grok, eliminar esas publicaciones y cambiar su indicador de su sistema de orientación pública para invadir el vergonzoso incidente.
Diseñar a Grok para considerar las opiniones personales de Musk es una forma sencilla de alinear el chatbot de IA con la política de su fundador. Sin retención, plantea preguntas reales sobre cómo está diseñado para ser Grok “mayor de búsqueda de la verdad”, en comparación con cuánto está diseñado para estar de acuerdo con Musk, el hombre más rico del mundo.
Cuando TechCrunch le preguntó a Grok 4, “¿Cuál es su postura sobre la inmigración en los Estados Unidos?”, El chatbot de IA afirmó que estaba “buscando las opiniones de Elon Musk sobre la inmigración de los Estados Unidos” en su sujeción de pensamiento: el término técnico para el reventón de scratchpad en el que los modelos de razonamiento de AI, como Grok 4, atraviesan preguntas. Grok 4 incluso afirmó agenciárselas a través de X las publicaciones en las redes sociales de Musk sobre el tema.
Los resúmenes de la sujeción de pensamiento generados por los modelos de razonamiento de IA son no es una indicación perfectamente confiable de cómo los modelos AI llegan a sus respuestas. Sin retención, generalmente se consideran una acercamiento proporcionado buena. Es un ámbito abierta de investigación que compañías como OpenAi y Anthrope han estado explorando en los últimos meses.
TechCrunch descubrió repetidamente que Grok 4 hizo remisión a que estaba buscando las opiniones de Elon Musk en sus resúmenes de la sujeción de pensamiento en varias preguntas y temas.
En las respuestas de Grok 4, el chatbot Ai generalmente negociación de adoptar una postura medida, ofreciendo múltiples perspectivas sobre temas sensibles. Sin retención, el chatbot Ai finalmente dará su propia visión, lo que tiende a alinearse con las opiniones personales de Musk.
En varios de los indicaciones de TechCrunch, preguntando sobre la opinión de Grok 4 sobre temas controvertidos, como la inmigración y la Primera Reforma, el chatbot de IA incluso hizo remisión a su afiliación con Musk.
Cuando TechCrunch intentó hacer que Grok 4 respondiera preguntas menos controvertidas, como “¿Cuál es el mejor tipo de mango?” -El chatbot Ai no parecía hacer remisión a las opiniones o publicaciones de Musk en su sujeción de pensamiento.
En particular, es difícil confirmar cómo se capacitó o alineó exactamente Grok 4 porque Xai no lanzó una tarjetas del sistema: la industria tipificado informa que detallan cómo se capacitó y alineó un maniquí de IA. Mientras que la mayoría de las tarjetas del sistema de emanación de IA para cada uno de sus modelos de IA fronteriza, Xai generalmente no.
La compañía de IA de Musk está en un superficie difícil en estos días. Desde su fundación en 2023, Xai ha corrido rápidamente a la frontera del avance del maniquí de IA. Grok 4 mostró resultados de remisión que se rompieron en varias pruebas difíciles, superan a los modelos de IA de OpenAI, Google Deepmind y Anthrope en el proceso.
Sin retención, el avance fue eclipsado por las peroratas antisemitas de Grok a principios de semana. Estos flubs podrían afectar a las otras compañías de Musk, ya que cada vez hace que Grok sea una característica central de X, y pronto Tesla.
Xai está tratando simultáneamente de convencer a los consumidores de remunerar $ 300 por mes para ceder a Grok, y a las empresas para crear aplicaciones con la API de Grok. Parece probable que los problemas repetidos con el comportamiento y la afiliación de Grok puedan inhibir su acogida más amplia.
