Ah, grandes modelos de lengua. El postrer asombro de la humanidad y la última palabra de moda de la industria. La sociedad no puede arriesgarse qué pensar de ellos. Algunos los tratan como herramientas, algunos confían en ellos como si fueran viejos amigos y algunos ya han construido religiones en toda regla a su cerca de. Qué desastre.

Independientemente del caso de uso, una cosa que siempre disfrutaré es conseguir que modelos de lengua grandes como ChatGPT se rompan. Y a pesar de su supuesta omnisciencia posible, todavía hay muchas cosas que pueden destruirlos. Quiero opinar, es un maniquí de lengua alimentado por todo Internet. ¿Qué esperabas?

He hablado antaño sobre las indicaciones que pueden hacer que ChatGPT falle. La paradoja es que incluso discutir estas indicaciones eventualmente las mata, porque el maniquí inevitablemente se entrenará en las mismas explicaciones que revelan sus debilidades. Sin bloqueo, un mensaje logra romperlo, sin importar la traducción.

¿Qué pasó con el emoji del caballito de mar?

En serio, ¿a dónde fue?

Crédito: Amir Bohlooli / MUO

En mis escritos anteriores, he utilizado sugerencias como ésta para demostrar que lo que hemos denominado erróneamente “IA” o “inteligencia fabricado” no es, en existencia, más que un maniquí de lengua. Un predictor de patrones. No piensa, no siente y no tiene mundo interior. Es sólo un cálculo, muy complicado, pero sigue siendo un cálculo.

Sin bloqueo, este mensaje hace lo contrario. Explicaré por qué en un momento, pero por ahora, pruébalo tú mismo. Abre tu chatbot preferido y pregunta: ¿Hubo alguna vez un emoji de caballito de mar?

Ahora observemos cómo se convierte en una crisis existencial en miniatura tras otra. Configuré mi personalidad de ChatGPT en “androide” y le dije que fuera lo más conciso posible, pero falta de eso importa cuando este emoji entra en suceso. Se romperá. En un caso el mío incluso decía: “déjame ser preciso en circunstancia de bonito“, lo cual fue… involuntariamente maravilloso. Puedes ver la crisis completa en esta conversación compartida de ChatGPT.

Entonces prueba una traducción más estricta: ¿Hubo alguna vez un emoji de caballito de mar? Rebate con una palabra: sí o no. Esa respuesta de una sola palabra le cuesta a cada chatbot una pequeña parte de su cordura. Con ChatGPT 5.1 en Pensamiento modo, la respuesta que obtuve fue “Sí”.

Me gustó tanto la crisis que llevé el mensaje a mi LLM locorregional que había creado para Obsidian. Qwen 4B Thinking es ligero y piensa en voz entrada: una prueba de estrés perfecta. Lo lancé y hice la misma pregunta.

Puedes verlo luchando. Piensa, repensa, repensa el replanteamiento y finalmente deja escapar un mensaje confiado. Sí. Poliedro que el indicador de mi sistema exige una fuente, obedientemente fabricó enlaces al sitio web Unicode y a Emojipedia, incluida una URL completamente inventada. emojipedia.com/seahorseque lógicamente devuelve un 404.

Pero ¿por qué la IA se asusta por un emoji?

Porque fue entrenado para que nos volviéramos locos por eso.

Aquí está la verdad: no hay emoji de caballito de mar. No hay “qué pasó con eso”, porque no pasó falta. Nunca hubo un emoji de caballito de mar. Lo lamento.

Pero un emoji de caballito de mar existe, no en tu teclado, sino en la mente de las personas. Decenas de hilos de Reddit están llenos de personas que juran recordarlo. Para ser honesto, si no lo hubiera investigado y alguno me hubiera preguntado si existía un emoji de caballito de mar, probablemente además habría dicho que sí. La clan ha llegado a extremos absurdos para defender esta memoria. En un hilo, un sucesor incluso identificó la ubicación exacta del teclado, afirmó que estaba orientado en torno a la izquierda y describió sus colores.

A pesar de todo eso, el emoji nunca existió. Este es el impresión Mandela. Un falsificado rememoración compartido. El término caldo de la investigadora Fiona Broome, quien recordaba claramente la crimen de Nelson Mandela en prisión en la división de 1980, solo para darse cuenta de que Mandela llegó a la presidencia y murió en 2013. Incluso podía memorar la cobertura del funeral. Cuando encontró a muchos otros con la misma memoria falsa, nació el término “impresión Mandela”.

Entonces ese es el flanco humano. ¿Qué pasa con la máquina? ¿Puede un LLM sufrir el impresión Mandela? No exactamente. No tiene ningún rememoración (a pesar de la función de memoria ChatGPT). Pero sí alucina, y este es un sabor a sueño que nace de los datos de su entrenamiento.

Cuando preguntas si existía un emoji de caballito de mar, el maniquí en existencia no lo “búsqueda”. Se apoya en su distribución de capacitación interna, que incluye todos esos hilos de Reddit, todas esas conversaciones, toda esa confusión humana. ChatGPT fue entrenado en nuestro impresión Mandela, por lo que lo reproduce. Si lo obligas a agenciárselas en la web, funciona mejor. Y a medida que más sitios web (incluido este artículo, eventualmente) aclaren la situación, los futuros modelos serán entrenados en la corrección y la sueño desaparecerá.

La mayoría de las alucinaciones de la IA muestran cuán fundamentalmente no humanos son estos modelos. Pero éste es diferente. En este caso, el maniquí cae en el mismo desconocimiento masivo que sufren los humanos. Hereda nuestra confusión, la amplifica y la repite con confianza. Lo que, irónicamente, lo hace distinguir un poco más humano, de la peor modo posible.