Los últimos modelos de IA de OpenAI parecen tener un gran problema. Un documentación revela que el GPT O3 y O4-Mini están produciendo información errónea a un ritmo inquietante.

La información errónea generada por IA, igualmente conocida como alucinaciones, son comunes entre la mayoría de los servicios de inteligencia sintético. The New York Times ha publicado una investigación realizada por OpenAI que descubrió que sus propios modelos están generando más contenido copiado que otros. Esto a su vez ha planteado serias preocupaciones sobre su confiabilidad.

GPT O3 y O4-Mini han sido diseñados para imitar el razonamiento y la dialéctica humanos. Cuando se pusieron a prueba en puntos de relato que involucran figuras públicas, se encontró que casi un tercio de los resultados de GPT O3 son alucinaciones. En comparación, GPT O1 tenía menos de la fracción de esa tasa de error en las pruebas que se realizaron el año pasado. A GPT O4-Mini le fue aún peor, ya que alucinaba el 48% de sus tareas. Cuando estos modelos abordaron preguntas de conocimiento genérico, las alucinaciones se elevaron al 51% para GPT O3 y un asombroso 79% para O4-Mini.

Operai dice que el problema asombroso no se debe a que los modelos de razonamiento sean peores, sino porque simplemente podrían ser más detallados y aventureros en sus respuestas, y especulan posibilidades en superficie de repetir hechos predecibles. Los desarrolladores inicialmente apuntaban a que estos sistemas piensen críticamente y razonen a través de consultas complejas; Sin secuestro, este enfoque avaricioso parece acontecer llevado a un aumento de la creatividad a dispendio de la fáctica.

Esto podría sugerir un gran problema para el CHATGPT de Openai, ya que los servicios rivales como Google Gemini, antrópico Claude, han sido diseñados para proporcionar información con anciano precisión. A diferencia de los modelos más simples centrados en las predicciones de ingreso confianza, GPT O3 y O4-Mini a menudo especulan, difuminando la linde entre los posibles escenarios y las fabricaciones directas. Esto aumenta las banderas rojas para los usuarios en entornos de detención peligro, desde profesionales legales hasta educadores y proveedores de atención médica, donde la dependencia de la IA podría conducir a pasos en copiado significativos.

Cuanto más útil se vuelve la IA, anciano será el potencial de errores críticos. Si aceptablemente los modelos de IA pueden aventajar a los humanos en ciertas tareas, el peligro de inexactitudes disminuye la credibilidad genérico de la IA. Hasta que estos problemas de quimera se aborden de modo efectiva, se aconseja a los usuarios que se acercan a la información generada por la IA con precaución y incredulidad.

Fuente: Radar tecnológico

Anuncio