Los investigadores han descubierto un nuevo ataque de la sujeción de suministro llamado Slopsquatting, donde los actores de amenaza explotar nombres de paquetes alucinados e inexistentes Generado por herramientas de codificación de IA como GPT-4 y Codellama. Estos paquetes creíbles pero falsos, que representan casi el 20% de las muestras probadas, pueden ser registradas por atacantes para distribuir código desconfiado. Informes en linde de CSO: SlopSquatting, como lo llaman los investigadores, es un término primero acuñado por Seth Larson, un desarrollador de seguridad en residencia en Python Software Foundation (PSF), por su referencia con la técnica de tipogratación. En circunscripción de encargar en el error de un becario, como en los tyiposquats, los actores de amenaza confían en el error de un maniquí de IA. Se encontró que un número significativo de paquetes, que ascienden al 19.7% (205,000 paquetes), recomendados en muestras de prueba son falsos. Los modelos de código libre, como Deepseek y WizardCoder, alucinados con más frecuencia, con el 21.7% en promedio, en comparación con los comerciales (5.2%) como GPT 4. Los investigadores encontraron que Codellama (alucinando sobre un tercio de los resultados) es el peor delincuente y GPT-4 turbo (solo 3.59% alucinaciones) como el mejor desempeño.

Estas alucinaciones de paquetes son particularmente peligrosas, ya que se descubrió que eran persistentes, repetitivas y creíbles. Cuando los investigadores reran 500 indicaciones que habían producido previamente paquetes alucinados, el 43% de las alucinaciones reaparecían cada vez en 10 re-ejes sucesivas, con el 58% de ellos apareciendo en más de una carrera. El estudio concluyó que esta persistencia indica “que la mayoría de las alucinaciones no son solo ruido accidental, sino artefactos repetibles de cómo responden los modelos a ciertas indicaciones”. Esto aumenta su valencia para los atacantes, agregó. Adicionalmente, se observó que estos nombres de paquetes alucinados eran “semánticamente convincentes”. El treinta y ocho por ciento de ellos tenía una similitud de sujeción moderada con paquetes reales, lo que sugiere una estructura de nombres similar. “Solo el 13% de las alucinaciones eran errantes simples fuera de uno”, agregó Socket. La investigación puede encontrarse en un artículo en arxiv.org (PDF).