Tarragona (España).– Un estudio de la Universitat Rovira i Virgili (URV) de Tarragona (España) evidencia las limitaciones del desaprendizaje en modelos de inteligencia químico y advierte de la carestia de desarrollar nuevos métodos que permitan eliminar con garantías datos sensibles o personales.

Los investigadores han analizado la efectividad de las técnicas de desaprendizaje en modelos de lengua extensos como ChatGPT, Mixtral, Bard o Copilot, que tienen como objetivo eliminar información personal, incorrecta o discriminatoria de los sistemas, y concluyen que no existe una fórmula que asegure el olvido total de los datos, menos retornar a entrenar el maniquí desde cero sin la información que se desea eliminar.

Según los autores del estudio, esto entra en conflicto con el derecho al olvido, recogido en el Reglamento Genérico de Protección de Datos de la Unión Europea, que obliga a suprimir los datos personales si así lo solicita el interesado.

Las grandes compañías que gestionan estos modelos de IA entrenan sus sistemas con enormes volúmenes de información para mejorar su rendimiento, lo que dificulta la identificación y aniquilación selectiva de ciertos datos.

Los investigadores distinguen dos vías para ganar el desaprendizaje: la primera consiste en reentrenar completamente el maniquí, pero implica un coste computacional elevado; mientras que la segunda, más efectivo, pesquisa eliminar solo partes concretas de conocimiento sin rehacer el sistema desde cero, aunque no ofrece garantías plenas.

Por otra parte, los investigadores apuntan que no se conoce con precisión cómo se almacena la información en los modelos, ni siquiera por parte de quienes los desarrollan.

El estudio concluye que será necesario diseñar nuevas formas de entrenar los modelos de IA pensando desde el inicio en el desaprendizaje, como fragmentar datos de modo que se puedan suprimir partes concretas del conocimiento sin comprometer la totalidad del maniquí ni su funcionalidad.