Nicolas Curien, entendido francés en ética de cuestiones digitales avisó, en una conferencia de la Unesco sobre nuevas tecnologías, que la inteligencia industrial (IA) generativa no está hecha para la verdad porque “conoce las palabras, pero no el mundo”.

Así lo sintetizó Curien en declaraciones a EFE en la sede la Unesco, en París, en una sesión organizada durante la Semana del Sonido, que tráfico cuestiones sociales ligadas al medio sonoro como la irrupción de inteligencias artificiales capaces de porfiar voces reales.

“En lo que concierne al respeto de la verdad y la autenticidad, la IA generativa no está hecha efectivamente para ellas, porque conoce las palabras, pero no conoce el mundo para aseverar la verdad”, opinó.

El miembro del Comité Consultivo Doméstico de la Ética Digital de Francia subrayó la importancia de ser consciente de los límites de la IA y emplearla como una “utensilio”, hexaedro que, al ignorar “el mundo que nos rodea”, requiere de la intervención humana.

“La IA no tiene siquiera una tecnología promotora de la verdad, luego debemos contar con el sentido crítico humano para interpretar la producción de la IA generativa”, sostuvo.

Encima, hizo hincapié en la pluralidad de contenidos empleados por la IA y su capacidad de producción, ya que tráfico toda clase de datos, incluida la voz humana.

“La IA no tráfico solo texto; tráfico y reproduce imágenes y sonidos. Por eso es importante retener cómo lo hace y en qué medida puede imitar la producción humana”, agregó.

En este sentido, el rápido progreso de la IA generativa ya ha propiciado la aparición de ‘deepfakes’ o ultrafalsificaciones: contenido parcial o enteramente generados por dicha tecnología para difundir imágenes o sonidos falseados con gran precisión.

Curien fue uno de los participantes del panel dedicado a la IA en la Semana del Sonido de la Unesco de este año, centrada en las últimas innovaciones en el ámbito de la concierto, en el que pudo atracar las ultrafalsificaciones unido al presentador del evento, el periodista y profesor Christophe Rioux.

“La capacidad de reproducir una voz a la perfección abre la vía a las manipulaciones, a los fraudes y a las nuevas formas de influencia psicológica, como subrayan especialistas en ciencias humanas, cognitivas y digitales”, coincidió Rioux.

El explicación de la IA, de acuerdo con lo tratado en el panel, podría suponer la potencial sustitución de empleos basados en la interpretación, la traducción, el doblaje o la música, pero incluso podría influir en la vida privada, hexaedro que facilita la suplantación de identidades mediante la distracción de voces con herramientas de IA.

La Semana del Sonido de la Unesco adquirió el status de ONG de dicha institución en 2024, y tráfico anualmente cuestiones ligadas a la sanidad auditiva, la acústica, las técnicas de cinta y la expresión musical.