El editor y desarrollador independiente Finji acusó a TikTok de utilizar IA generativa para alterar los anuncios de sus juegos en la plataforma sin su conocimiento o permiso. Finji, que publicó favoritos del indie como y , dijo que solo se dio cuenta de los anuncios aparentemente modificados luego de que los seguidores de su cuenta oficial de TikTok le alertaran sobre ellos.

Según lo informado por Finji alega que un anuncio que salió en la plataforma fue modificado para mostrar una representación “racista y sexualizada” de un personaje de uno de sus juegos. Si acertadamente anuncia en TikTok, dijo IGN que tiene la IA “completamente apagada”, pero luego de que la directora ejecutiva y cofundadora Rebekah Saltsman recibió capturas de pantalla de los anuncios en cuestión de los fanáticos, se acercó a TikTok para investigar.

Han aparecido varios anuncios de Finji en TikTok, algunos que incluyen montajes de los juegos de la compañía y otros que son específicos de juegos como uno para junio habitual. De acuerdo a IGNlos anuncios ofensivos modificados por IA (que todavía se publican como si vinieran directamente de Finji) aparecieron como presentaciones de diapositivas. Algunas imágenes no parecen ser tan diferentes de la fuente, pero un ejemplo posiblemente generado por IA trillado por IGN muestra junio habitualLa protagonista principal con “parte inferior de bikini, caderas y muslos increíblemente grandes y botas que le llegan hasta las rodillas”. No hace yerro sostener (y es obvio por la captura de pantalla oficial utilizada como imagen principal de este artículo) que no es así como aparece el personaje en el equipo.

En cuanto a la respuesta de TikTok, IGN publicó varias de las respuestas de la plataforma a las quejas de Finji, en las que inicialmente decía, en parte, que no pudo encontrar evidencia de que “se estén utilizando activos generados por IA o formatos de presentación de diapositivas”. Esto fue a pesar de que Finji envió a la página de atención al cliente una captura de pantalla de la imagen claramente editada mencionada anteriormente. En un intercambio posterior, TikTok pareció recordar la evidencia y aseguró al editor que “ya no discutía si esto ocurrió”. Agregó que ha intensificado el problema internamente y lo está investigando a fondo.

TikTok tiene una opción de “Creatividad inteligente” en su plataforma publicitaria, que esencialmente utiliza IA generativa para modificar los anuncios creados por el beneficiario de modo que se publiquen múltiples versiones, y aquellas a las que su audiencia avala más positivamente se usan con más frecuencia. Otra opción es la funciones, que utilizan IA para optimizar automáticamente cosas como música, enseres de audio y “calidad” visual caudillo para “mejorar la experiencia de visualización del beneficiario”. Saltsman mostró IGN evidencia de que Finji tiene ambas opciones desactivadas, lo que incluso fue confirmado por un agente de TikTok para el anuncio en cuestión.

Luego de una serie de intercambios cada vez más frustrados en los que TikTok finalmente admitió frente a Saltsman que el anuncio “plantea problemas importantes, incluido el uso no competente de IA, la sexualización y tergiversación de sus personajes y el daño comercial y de reputación resultante para su estudio”, se le ofreció al cofundador de Finji una especie de explicación.

TikTok dijo que la campaña de Finji utilizó un “formato de anuncios de catálogo” diseñado para “demostrar los beneficios de rendimiento de combinar carrusel y capital de video en campañas de ventas”. Dijo que esta “iniciativa” ayudó a los anunciantes a “obtener mejores resultados con menos esfuerzo”, pero no abordó directamente el contenido dañino. Al parecer, Finji incluso optó por este formato de anuncio sin entender que lo había hecho. TikTok se negó a comentar sobre el asunto cuando se le acercó IGN.

A Saltsman le dijeron que el problema no podía escalarse más y que la comunicación no se resolvió en el momento de la consulta. IGN publicando su mensaje. En una enunciación al medio, Saltsman dijo que estaba “un poco sorprendida por la total yerro de respuesta adecuada de TikTok al desastre”. “. Continuó diciendo que esperaba una disculpa y una respaldo clara de que un problema similar no volvería a ocurrir, pero “obviamente no estaba conteniendo la respiración por carencia de lo preliminar”.