Por Daniel Dale, CNN
Los republicanos del Senado publicaron esta semana un anuncio en línea en el que una versión falsa pero de apariencia real de un candidato demócrata, creada con inteligencia artificial, parece hablar directamente a la cámara durante más de un minuto.
El video falso de James Talarico, candidato demócrata en la contienda por el Senado de Estados Unidos en Texas, fue difundido por el Comité Nacional Republicano del Senado (NRSC, por sus siglas en inglés). Es el más reciente de una serie de contenidos generados con inteligencia artificial por la organización nacional de campaña del Partido Republicano durante el último año. Pero es el primero que presenta una versión falsa de un candidato hablando de forma tan realista durante tanto tiempo, un ejemplo de cuánto ha avanzado la tecnología de IA en poco tiempo y un indicio de hacia dónde podrían dirigirse los anuncios de ataque político.
“El rostro y la voz son muy buenos. Hay una ligera desincronización entre el audio y el video, pero por lo demás es hiperrealista y no creo que la mayoría de las personas se dé cuenta de inmediato de que es falso”, dijo en un correo electrónico Hany Farid, profesor de la University of California, Berkeley especializado en análisis forense digital.
El uso de contenidos falsos creados con IA en publicidad electoral plantea una serie de preguntas éticas. También ha provocado llamados bipartidistas para que se apruebe legislación federal o regulación sobre esta práctica, aunque esas propuestas también han enfrentado resistencia por preocupaciones relacionadas con la Primera Enmienda de la Constitución de Estados Unidos.
El anuncio, de 85 segundos, muestra a un “Talarico” creado con IA que parece leer con orgullo fragmentos de tuits de 2021 en los que el verdadero Talarico hizo comentarios sobre temas transgénero, raza y religión, así como un tuit de 2013 en el que recordó haber asistido a un evento de Planned Parenthood cuando era adolescente. Además, el anuncio muestra al falso “Talarico” haciendo nuevos comentarios elogiosos sobre sí mismo que no hay evidencia de que los haya pronunciado, elogiando esos tuits con frases como “oh, este es muy conmovedor” y “oh, este también me encanta”.
El anuncio comienza y termina con un narrador que lo describe como una “lectura dramática”, y aparece en pantalla un aviso que indica “GENERADO POR IA” durante casi todo el video. Sin embargo, el texto es pequeño, en gran parte tenue y está limitado a una esquina inferior de la pantalla. Mientras tanto, el falso “Talarico”, que aparece con saco y camisa abierta en el cuello, se parece de forma inquietante al candidato real.
Una fuente familiarizada con el pensamiento del NRSC describió la IA como una forma “consistentemente efectiva” de resaltar declaraciones de candidatos rivales y afirmó: “Estas son las palabras reales de Talarico… todo lo que hemos hecho es visualizarlas para los votantes utilizando una herramienta moderna, dentro de todos los parámetros legales y éticos”. La fuente, sin embargo, dijo no tener comentarios sobre los comentarios adicionales atribuidos al “Talarico” ficticio que parecen haber sido inventados para el anuncio.
La directora de comunicación del NRSC, Joanna Rodriguez, afirmó en un correo electrónico que los demócratas están “entrando en pánico después de escuchar las propias palabras de James Talarico”. El portavoz de la campaña de Talarico, JT Ennis, afirmó en un mensaje de texto que son los candidatos que compiten en las prim