La inteligencia artificial ya no es sólo una herramienta para generar memes o automatizar anuncios. Se usa para fabricar contenidos falsos, manipular percepciones y generar negativos a los adversarios políticos.

El año pasado en EEUU, el Comité Senatorial Republicano lanzó un ataque con un video generado por IA donde el líder demócrata Chuck Schumer parece decir en televisión algo negativo sobre el cierre parcial del gobierno. El video mezcla sus palabras reales con una imagen fabricada y llevó la discusión sobre ética y manipulación informativa al centro del debate. 

En el 2023 en Argentina, equipos de campaña publicaron imágenes y videos alterados con IA: desde representaciones caricaturescas de rivales como figuras de terror hasta deepfakes con insinuaciones falsas sobre consumo de drogas. También se detectaron audios creados por IA contra candidatos en elecciones en Colombia y en la India.  

El uso de bots y enjambres digitales que parecen humanos impulsados por IA puede inundar plataformas como X o Facebook con mensajes coordinados, pareciendo debates genuinos, pero en realidad amplifican la desinformación y polarización.  

Actualmente en las apps de mensajería como WhatsApp, Telegram, y redes sociales como TikTok e Instagram, es muy común la distribución de videos de personajes políticos donde se les escucha y ve, diciendo cosas que nunca dijeron, o audios fabricados para sembrar miedo o confusión. 

Es el uso de las softfakes emocionales, que son imágenes generadas para provocar reacciones viscerales,  como asociar a un político con violencia, una idea falsa o con ideologías extremas sin prueba alguna.

El uso de la IA permite que la escalada sea rápida, un deepfake puede viralizarse en horas, mucho antes de que los hechos reales lleguen a la audiencia. 

Esto a su vez genera confusión real, incluso cuando el contenido falso se etiqueta, ya que amplifica la duda, ¿y si lo real también es falso? 

Los equipos de comunicación actuales no están preparados para ello. 

La IA se está usando hoy para fabricar contenido político que difama, manipula y segmenta audiencias. Los ejemplos van desde deepfakes de líderes políticos como el video con Chuck Schumer en EE. UU., hasta campañas internacionales donde imágenes o audios creados por IA distorsionaron discursos y opiniones públicas.

La discusión sobre su regulación no es teórica: es urgente.