- Carlos Martínez Rojas
- deepfakes, desinformación electoral, elecciones 2024, IA generativa, inteligencia artificial
- 480 Vistas
Introducción
La palabra clave de este artículo es inteligencia artificial generativa, y exploraremos cómo esta tecnología está transformando el terreno de la desinformación electoral. En esencia, la IA generativa —capaz de producir textos, imágenes, audio y vídeo convincentes— se incorpora como una nueva herramienta en campañas políticas, operaciones de influencia y tácticas de manipulación. Esto no solo es relevante porque afecta el proceso electoral, sino porque plantea desafíos fundamentales para la democracia, la confianza ciudadana y la gobernabilidad.
Lo que ha ocurrido es que tecnologías como los modelos de lenguaje grandes y los sistemas de generación de imágenes o deepfakes ya están siendo desplegados con fines políticos: para difundir noticias falsas, para crear supuestas pruebas fotográficas o audiovisuales de eventos que jamás ocurrieron, o incluso para generar bots conversacionales que persuaden o confunden a electores. Esta transformación importa porque abre el camino a una escala, velocidad y personalización de la desinformación que antes era mucho más limitada. Afecta a candidatos, partidos, medios de comunicación, plataformas digitales, organismos electorales y, fundamentalmente, al ciudadano común. En un mundo conectado, lo que se publica en una plataforma puede viralizarse, os fortalecer o atraer a nichos específicos.
En este artículo te presentaré un análisis completo: comenzaremos por el contexto histórico que permitió la emergencia de esta combinación entre IA y desinformación electoral; luego abordaremos un análisis experto (impacto, escenarios, industrias implicadas); presentaremos datos y fuentes; examinaremos las implicaciones éticas y legales; y finalmente ofreceré conclusiones con recomendaciones. Todo ello con una estructura optimizada para SEO, para que el contenido pueda posicionarse de forma eficiente.
Contexto histórico
Hitos clave que llevaron a esta convergencia
La idea de manipulación de información con fines electorales no es nueva: desde las campañas de propaganda tradicionales hasta las fake news en redes sociales, los procesos de influencia política han evolucionado junto con los medios de comunicación. Sin embargo, ciertos hitos tecnológicos y sociales han acelerado la capacidad de la desinformación:
- La digitalización masiva de la comunicación política: redes sociales, mensajería instantánea, plataformas virales pusieron al alcance de actores (tanto estatales como no estatales) una audiencia muy amplia.
- La automatización de contenidos: bots, granjas de “likes”, cuentas automáticas; ya en 2016 se identificó que los bots amplificaban contenido de credibilidad cuestionable.
- El auge de la IA generativa: modelos como los utilizados para generar texto coherente, imágenes sintéticas o vídeos deepfake han hecho que la producción de desinformación sea más barata, más rápida, con mayor alcance. Por ejemplo, un documento del Brennan Center for Justice señala que la IA “ya se está usando para engañar y confundir al público durante las elecciones de 2024”.
- Primera gran manifestación electoral de este fenómeno: en el ciclo electoral 2024‑2025, múltiples estudios observaron que la IA generativa estaba en el radar de los analistas de integridad electoral. Un texto de Carnegie Endowment for International Peace advierte que “Los fakes podrían tener efectos amplios y muy dañinos”.
- Regionalización del fenómeno: América Latina y otras regiones han experimentado usos específicos de esta tecnología en sus procesos electorales. Por ejemplo, se documenta la utilización de IA generativa en Argentina, Brasil, México, etc.
Evolución del concepto: de la desinformación a la IA‑potenciada desinformación
Hasta hace poco, la desinformación dependía de creatividad humana, redes de amplificación y ciertos recursos. Con la llegada de la IA generativa, tres factores clave cambian el panorama:
- Cantidad: la generación masiva de contenido falso se vuelve más fácil.
- Calidad: las imágenes, audios, vídeos generados se vuelven más realistas, lo que dificulta su detección. Por ejemplo, deepfakes de alta fidelidad.
- Personalización y micro‑segmentación: la IA permite adaptar mensajes falsos a grupos demográficos específicos, aumentando su eficacia. Por ejemplo, bots conversacionales que interactúan con grupos target.
Este proceso marca el salto de la simple “fake news” a la “desinformación supercargada por IA”.
Análisis experto
Impacto actual y futuro
Estado actual
El estado del fenómeno es complejo: los analistas coinciden en que la IA generativa representa un riesgo serio, aunque algunos estudios sugieren que el efecto real hasta ahora ha sido moderado. Por ejemplo:
- En una encuesta a 1 000 adultos en EE.UU., el 83,4 % expresaron preocupación sobre que la IA fuera usada para desinformación en la elección presidencial de 2024.
- El Brennan Center advierte que la IA ha dejado al descubierto vulnerabilidades críticas en los sistemas democráticos.
- Sin embargo, un análisis de un “super‑año electoral” señala que aunque la IA generativa estuvo presente, su impacto puede no haber sido tan devastador como se temía.
Por tanto, estamos ante una tecnología que ya opera, pero cuyo impacto pleno puede estar aún por venir.
Escenarios futuros
Podemos imaginar varios escenarios futuros:
- Escenario pesimista: actores maliciosos usan la IA generativa para producir una avalancha de contenido falso y personalizado, bots conversacionales que persuaden o radicalizan, deepfakes de candidatos, todo ello con poca moderación o detección, comprometiendo la integridad de elecciones en múltiples países.
- Escenario intermedio: la IA es utilizada, pero plataformas, gobiernos y ciudadanos logran establecer defensas suficientes para mitigar el impacto. El volumen de manipulación es mayor, pero no altera masivamente los resultados electorales.
- Escenario optimista: la IA es regulada, los mecanismos de detección y educación mediática mejoran, y la tecnología se emplea también para defensa y verificación, reduciendo significativamente el daño de desinformación.
Oportunidades, riesgos y escenarios por industria
Veamos cómo este nuevo campo de batalla afecta a distintas industrias:
Salud
Si bien hablamos de elecciones, la intersección salud‑política puede verse afectada. La IA generativa permite producir “noticias” falsas sobre políticas de salud, personajes públicos, etc., que se integran en campañas electorales. Por ejemplo, audios deepfake que advierten de vacunas inexistentes o que ligan políticas públicas a conspiraciones. El riesgo es la erosión de confianza en instituciones de salud, lo que afecta también al voto informado.
Educación
Las instituciones educativas tienen un rol clave en la alfabetización mediática. El riesgo es que estudiantes y ciudadanos no identifiquen contenido generado por IA y lo compartan ingenuamente. Aquí surge una oportunidad: emplear IA para generar materiales didácticos que enseñen a detectar estas manipulaciones.
Marketing y comunicación política
Las campañas políticas y los profesionales del marketing pueden utilizar IA generativa para segmentar mensajes, personalizar discursos y crear contenido visual atractivo. Esto plantea una gran ventaja competitiva, pero también un riesgo ético: la línea entre persuasión política y manipulación se vuelve borrosa. Los ciudadanos pueden verse bombardeados con “micro‑mensaje” generados por IA, lo que cambia el equilibrio en la relación campaña‑votante.
Desarrollo de software y plataformas
Las empresas tecnológicas y desarrolladores de IA tienen un rol central: deben diseñar modelos con salvaguardas (detención de uso malicioso, watermarking de contenido generado, detección de deepfakes), colaborar con plataformas sociales para moderar, y participar en la regulación. Al mismo tiempo, pueden desarrollar herramientas de verificación automática, utilizar IA para detectar IA.
Atención al cliente y chatbots
Aunque no directamente electoral, los sistemas de conversación impulsados por IA pueden ser aprovechados para manipular opinadores clave, generar debates falsos o social bots que amparen discursos de campaña. Un ejemplo son los “sleeper social bots” que pasan desapercibidos entre usuarios humanos.
Legal y cumplimiento
Los sistemas electorales, jueces, reguladores necesitan nuevas herramientas para lidiar con IA generativa: cómo probar que un vídeo es falso, quién es responsable, qué sanciones aplicar, cómo proteger el proceso. La desinformación asistida por IA exige nuevas normas y prácticas de cumplimiento.
Finanzas
Aunque menos evidente, la financiación de campañas y operaciones de influencia se ve afectada: la IA genera contenido a menor coste, permitiendo a actores con menor presupuesto lanzar campañas de desinformación. Esto cambia la dinámica de inversión en comunicación política, favoreciendo a quienes dominan tecnología y algoritmos.
Aplicaciones concretas
Algunos ejemplos concretos de cómo la IA generativa ya se está usando o podría usarse en procesos electorales:
- Generación de vídeos falsos en los que un candidato parece decir o hacer algo que no ocurrió, para minas su credibilidad.
- Uso de audios clonados para llamadas automatizadas que desalientan al voto o dan instrucciones erróneas, como las robollamadas con voz de un líder político.
- Creación de cuentas bots que generan comentarios, replican contenido, interactúan con humanos y amplifican un mensaje manipulado.
- Generación de sitios de noticias falsas completos, escritos por IA, que parecen legítimos y se difunden como “medios locales” o “noticias comunitarias”.
- Micro‑segmentación de mensajes usando IA generativa: por ejemplo, distintos contenidos específicos para comunidades particulares de votantes, adaptados al idioma, cultura o sensibilidades, aumentando la eficacia de la persuasión manipulativa.
- En América Latina, se documenta que la IA generativa se utilizó en campañas y elecciones como Argentina, Brasil, México, tanto para la producción de imágenes/fotos falsas como para audios.
Datos y fuentes
Aquí presentamos datos y cifras clave respaldadas por investigaciones recientes:
- En Estados Unidos, una encuesta de agosto 2023 encontró que el 83,4 % de los adultos estaban al menos algo preocupados de que la IA fuera usada para difundir desinformación en la elección presidencial de 2024.
- Un informe del Brennan Center afirma que “desde deepfakes que apuntan a altos funcionarios hasta campañas de desinformación diseñadas para manipular votantes, la IA‑impulsada desinformación ha expuesto vulnerabilidades críticas en nuestro sistema democrático”.
- Un policy‑paper para América Latina describe que la IA generativa ya se usó en campañas en Argentina, Brasil, Paraguay, Uruguay durante 2023‑2024, con evidencias de videos, audios, imágenes manipuladas.
- En un reporte sobre “Manufacturing Deceit”, se menciona que la IA generativa permite producir desinformación más creíble y aparentemente confiable.
- Sin embargo, estadísticas de plataformas sugieren que el volumen de desinformación exclusivamente generada por IA aún es modesto. En un análisis de plataformas, se indica que la IA “tuvo un impacto moderado” en las elecciones globales hasta ahora.
Estos datos muestran una combinación: gran preocupación, evidencia de uso activo, pero impacto plenamente masivo aún en camino.
Consideraciones éticas y legales
Implicaciones éticas
El uso de IA generativa en contextos electorales plantea numerosas cuestiones éticas:
- Manipulación deliberada del electorado: utilizar IA para engañar, persuadir o confundir al votante va más allá de la libertad de expresión; toca el derecho al voto informado y a la decisión autónoma.
- Erosión de la confianza pública: cuando ciudadanos no saben si un vídeo, un audio o una imagen es real, se deteriora la confianza en los medios, en las instituciones y en el proceso democrático. Un estudio señala que “no son los deepfakes en sí, sino la narrativa que crean” lo que puede minar la integridad electoral.
- Desigualdad de recursos y capacidades: quienes tienen acceso a mejor tecnología de IA, mayor presupuesto, experiencia técnica, pueden inclinar la balanza. Esto puede profundizar desigualdades entre partidos grandes y pequeños o entre países.
- Violencia de género y grupos vulnerables: en los estudios latinoamericanos se advertía que candidatas femeninas o grupos LGBTQIA+ eran objeto de ataques con IA generativa que amplificaban discriminación y violencia.
- Responsabilidad moral de la tecnología: los desarrolladores, plataformas y usuarios tienen responsabilidad ética sobre el uso de IA generativa. ¿Cómo garantizar que no se use para manipulación electoral?
Implicaciones legales y regulatorias
Desde el plano legal, varios ámbitos requieren atención:
- Etiquetado y transparencia de contenido generado por IA: algunos estados en EE.UU. ya requieren que contenidos electorales generados por IA lleven advertencias o etiquetas.
- Regulación de llamadas automatizadas con voz clonada: por ejemplo, la Federal Communications Commission (FCC) de EE.UU. ha prohibido robollamadas que utilicen voces generadas por IA para manipular votantes.
- Protección de la integridad electoral: los organismos electorales deben adaptar sus sistemas para detectar manipulación digital, tanto en contenidos como en operaciones de registro de votos, identificación de electores, etc.
- Responsabilidad civil y penal: ¿Quién responde cuando una campaña de IA generativa difunde información falsa que impacta en una elección? Los marcos legales tradicionales pueden quedarse cortos.
- Cooperación internacional: dado que las campañas de desinformación pueden cruzar fronteras, se requieren acuerdos internacionales de supervisión de IA y de influencia electoral.
Conclusiones
La IA generativa representa un nuevo campo de batalla electoral, donde la tecnología transforma tanto la capacidad de producir contenido como la de distribuirlo y personalizarlo para audiencias específicas. Aunque hasta ahora el impacto masivo aún está por verificarse, la combinación de accesibilidad tecnológica, herramientas de generación de contenido y plataformas de difusión plantea un riesgo real y creciente para la integridad electoral.
Para responder a este desafío, es imprescindible un enfoque integral que combine:
- Educación ciudadana y alfabetización mediática: que el electorado pueda reconocer deepfakes, audios manipulados, mensajes personalizados.
- Regulación tecnológica: legislación que exija transparencia, etiquetado, sancione abusos, proteja la integridad del voto.
- Tecnología para defensa: herramientas de IA que detecten contenido generado, modelos de verificación automática, colaboración entre plataformas y reguladores.
- Buenas prácticas en campañas políticas y comunicación: autorregulación, códigos de ética, claridad sobre cuándo se usa IA.
- Atención especial a contextos vulnerables: comunidades con menor acceso a información verificada, países con instituciones electorales débiles, candidatos en riesgo.
La palabra clave “inteligencia artificial generativa” debe entenderse no solo como herramienta técnica, sino como factor que puede modificar dinámicas políticas, sociales y comunicativas. En el escenario electoral del siglo XXI, quien domine la narrativa, quien controle la tecnología de contenido, tendrá una ventaja. Pero esa ventaja debe estar equilibrada con responsabilidad democrática.
Preguntas frecuentes sobre IA generativa y desinformación electoral
¿Qué es la IA generativa y cómo se utiliza en elecciones?
La IA generativa son sistemas capaces de crear textos, imágenes, audio y vídeo de forma automática. En elecciones se emplea para fabricar contenido falso (deepfakes, bots, noticias falsas) que influye o manipula al electorado.
¿Por qué la IA generativa es un riesgo para la democracia?
Porque permite producir y difundir desinformación a gran escala, con alta calidad, velocidad y personalización, lo que puede erosionar la confianza ciudadana, manipular la opinión pública y amenazar la integridad de los procesos electorales.
¿Hasta qué punto se ha visto ya en campañas electorales reales?
Sí, hay evidencias de su uso en 2023‑2024, por ejemplo en América Latina y EE.UU. Se documentan audios manipulados, imágenes falsas de candidatos, bots políticos generados. Aunque el impacto final aún se investiga.
¿Qué pueden hacer los ciudadanos para protegerse de la desinformación generada por IA?
— Verificar fuentes independientes de fact‑checking.
— Ser escépticos ante contenido emocionalmente cargado.
— Considerar si una imagen o vídeo parece demasiado perfecto o poco plausible.
— Educarse en alfabetización mediática, reconocer que la tecnología puede falsear lo que se ve o se escucha.
