La manipulación tecnológica y sus efectos en la democracia.

En Uruguay faltan solo 14 días para las elecciones nacionales que definirán un nuevo presidente, vicepresidente y los 30 senadores y 99 diputados que integrarán ambas cámaras del Parlamento. Por otra parte, se llevarán adelante dos consultas populares de suma importancia para el país: el plebiscito de la seguridad social (o reforma jubilatoria) y el plebiscito sobre allanamientos nocturnos. Frente a este escenario, un cierto miedo -no tan inesperado- se ha incorporado en esta carrera.

El senador y jefe de campaña por el partido Frente Amplio, Alejandro Sánchez, afirmó tener conocimiento de una presunta entrevista falsa hecha con inteligencia artificial al candidato frenteamplista Yamandú Orsi. Si esto se confirma, mi creciente preocupación por la manipulación de la democracia a través de tecnologías avanzadas, como la inteligencia artificial (IA), parece haber ganado relevancia en esta campaña política, convirtiéndose en un alarmante uso de videos falsos generados por IA, conocidos como "deepfakes"[1], que pueden llegar a distorsionar la realidad y persuadir o "engañar" a los votantes más influenciables, o incluso, al 11% adicional de electores [2] que aún no ha tomado una decisión sobre a quién votar.

Aquí podría entrar otro tema sumamente delicado y que tenemos la obligación de recordar: la manipulación de datos personales. Otro factor que ha marcado los debates sobre la integridad electoral en estos últimos años. Un ejemplo emblemático es el caso de Cambridge Analytica [3], que de acuerdo con los reportes publicados por los diarios The New York Times y The Observer, esos datos privados fueron luego utilizados para manipular psicológicamente a los votantes en las elecciones de EE.UU. de 2016, donde Donald Trump resultó electo presidente, y también en el referéndum del Brexit en el Reino Unido. Esta consultora recopiló datos de hasta 87 millones de usuarios de Facebook sin su consentimiento, crearon perfiles psicológicos y dirigieron anuncios personalizados que explotaban las vulnerabilidades de los votantes. Christopher Wylie, ex-empleado de la empresa, afirmó que esta práctica "engañó" a los electores y posiblemente influyó en los resultados. Otro caso de manipulación se evidenció en la campaña electoral francesa de 2017. Allí, la difusión masiva de correos electrónicos pirateados del equipo de Emmanuel Macron fue utilizada estratégicamente en redes sociales para desinformar a los votantes. Aunque estos esfuerzos no cambiaron el resultado, crearon un clima de confusión que afectó la confianza en el proceso electoral.

Pero no hay que ir tan lejos, las Américas también han sido terreno fértil para la desinformación y el uso indebido de datos. En 2009, en el país caribeño de Trinidad y Tobago, la empresa que trabajó para Trump y para el Brexit lanzó una campaña que consiguió reducir la participación en un 40% entre los menores de 35 años, donde se alegó que se usaron tácticas similares a las de Cambridge Analytica para influir en las elecciones generales. En la campaña presidencial de Brasil en 2018, WhatsApp fue un canal clave para la propagación de noticias falsas en apoyo a Jair Bolsonaro. Las investigaciones revelaron que empresas privadas financiaron la distribución masiva de mensajes de desinformación, lo que provocó críticas tanto dentro como fuera de Brasil, al cuestionarse la legitimidad del proceso electoral. En México, también en las elecciones de 2018, se descubrió el uso de cuentas automatizadas (bots) en X (llamadoTwitter en tiempos pre Elon Musk) para amplificar mensajes engañosos que favorecían a ciertos candidatos. Estas tácticas, diseñadas para confundir al electorado y polarizar a la sociedad, reflejan una tendencia preocupante en la región, pero más preocupante es que se impongan en Uruguay, donde ya la manipulación de datos personales y la difusión de información falsa por parte de líderes gubernamentales han generado preocupaciones sobre la ética en las campañas políticas y sus efectos sobre los derechos humanos en el país.

Este uso indebido de tecnologías como la inteligencia artificial y la recopilación masiva de datos no solo compromete la integridad electoral, sino que también plantea riesgos profundos para los derechos humanos. La recolección y análisis de datos sin consentimiento, fuera de las fronteras de un país y manejados por grandes transnacionales, puede desembocar en una vigilancia masiva y erosionar la privacidad donde, en regímenes autoritarios, estas tácticas pueden ser empleadas para identificar y reprimir a los opositores políticos, limitando el acceso a la información libre y justa. Otro ejemplo reciente de estos riesgos es el caso de China, donde el gobierno ha utilizado tecnologías de reconocimiento facial y análisis de datos para monitorear a su población. Si bien no está directamente relacionado con elecciones, demuestra el potencial para que estas herramientas tecnológicas sean usadas con fines antidemocráticos.

Es entendible que la intersección entre tecnología, política y derechos humanos, se vuelve cada vez más compleja y preocupante. Desde los "deepfakes" y "fakenews" hasta la manipulación de datos personales, las herramientas tecnológicas pueden ser un arma de doble filo. Hoy más que nunca, es necesario tener políticas públicas y una regulación adecuada para su uso, ya que existe un riesgo real de que se utilicen para manipular elecciones, socavar la democracia y restringir derechos fundamentales. La vigilancia ciudadana y el marco legal deberán avanzar para proteger tanto la integridad de los procesos electorales, pero por sobre todas las cosas, las libertades individuales.

[1] ¿Qué es una Deepfake? https://chequeado.com/el-explicador/que-es-un-deepfake-y-en-que-se-diferencia-de-un-video-manipulado/

[2] Fuente: encuesta de la Consultora CIFRA: https://www.cifra.com.uy/intencion-de-voto-si-las-elecciones-fueran-hoy-22/.

[3] Fuente: BBC News: https://www.bbc.com/mundo/noticias-43472797