Jurado Nacional de Elecciones peruano advierte de riesgos de IA para comicios en América Latina

El Jurado Nacional de Elecciones peruano (JNE) advirtió este sábado de los riesgos del uso de la Inteligencia Artificial (IA) en los procesos electorales en América Latina porque esta herramienta puede impulsar la desinformación.

El organismo publicó en su portal de verificación de datos un artículo en el que examina los riesgos que traería para los procesos electorales en la región la desinformación impulsada mediante las herramientas de la Inteligencia Artificial, así como las alternativas que tiene la sociedad para enfrentar dicho fenómeno.

En el texto, se subraya que los algoritmos de IA pueden ser entrenados para imitar el estilo y la voz de figuras públicas, generar imágenes falsas que se vuelven virales en las redes sociales y dirigir mensajes personalizados a segmentos específicos de la población.

“La desinformación precede a la tecnología y, sobre todo, precede a la inteligencia artificial. Y hay tres capas que la hacen posible actualmente: la humana, la de amplificación y la de aceleración en la producción”, sostiene el consultor especialista en transformación digital, Rogelio Umaña.

El artículo también describe casos en los que se ha hecho uso de la IA generativa en elecciones recientes como las de Argentina y México a través de los denominados ‘ultrafalsos’ o deepfake, así como la manipulación de fotografías, situaciones que se proyecta puedan multiplicarse en los próximos procesos electorales.

El investigador del Atlantic Council’s Digital Forensic Research Lab (DFRLab), Esteban Ponce, expone que las redes sociales muestran contenido a través de lo que sus algoritmos seleccionan para cada usuario.

Ahora, incluso no solo se ve el contenido de las cuentas que seguimos sino también (y en primer lugar) el que sugiere la plataforma. Este cambio, realizado por redes como X, Tik Tok e Instagram, ‘ha sido realmente significativo para la creación de burbujas informativas’, indica.

Además, alerta que en un futuro, la IA permitirá contenido mucho más personalizado y ya no solo en redes sociales sino también en buscadores como Google, limitando las posibilidades de informarse.

“Por más positiva que parezca, esa personalización puede llevar a un proceso de desinformación al no tener capacidad de comparar un hecho con otras fuentes de información. Así como también puede generar un ambiente de polarización, suprimir las voces moderadas, aumentar discursos de odio y campañas de ataques o de acoso digital hacia aquellos que no comparten tu opinión o -lo que será igual- la información de tu propia burbuja”, señaló Ponce.

El JNE resaltó que para lograr la confianza y credibilidad en las elecciones en la era de la IA, es importante que los gobiernos, empresas de tecnología y sociedad civil actúen de manera cooperativa para hacer frente a la manipulación y desinformación.