Inteligencia artificial, el principal desafío de la transparencia electoral
- 24/01/2024 12:01
- 23/01/2024 22:24
Diversas voces analizan las implicaciones que trae consigo la implementación de la inteligencia artificial en la campaña política 2024 y el papel que deben jugar los mecanismos de control La utilización de la inteligencia artificial (IA) como mecanismo de desinformación política es algo que preocupa mucho al magistrado Presidente del Tribunal Electoral (TE), Alfredo Juncá. “Nos preocupa mucho que se esté utilizando la IA en el escenario político”, confesó en conversaciones con La Estrella de Panamá.
“Se trata de una tecnología que no es comprendida por muchos y que es muy difícil de diferenciar por otros. Tengo información de procesos electorales que han sido impactados con la desinformación que genera esta herramienta”, reconoció el también abogado.
Juncá explica que la IA tiene la posibilidad de clonar las voces de candidatos o de autoridades políticas, lo que termina por “difundir información falsa, que es nociva para los procesos electorales”. A esto hay que sumarle los modelos de inteligencia artificial que permiten alterar vídeos o fotografías.
“Tenemos que amarrarnos los pantalones, porque el futuro que va a traer la inteligencia artificial para la política puede ser peligroso y eso puede enturbiar nuestro proceso electoral”, acotó el funcionario, quien asegura que desde el TE “no están escatimando en gastos ni esfuerzos para proteger la elección del 5 de mayor de 2024”.
El director del Centro de Estudios y Monitoreo Digital del TE, Leopoldo Alfaro, aseguró a este medio que ya han registrado algunos casos en los que se ha utilizado la IA como herramienta para difamar o atacar a algunos candidatos, aunque no quiso dar más detalles al respecto.
“Estamos siguiendo muy de cerca el contenido político que se genera con IA en Panamá, así como los casos de posible suplantación de identidad con sistemas de inteligencia artificial que se están dando en el territorio nacional”, afirmó Alfaro.
El especialista adelantó que el TE está trabajando en el desarrollo de nueva reglamentación que permita “defender los derechos de las personas que sufran este tipo de ataques”.
“Le estamos dando la importancia que se merece a este tema e invirtiendo nuestros recursos de la forma adecuada”, resaltó Alfaro, quien ve en las inteligencias artificiales la principal tendencia de estas elecciones.
Este pensamiento es compartido por Bobby Albarrán, especialista en marketing digital y publicidad, que ha trabajado en el desarrollo de campañas políticas virtuales. “La principal diferencia que van a tener estas elecciones en comparación con la de años anteriores es la inteligencia artificial”, dijo a ‘La Decana’.
“Hay demasiadas nuevas herramientas que facilitan hacer creer a las personas cierta información y este año vamos a ver cosas nunca antes vistas en esta área”, ponderó.
Albarrán destacó que, el problema no es la IA en sí, sino la mala su mala utilización. “Tristemente, todo se termina volcando hacia la descalificación y desinformación y ahora hay mejores armas para hacerlo”, remarcó.
En este sentido, el especialista abogó porque la población sepa diferenciar una campaña negativa, de una sucia, siendo esta última la que se basa en mentiras o falacias.
“La campaña negativa no es mala, porque le permite a la población tener un historial del comportamiento de los candidatos y eso puede hacer que se vote con mejor criterio”, indicó.
¿Cómo detectar una IA? Albarrán aclaró que existen diversos mecanismos para detectar si un contenido es producido por inteligencia artificial. “Se puede realizar un peritaje de expertos, en el que se usan otras IA para analizar el contenido”, valoró.
El problema, según el especialista, es que se pueden dar casos de políticos que se escuden en la IA para no hacerse responsables de sus declaraciones.
Es por eso que el también publicista pide a la sociedad estar pendientes de la reputación e historial de cada candidato. “Las personas van a creer lo que quieran creer. Aunque se demuestre que un candidato dijo una mentira, si sus electores lo respaldan, no va a tener consecuencias electorales”, analizó.
Alex Atencio, quien es especialista en redes sociales y ha trabajado de cerca con el desarrollo de campañas políticas digitales, recomienda a cada candidato tener un equipo especializado en el tema de IA, para poder desmentir cualquier ataque infundado que reciban, para no tener que depender de las autoridades electorales.
“Una vez que se replica masivamente una información falsa, restablecer la credibilidad y buen nombre de un candidato es difícil, porque la réplica no suele tener el mismo impacto que el dato original, es por eso que los candidatos deben contar con el equipo y las herramientas adecuadas”, ponderó Atencio.
Sobre este tema, el magistrado Juncá, dijo que se están desarrollando mecanismos para intentar contrarrestar esta tecnología, como el envenenamiento de fotografías. “Es un proceso en el que, mediante pixelación, se evita la posibilidad de replicar una imagen con IA”, aunque aclaró que se trata de una herramienta que está en un estado beta.
“Para vencer la desinformación se necesita que los medios de comunicación, los candidatos, partidos políticos y la población trabajen en conjunto con el TE, para dejar de esparcir noticias falsas”, recalcó.
Alfaro invitó a la población a estar pendiente de los portales del Pacto Ético Digital y el de Verificado Contigo. “El primero es un sitio con información y capacitación sobre los nuevos peligros de la tecnología y el segundo es un espacio para la verificación de información noticiosa”.
TE lanza plataforma Verificado Contigo
El magistrado presidente del Tribunal Electoral, Alfredo Juncá, pidió a la población no compartir información falsa y acudir a los canales oficiales.
“No estamos escatimando esfuerzos para hacer frente a la desinformación”, sentenció el magistrado presidente del Tribunal Electoral (TE), Alfredo Juncá, tras la presentación de la plataforma Verificado Contigo, el pasado 23 de enero.
El portal web busca “brindarle a la ciudadanía información veraz y oportuna sobre el proceso electoral”, basados en los principios de ‘docencia electoral permanente’ y ‘verificación de contenidos electorales’.
El primero, se basa en la emisión de datos corroborados por el TE, con el objetivo de disminuir las ‘fake news’ y el segundo, la aclaración de información compartida en redes, que puede tener datos falsos.
”La desinformación socava el proceso electoral y pone en peligro la democracia en nuestro país y es importante que toda la población, candidatos, medios de comunicación y partidos políticos, trabajen, en conjunto, para evitarla”, valoró Juncá.
La utilización de la inteligencia artificial (IA) como mecanismo de desinformación política es algo que preocupa mucho al magistrado Presidente del Tribunal Electoral (TE), Alfredo Juncá. “Nos preocupa mucho que se esté utilizando la IA en el escenario político”, confesó en conversaciones con La Estrella de Panamá.
“Se trata de una tecnología que no es comprendida por muchos y que es muy difícil de diferenciar por otros. Tengo información de procesos electorales que han sido impactados con la desinformación que genera esta herramienta”, reconoció el también abogado.
Juncá explica que la IA tiene la posibilidad de clonar las voces de candidatos o de autoridades políticas, lo que termina por “difundir información falsa, que es nociva para los procesos electorales”. A esto hay que sumarle los modelos de inteligencia artificial que permiten alterar vídeos o fotografías.
“Tenemos que amarrarnos los pantalones, porque el futuro que va a traer la inteligencia artificial para la política puede ser peligroso y eso puede enturbiar nuestro proceso electoral”, acotó el funcionario, quien asegura que desde el TE “no están escatimando en gastos ni esfuerzos para proteger la elección del 5 de mayor de 2024”.
El director del Centro de Estudios y Monitoreo Digital del TE, Leopoldo Alfaro, aseguró a este medio que ya han registrado algunos casos en los que se ha utilizado la IA como herramienta para difamar o atacar a algunos candidatos, aunque no quiso dar más detalles al respecto.
“Estamos siguiendo muy de cerca el contenido político que se genera con IA en Panamá, así como los casos de posible suplantación de identidad con sistemas de inteligencia artificial que se están dando en el territorio nacional”, afirmó Alfaro.
El especialista adelantó que el TE está trabajando en el desarrollo de nueva reglamentación que permita “defender los derechos de las personas que sufran este tipo de ataques”.
“Le estamos dando la importancia que se merece a este tema e invirtiendo nuestros recursos de la forma adecuada”, resaltó Alfaro, quien ve en las inteligencias artificiales la principal tendencia de estas elecciones.
Este pensamiento es compartido por Bobby Albarrán, especialista en marketing digital y publicidad, que ha trabajado en el desarrollo de campañas políticas virtuales. “La principal diferencia que van a tener estas elecciones en comparación con la de años anteriores es la inteligencia artificial”, dijo a ‘La Decana’.
“Hay demasiadas nuevas herramientas que facilitan hacer creer a las personas cierta información y este año vamos a ver cosas nunca antes vistas en esta área”, ponderó.
Albarrán destacó que, el problema no es la IA en sí, sino la mala su mala utilización. “Tristemente, todo se termina volcando hacia la descalificación y desinformación y ahora hay mejores armas para hacerlo”, remarcó.
En este sentido, el especialista abogó porque la población sepa diferenciar una campaña negativa, de una sucia, siendo esta última la que se basa en mentiras o falacias.
“La campaña negativa no es mala, porque le permite a la población tener un historial del comportamiento de los candidatos y eso puede hacer que se vote con mejor criterio”, indicó.
Albarrán aclaró que existen diversos mecanismos para detectar si un contenido es producido por inteligencia artificial. “Se puede realizar un peritaje de expertos, en el que se usan otras IA para analizar el contenido”, valoró.
El problema, según el especialista, es que se pueden dar casos de políticos que se escuden en la IA para no hacerse responsables de sus declaraciones.
Es por eso que el también publicista pide a la sociedad estar pendientes de la reputación e historial de cada candidato. “Las personas van a creer lo que quieran creer. Aunque se demuestre que un candidato dijo una mentira, si sus electores lo respaldan, no va a tener consecuencias electorales”, analizó.
Alex Atencio, quien es especialista en redes sociales y ha trabajado de cerca con el desarrollo de campañas políticas digitales, recomienda a cada candidato tener un equipo especializado en el tema de IA, para poder desmentir cualquier ataque infundado que reciban, para no tener que depender de las autoridades electorales.
“Una vez que se replica masivamente una información falsa, restablecer la credibilidad y buen nombre de un candidato es difícil, porque la réplica no suele tener el mismo impacto que el dato original, es por eso que los candidatos deben contar con el equipo y las herramientas adecuadas”, ponderó Atencio.
Sobre este tema, el magistrado Juncá, dijo que se están desarrollando mecanismos para intentar contrarrestar esta tecnología, como el envenenamiento de fotografías. “Es un proceso en el que, mediante pixelación, se evita la posibilidad de replicar una imagen con IA”, aunque aclaró que se trata de una herramienta que está en un estado beta.
“Para vencer la desinformación se necesita que los medios de comunicación, los candidatos, partidos políticos y la población trabajen en conjunto con el TE, para dejar de esparcir noticias falsas”, recalcó.
Alfaro invitó a la población a estar pendiente de los portales del Pacto Ético Digital y el de Verificado Contigo. “El primero es un sitio con información y capacitación sobre los nuevos peligros de la tecnología y el segundo es un espacio para la verificación de información noticiosa”.
TE lanza plataforma Verificado Contigo
El magistrado presidente del Tribunal Electoral, Alfredo Juncá, pidió a la población no compartir información falsa y acudir a los canales oficiales.
“No estamos escatimando esfuerzos para hacer frente a la desinformación”, sentenció el magistrado presidente del Tribunal Electoral (TE), Alfredo Juncá, tras la presentación de la plataforma Verificado Contigo, el pasado 23 de enero.
El portal web busca “brindarle a la ciudadanía información veraz y oportuna sobre el proceso electoral”, basados en los principios de ‘docencia electoral permanente’ y ‘verificación de contenidos electorales’.
El primero, se basa en la emisión de datos corroborados por el TE, con el objetivo de disminuir las ‘fake news’ y el segundo, la aclaración de información compartida en redes, que puede tener datos falsos.
”La desinformación socava el proceso electoral y pone en peligro la democracia en nuestro país y es importante que toda la población, candidatos, medios de comunicación y partidos políticos, trabajen, en conjunto, para evitarla”, valoró Juncá.