La inteligencia artificial no está diseñada para decir la verdad

Entrado el siglo XXI la tecnología ha avanzado a un ritmo vertiginosos, dando soluciones a situaciones del diario vivir y al mismo tiempo creando nuevos problemas.

Uno de esos desafíos tiene que ver con la dificultad para determinar que productos culturales son el resultado de una inteligencia artificial (IA) o fue elaborado por un humano. Una tarea que hoy se presenta imposible de resolver ante el descomunal nivel de producción de datos en forma de textos, videos, imágenes y otros soportes digitales.

“No hay forma certera de verificar con otro sistema que algo fue creado con inteligencia artificial, la verificación tiene que ser humana. Como humano tengo que verificar que intensiones tiene la información, a quien le puede interesar o beneficiar”, señaló este miércoles en Portada de La Estrella de Panamá, Santiago Villegas, ingeniero informático y consultor en temas digitales para instituciones culturales.

Villegas, de origen colombiano, presentó recientemente en Panamá una conferencia por invitación de la Biblioteca Nacional de Panamá, sobre la inteligencia artificial y su uso en entornos bibliotecarios y culturales. Sostuvo que apelar exclusivamente a la regulación de esta tecnología es insuficiente, toda vez que muchas de las normas terminan siendo inaplicables -inclusive en países desarrollados- por la propia lógica descentralizada con la que se desarrolla lo digital.

“Creo que no se trata solo de crear leyes, sino de educar. Ese es un proceso más complejo y lento (...) una alfabetización mediática e informacional, es decir, como consumir información cotidianamente y como producirla”, subrayó.

El ingeniero considera que el principal campo de batalla contra las “fake news” y otros tipos de manipulación que incorpora tecnologías como la IA, es el espacio cultural. Lo que plantea la necesidad de que los sistemas educativos tengan un enfoque que priorice el pensamiento crítico.

“La IA está diseñada para conversar, no para decir la verdad. No entienden el concepto de verdad, entonces como tiene ese diseño pueden ser usadas fácilmente para manipular (...) tenemos que ser estrictos en que el uso manipulativo debe ser prohibido en muchos casos”, dijo.

Villegas enfatizó en concienzar sobre el poder de los algoritmos al momento de buscar información, que en ocasiones, terminan configurando una “burbuja de información” donde la persona queda alejada de otras formas de pensamiento. Solamente ve lo que la IA entiende que son sus gustos y deseos, en base a la información que recabó del individuo con tus búsquedas.