Los avances tecnológicos en materia de la Inteligencia Artificial (IA) continúan expandiéndose a un ritmo vertiginoso. Pero, atención: su uso de puede beneficiar o provocar riesgos en la sociedad. ¿Qué ocurre con la aplicación de la IA para acceder a la información pública? ¿Cuáles son sus riesgos y beneficios? Estos interrogantes fueron uno los ejes de debate en “#Hacia el futuro. La IA en el mundo de la información”, el primer conversatorio acerca de nuevas tecnologías y perspectivas sobre la información pública que se realizó esta semana ante una nutrida concurrencia en el Auditorio Leonardo Favio, en la Biblioteca del Congreso de la Nación, conjuntamente con Naciones Unidas Argentina. También, fue transmitido vía streaming por YouTube.
“#Hacia el futuro. La IA en el mundo de la información” fue el título de la conferencia ofrecida en la Biblioteca del Congreso Nacional. Fotos: gentileza.
“Hoy tenemos un nuevo desafío: la IA. Creemos profundamente que viene a ayudar a quienes tenemos la responsabilidad de verificación de la información en la sociedad”, expresó Alejandro Santa, Director Coordinador General de la Biblioteca del Congreso de la Nación, en la apertura.
“Inteligencia Artificial y desinformación. Principales cuestiones éticas, oportunidades y desafíos” abrió el debate con un panel integrado por Matías Ponce (representante de la oficina regional de la Unesco Montevideo) y Eduardo Ceccotti (director de Comunicación de Chequeado).https://4294a4395e393de0b4e7d22e36f5e58a.safeframe.googlesyndication.com/safeframe/1-0-40/html/container.html
Acceso a la información pública
Lo positivo es que la Inteligencia Artificial tiene el potencial de revolucionar la vida de las personas: “Desde mejorar la eficiencia de diversos sectores hasta ofrecer soluciones innovadoras a problemas complejos”, señaló Tamar Hahn, directora del Centro de Información Naciones Unidas para Argentina y Uruguay, en su función de moderadora.
“¿Cuáles son las oportunidades más prometedoras que ofrece la IA para potenciar la información pública? ¿Cómo podemos maximizar su impacto positivo y cuáles serían sus principales riesgos?”, preguntó.
“Para quienes trabajamos en temáticas de información pública, la oportunidad que nos brinda la IA viene por diversas aristas. La primera es la oportunidad de mejora en los accesos a la información pública”, remarcó Matías Ponce.
Según el miembro de la Unesco, los procesos de transparencia activa online; la introducción de chatbots o asistentes virtuales son parte de los beneficios que genera la IA para que los usuarios puedan acceder a la información más rápida, contando con la asistencia de la IA como solución frente a potenciales inconvenientes, como búsqueda de información pública en la web.
La personalización de la información en la gestión pública es otro de los sesgos positivos que brinda la utilización de la IA no solamente para el acceso a la información en términos de transparencia activa online, sino en la generación de contenidos en el diseño de políticas públicas, que sean más personalizados para usuarios de servicios públicos.
“Ahí tenemos otra oportunidad cuando los algoritmos pueden almacenar información y conocer mejor al usuario del servicio público. Por lo tanto, la tecnología de la IA puede brindar experiencias más personalizadas a quienes se acercan al Estado y a las políticas públicas”, añadió Ponce.
La Unesco confeccionó cuadernos de comunicación e información en América Latina y el Caribe referidos a la introducción de la IA en las redacciones. “Revisamos todas las oportunidades que se puede dar en una sala de redacción, sobre todo, los nuevos horizontes de trabajo para quienes resumen la realidad social del periodismo”, destacó Ponce.
Para ello, se necesita educación y capacitación para poder nutrir a la sociedad con mayores herramientas para maximizar su uso. “Lo llamamos Alfabetización Mediática Informacional (AMI), una herramienta o espacio de acción para poder potenciar las capacidades que tienen los ciudadanos de poder hacer un uso critico de estas herramientas. Este primer enfoque es un fuerte énfasis en la educación”, destacó Ponce.
¿Se puede regular el uso de la IA?
“Sí, se puede regular. Se puede avanzar sobre planes nacionales de políticas públicas sobre IA, crear marcos regulatorios pero deben tener un enfoque multi-actor: es decir, el mismo enfoque que desde Unesco hemos propuesto para la regulación de medios en las temáticas de políticas de comunicación”.
“Esto es: todos los actores deben estar sentados en la mesa. La construcción de la recomendación ética de la IA aprobada por los 193 estados miembro es un enfoque claro de puesta en común, de acuerdo transversal sobre el horizonte para trabajar esta temática”, completó Ponce.
¿Cuáles son los principales riesgos?
Hay grandes desafíos en materia de privacidad y seguridad de datos. “No hay ningún marco regulatorio que pueda frenarlo porque siempre la tecnología va delante de cualquier esfuerzo”, explicó Ponce.
Si de malicia se trata, la Inteligencia Artificial, –sobre todo, la IA generativa–, puede producir y profundizar aspectos tan graves como los discursos de odio en línea a partir de la construcción de sesgos.
“Otro horizonte tal vez pueda ser peor: el uso de la IA con sesgos, sobre todo, en el marco de políticas de disponibilidad: si no hay un marco regulatorio claro podría ser una alarma”, sentenció.
Además, “la moderación de contenidos con IA en redes sociales podría terminar en procesos de coartar la libertad de expresión”, advirtió el miembro de la Unesco.
“#Hacia el futuro. La IA en el mundo de la información” fue el título de la conferencia ofrecida en la Biblioteca del Congreso Nacional. Fotos: gentileza.
En tercer lugar está la dependencia tecnológica. “Si no tenemos un acceso equitativo a las herramientas de IA, se van a reproducir brechas de acceso que ya existen”, manifestó Ponce.
También están los procesos de desinformación como factor de riesgo. Sobre todo, en la utilización de archivos de vídeo, imagen o voz manipulados a través de un software de IA para que parezcan originales, auténticos o reales. A esto se lo denomina deepfake.
Además del uso del debate público que se pueda dar en las redes, “¿qué pasa cuando una deepfake se entromete en un proceso judicial y se presenta como una prueba en medio de este proceso?”, cuestionó Ponce.
Entre la desinformación y discursos del odio
Desde Chequeado, la ONG especializada en verificar discursos públicos y en la lucha contra la desinformación a través de su sitio web, advierten que el uso malicioso de la IA podría generar consecuencias negativas en los sistemas democráticos y en la sociedad.
“Cuando hablamos de desinformación hablamos que es un riesgo para la salud de la democracia. La desinformación afecta un derecho básico: el derecho a la información a que nosotros, como ciudadanía, recibamos información clara, transparente y verificada para poder tomar nuestras decisiones”, expresó Eduardo Ceccotti, director de Comunicación de Chequeado.com.
También dijo que la tecnología aceleró y facilitó la circulación de la desinformación: “la IA hasta hoy es la frutilla del postre pero va a seguir el menú. La IA, en el contexto de la tecnología acelerando la desinformación, presenta un problema para la salud de las democracias, para la ciudadanía”.
¿Cómo mitigar el impacto?
Checcotti señaló que Chequeado y otras organizaciones internacionales desde hace tiempo utilizan a la Inteligencia Artificial como herramienta a favor de la lucha con la desinformación.
“Desde 2016 venimos experimentando con IA para generar un desarrollo propio. Por ejemplo, tenemos una central de IA desarrollada llamada CheqeaBot: permite que hagamos más rápido nuestro trabajo, tener un mayor alcance, llegar más rápido a donde hay desinformación, poder comprobarla más rápidamente para que nuestros periodistas puedan contar con esta tecnología para verificar más rápido”, deslizó el Director de Comunicación.
Ceccotti además destacó el esfuerzo colaborativo y la organización entre distintos sectores, la lucha contra la desinformación es colaborativa, sobre todo, cuando la IA está presente para aumentar la capacidad de producción de desinformaciones (deepfakes).
“Empezamos a escuchar audios sobre los cuales empezamos a dudar, imágenes y videos… El riesgo mayor es empezar a dudar de todo, que dejemos de creer en todo, que ya nada nos parezca verdad. Si no actuamos con velocidad o colaborativamente, podemos estar expuestos”.
Además, del mencionado ChequeaBot, Chequeado utiliza otras herramientas de la IA para generar transcripciones automáticas de discursos y de exposiciones públicas.
“Venimos trabajando con la transcripción automática de los debates y discursos presidenciales. En la última edición, y gracias a la evolución de la IA, pudimos poner a disposición de la comunidad en nuestro sitio para que periodistas, investigadores, científicos o quienes necesiten de esa transcripción rápidamente pudieran tenerla y no tuvieran que invertir su propio tiempo en la desgrabación clásica. Eso también nos permite poder intervenir y contribuir rápidamente a frenar la desinformación”, apuntó.https://4294a4395e393de0b4e7d22e36f5e58a.safeframe.googlesyndication.com/safeframe/1-0-40/html/container.html
Por otro lado, la velocidad en la que la IA avanza y su uso malintencionado se ha expandido de manera frenética en las redes sociales, siendo una frecuencia mucho más potente en términos de desinformación. Quienes luchan contra la desinformación se mantienen en alerta, buscando la manera de erradicar las noticias incorrectas o las famosas “fakenews”.
“Aumentó la capacidad de viralidad de desinformación y eso en definitiva aumenta sus efectos negativos en la ciudadanía, y por lo tanto, contribuye a poner en duda la salud de las democracias”, advirtió Ceccotti.
“Para nosotros es una gran preocupación y ése es el foco en el cual los verificadores de información de todo el mundo miramos la lucha contra la desinformación: trabajar para conservar la salud de la democracia”, concluyó.
Sobre la firma
Fuente: Clarín.com
Sea el primero en comentar en "Cinco preguntas clave sobre cómo la inteligencia artificial ya cambió nuestras vidas"