La IA como herramienta para combatir la desinformación. Planteamiento de un modelo enfocado en los bulos en un contexto electoral

Le résumé fourni par la source

La inteligencia artificial (IA) ha contribuido a la desinformación por su capacidad para generar contenidos falsos. Pero el potencial de esta tecnología puede también enfocarse en diseñar un prototipo de he­rramienta que detecte los bulos, en concreto aquellos amplificados en redes sociales y en contextos electorales. Este artículo analiza los prin­cipales patrones seguidos por las noticias falsas lanzadas en X durante las últimas elecciones catalanas (12 mayo 2024), siguiendo criterios como la temática, el formato, el origen o su difusión, entre otros. Con la información obtenida se elabora de forma preliminar un recurso de IA con capacidad de reconocer tales contenidos. Partimos de estos re­sultados concretos: el tema más recurrente es la inmigración, predo­mina el formato texto más fotografía, en la mayoría de los casos proce­de de perfiles registrados como un ciudadano cualquiera y los medios convencionales no participan, en general, en su propagación. Sobre estas pautas planteamos las principales características de un sistema IA que combina patrones de difusión con análisis de texto, imágenes y sentimiento, que junto con la verificación en tiempo real de hechos nos permita filtrar con un grado suficiente de sensibilidad (proporción de bulos correctamente identificados) y especificidad (proporción de contenidos veraces erróneamente clasificados como bulos).

Ce résumé expose les affirmations des auteurs. BNTIC ne l’interprète pas comme une validation indépendante des résultats.