¿Podría la IA ayudarnos a controlar la dispersión de los discursos de odio a través de las redes sociales? Cuando hagamos balance del impacto que ha tenido esta nueva tecnología, ¿pesarán más las ocasiones en que se haya usado para dar soporte a discursos homófobos, racistas… o prevalecerá su uso para detectar y denunciar a estos últimos?

Estas fueron las preguntas que le vinieron a la cabeza a Antonio Moreno Cediel cuando, el pasado mes de noviembre, vio por primera vez la VII Convocatoria de las Ayudas a la Investigación Impulsa Visión, lanzada por RTVE. Esta iniciativa del ente público otorga cada año tres ayudas de 10.000 euros a estudiantes de posgrado que vayan a hacer su trabajo de fin de máster sobre un tema relacionado con el sector audiovisual.

El tema de este año era, precisamente, el de los discursos del odio; y Moreno Cediel no tardó en conectarlo con los temas sobre los que lleva investigando ya tres años. “Estudié Ingeniería Informática en la Universidad de Alcalá (UAH) y este año he cursado el Máster de Desarrollo Ágil de Software para la Web”, explica. “Pero llevo ya casi tres años aquí trabajando en un grupo de investigación de la Universidad de Alcalá que ahora se llama Intelia”, añade.

Coordinado por el profesor titular de la UAH Antonio García Cabot, este grupo está especializado en la investigación relacionada con la IA y la interacción persona-ordenador, pero con especial foco en las herramientas de procesamiento del lenguaje natural (NLP) y los grandes modelos de lenguaje (LLM).

Así, los ingredientes del TFM de Moreno Cediel estaban servidos y pronto cobraron forma en el trabajo que acaba de ser reconocido por RTVE: La IA frente a los discursos de odio: Análisis de publicaciones Redes Sociales para ayudar a la detección y concienciación de mensajes ofensivos.

El pasado 9 de julio, el trabajo fue presentado como uno de los tres ganadores de esta edición de Impulsa Vision en una jornada en la que también tuvo la oportunidad de exponer sus resultados y conclusiones. Al evento asistieron personalidades como el presidente de RTVE, José Pablo López; o el director de la Oficina Nacional de Lucha Contra los delitos de Odio, Tomás Fernández; entre otros representantes políticos y expertos en la materia.

ANTONIO GARCÍA CABOT: "UN ALUMNO SOBRESALIENTE"

“Para mí fue muy fue una experiencia muy bonita y muy especial poder presentar mi TFM ante tanta gente, y lo agradezco mucho a RTVE haberme dado la oportunidad”, confiesa este joven investigador, que fue galardonado junto a Bruna Scaratti e Irene Villarreal, alumnas de la Universidad de Huelva y la UNED, respectivamente.

"Antonio es un alumno sobresaliente, y prueba de ello fue la obtención del premio extraordinario tras finalizar su grado en Ingeniería Informática", argumenta García Cabot, que le acompañó en dicho acto. “Y su trabajo sobre la aplicación de la IA frente a los discursos del odio supone poner a la IA un claro objetivo que beneficia a la sociedad”, explica.

Tal y como lo describe Moreno Cediel, su TFM pivotaba en torno a dos ejes principales. El primero de ellos, estimar “en qué medida puede la IA ayudar a evitar una proliferación descontrolada del odio en redes sociales, porque nos enfrentamos ante una cantidad inmensa de datos que es imposible de analizar manualmente”.

En concreto, menciona una investigación realizada en 2022 por 80 investigadores de todo el mundo, en la que se contabilizaron 375 millones de tuits en un solo día, el 21 de septiembre de aquel año. Sumen ahora todo el odio que pueda circular por Facebook, Instagram, TikTok, Reddit y cualquier otra red social que se le venga a la cabeza.

El trabajo de este joven alumno de la UAH se centró precisamente en Reddit, por ser acceso abierto, e implementó una herramienta que permitía escanear todos los contenidos posteados por un usuario completo y detectar cualquier discurso de odio. “Es una buena herramienta de concienciación, porque uno mismo puede ver cómo se están categorizando sus propias publicaciones para saber si has realizado algún comentario sexista o racista o homófobo…”, expone.

QUE PREVALEZCA LA 'IA BUENA'

Moreno se muestra muy agradecido a García Cabot y al resto de miembros de Intelia, convencido de que sin el respaldo del grupo de investigación no habría logrado este reconocimiento. “Sin los recursos que tiene el grupo de investigación, entrenar este tipo de modelos habría sido imposible”, detalla este joven investigador, con un brillante presente y un prometedor futuro.

No en vano, el futuro de la humanidad va a estar marcado, en buena medida (o eso barrunta desde el mirador de 2025), por las máquinas inteligentes. ¿Para bien o para mal? "Claramente, va a ser un reto para la sociedad, y desde nuestro lugar de investigadores tenemos que intentar que prevalezcan las cosas buenas, como ha ocurrido hasta ahora con cualquier otro avance de la humanidad”, responde Antonio Moreno Cediel.

Publicado en: Actualidad