Laura López
Madrid, 2 may (EFE).- La Universidad de Jaén ha creado un sistema generativo del lenguaje -al estilo ChatGPT- entrenado para responder los discursos de odio en redes sociales con el fin de desmontarlos, un modelo que será presentado en unos meses ante la Comisión Europea como parte de un proyecto europeo liderado por el Gobierno español.
"Ningún humano sería capaz de hacerlo mejor", asegura en una entrevista con la Agencia EFE la catedrática de Informática María Teresa Martín, una de las impulsoras de este sistema, el primero de estas características en español.
Este modelo es una de las ramas del proyecto Real-Up, dirigido por el Observatorio Español del Racismo y la Xenofobia (Oberaxe) del Ministerio de Inclusión, Seguridad Social y Migraciones y con la Oficina Nacional de Lucha Contra los Delitos de Odio (Ondod) y las universidades de Barcelona (UB) y de Valencia (UV) entre sus socios.
Su objetivo general es mejorar la capacidad de las autoridades para identificar discursos de odio en línea y fortalecer las contranarrativas hacia estos mensajes motivados por el racismo, la xenofobia, la islamofobia, el antisemitismo y el antigitanismo.
La aportación del grupo de investigación Sistemas Inteligentes de Acceso a la Información (SINAI) de la Universidad de Jaén consiste en una herramientas de inteligencia artificial basada en sistemas de procesamiento del lenguaje natural.
Surgió desde la observación, desde el punto de vista sociológico, de que la práctica habitual de las plataformas de eliminar los mensajes de odio o colocar una etiqueta de 'contenido inapropiado' no resulta la más adecuada.
"Muchas veces las personas que están leyendo el hilo de Twitter (ahora denominado X), cuando ven que al 'hater' se le censura automáticamente, aunque ni siquiera esté de acuerdo con él, se pone de su parte", explica Martín.
Ofrece mejores resultados crear otro mensaje de respuesta, en este caso "positivo, informativo y veraz", que "contrarreste" ese discurso de odio.
Por ejemplo, ante la afirmación "los inmigrantes vienen a quitarnos el trabajo", esta herramienta responde destacando el valor de la población extranjera en el mercado de trabajo del país, en muchas ocasiones asumiendo puestos que los ciudadanos locales rechazan, y resalta los aspectos positivos de la diversidad.
"Limitar a las mujeres a tareas domésticas y cuidado infantil es injusto y no refleja la diversidad y el potencial de las mujeres en la sociedad actual" o "todos merecen igualdad de oportunidades y derechos, independientemente de su raza o etnia" son otras de las respuestas que ofrece esta herramienta.
"Hemos comparado lo que hace un humano con esto y en el 80 % de las ocasiones la contranarrativa generada por nuestro sistema tiene mejor calidad: son más informativas, más descriptivas y más específicas", asegura Martín.
Para desarrollar esta herramienta, su equipo ha implementado sus propios sistemas generativos del lenguaje en base a modelos abiertos como LLaMA o Mistral, cuyas respuestas han corregido y entrenado a base de "premios y castigos" en una revisión manual de 5.000 ejemplos por parte de expertos lingüistas.
Este instrumento lo podrían incorporar las propias redes sociales, algo que Martín duda que pueda interesar a las empresas que las dirigen, y (más probablemente) autoridades o entidades sociales que buscan combatir el odio en redes, algo que hoy en día hacen de forma manual.
"Muchos voluntarios acaban con unos problemas mentales horrorosos de estar leyendo barbaridades y contestar una y otra vez las mismas cosas", explica Martín, para quien esta herramienta resolvería parte del problema.
Otra de las investigaciones que forman parte de Real-Up están centradas en la detección y perfilado de 'haters' en la red social X y han llevado a la creación de una aplicación que será utilizada por las fuerzas y cuerpos de seguridad del Estado en su lucha contra los discursos de odio, que pueden ser constitutivos de delito.
Este sistema, liderado por la doctora en Matemáticas Rosa Elvira Lillo, utiliza un algoritmo que detecta los perfiles generadores de odio con una precisión del 75,6% sin necesidad de analizar lo que publican, solo a través de una serie de características comunes.
Se trata de usuarios con un bajo número de seguidores y que siguen a mucha gente, pasan poco tiempo en la red social, pertenecen a un número muy reducido de listas y ofrecen poca información en su descripción, según los resultados obtenidos tras analizar tres millones de mensajes.
Además, la mayoría de ellos son perfiles que se expresan de forma violenta "independientemente del tema que hablen", ya sea "de deporte o del tiempo", pero normalmente se centran en discriminar a un único colectivo, explica en una entrevista la autora del estudio.
Y tienden a relacionarse con aquellos que comparten sus mismas opiniones y actitudes, lo que da lugar a "comunidades virtuales basadas en el odio".
El objetivo es que esta aplicación sea implementada por las fuerzas de seguridad para apoyar sus labores de "ciberpatrullaje", según explica a EFE el jefe de servicio de la Ondod del Ministerio del Interior, Tomás Fernández.
Según este comandante de la Guardia Civil, los agentes ya realizan este tipo de rastreos en la red, pero de una forma más "manual" y no estandarizada, como sí se espera conseguir con este sistema.
Por su parte, la responsable del Sistema Estadístico y Atención a Víctimas de la Ondod, la teniente coronel Pilar Muniesa, enmarca la participación del órgano en este proyecto en la preocupación por la tendencia "alcista" en los delitos de odio en España, aunque lo atribuye, en parte, a que estos cada vez tienen más visibilidad.
Pero el índice de infradenuncia sigue siendo "elevada", de un 84 % según los últimos datos: "Muchas veces, las víctimas no detectan que están siendo víctimas, pero estamos trabajando mucho para que esta tasa baje", asegura. EFE
lll/jlg
(Recursos de archivo en www.lafototeca.com. Cód: 21612129 y otros)
*El candidato del PRD a la presidencia municipal de Oaxaca, se reunió con estudiantes universitarios. Oaxaca de Juárez, Oax.- Al reunirse con estudiantado del Colegio Libre de Estudios Universitarios, el candidato a la presidencia municipal de Oaxaca de Juárez por el PRD (@PRDOaxacaA ), Jaime Larrazábal (@JLarrazabalB ) confirmó que las
RIOaxaca
Ya se juega el Rayados vs Cruz Azul, el duelo de ida de las semifinales de la Liga MX; acá puedes seguir las acciones en vivo.
SDP Noticias
La Máquina busca un buen resultado en la casa del Monterrey en el primer capítulo de la serie.
ESPNdeportes.com
Gracias por contactarnos con su consulta sobre la queja de la BEUC. Temu es un recién llegado en Europa, habiendo ingresado a nuestros primeros mercados hace poco más de un año. Durante este tiempo, hemos escuchado atentamente los comentarios de los clientes, los organismos reguladores y los grupos de defensa del consumidor. Hemos estado ajustan
Lado.mx
Desde sus modestos comienzos hasta convertirse en una de las principales plataformas de juegos de azar en línea, la historia de Strendus es un relato de éxito e innovación.
Lado.mx
Si bien la Tri no parte como una de las selecciones favoritas para levantar la próxima Copa América 2024, hay mucho optimismo y ánimo por parte de la afición mexicana.
Lado.mx
*El candidato del PRD a la presidencia municipal de Oaxaca, se reunió con estudiantes universitarios. Oaxaca de Juárez, Oax.- Al reunirse con estudiantado del Colegio Libre de Estudios Universitarios, el candidato a la presidencia municipal de Oaxaca de Juárez por el PRD (@PRDOaxacaA ), Jaime Larrazábal (@JLarrazabalB ) confirmó que las
RIOaxaca
La alcaldía Benito Juárez enfrenta una crisis de contaminación del agua que ha generado una creciente preocupación entre sus habitantes. Esta situación se suma a una serie de problemas ambientales relacionados con la empresa petrolera, evidenciando la necesidad de una gestión más rigurosa y responsable de los recursos naturales. Estud
Plaza de Ármas
La directiva del Club Cruz Azul ya tendría todo listo para la construcción del nuevo estadio de La Máquina; Víctor Velázquez, presidente del equipo, reveló todos los detalles.
SDP Noticias
Se acercan los eventos previos al verano, y esa es una de las mejores épocas para los jugadores. Se suelen acumular numerosas conferencias, como el Summer Game Fest, Xbox Showcase, Ubisoft Forward, etc. Hoy os hablaremos de la primera que os hemos mencionado, el Summer Game Fest 2024
3d Juegos
La vuelta a Veracruz en un teclazo La violencia política en la recta final de la contienda Yamiri Rodríguez Madrid Quedan ya solo 16 días para que acudamos a las urnas y solo 12 para que terminen las campañas; sin embargo, estos son ya los días más difíciles porque a muchos candidatos y partidos políticos […]The post La violencia pol
Hora Cero
La consejal de Pergamino asistió al auditorio de Ticmas dentro de la FIL de Buenos Aires para platicar acerca de la situación de analfabetismo en la ciudad y cómo se enfrentará este reto desde el sector público
Infobae
David Medrano y Christian Martinoli revelaron la posible llegada de un nuevo refuerzo de alto calibre para Tigres en el próximo torneo Apertura 2024
El Informador
El analista deportivo, fiel a su estilo, sentenció que el árbitro central sí favoreció a las Águilas en su pase a la semifinal
Infobae
El analista deportivo, Christian Martinoli, fiel a su estilo, sentenció que el árbitro central sí favoreció a las Águilas en su pase a la semifinal
La Opinión de Los Ángeles
Después de la eliminación en Cuartos de Final frente a Cruz Azul, llegó la hora de hacer cambios en el plantel de Pumas, que anunció sus...The post ¡Se fue ‘Toto’ Salvio! Las primeras bajas de Pumas de cara al Apertura 2024 appeared first on Sopitas.com.
Sopitas.com
La Máquina presenta modificaciones para la semifinal de ida. Consulta las alineaciones de ambos equipos.
ESPNdeportes.com
Después de la eliminación en Cuartos de Final frente a Cruz Azul, llegó la hora de hacer cambios en el plantel de Pumas, que anunció sus...The post ¡Se fue ‘Toto’ Salvio! Pumas se pone a salvo de la posible reducción de extranjeros con sus primeras bajas appeared first on Sopitas.com.
Sopitas.com
El organismo determinó que la falta del jugador de las Chivas en la Semifinal contra América fue bien sancionada por Óscar Mejía.
ESPNdeportes.com
ESPN Deportes
Las Chivas tendrán este sábado vs. América la ventaja de la historia de los duelos de semifinales en la liguilla del fútbol de México
La Opinión de Los Ángeles
Últimas noticias
Pintura y 3D: ganan en concurso de Artes Visuales de VibrArt 2024
Anuncian arribo a Nicaragua de nuevos ómnibus procedentes de China
ATENCIÓN: Detienen camión cargado de despensas y propaganda del Partido Verde en Ecatepec
Calor en México aún no alcanza su máximo: ¿Qué es la canícula y cómo afectará con altas temperaturas?
INE elimina fragmentos del segundo debate donde Sheinbaum llama corrupta a Xóchitl Gálvez
Plantas de energía alienígenas posiblemente detectadas en 60 estrellas
INE elimina fragmentos del segundo debate donde Sheinbaum llama corrupta a Xóchitl Gálvez
Ante inminente triunfo de Christian Baruch en Santa Cruz Amilpas, lanzan campaña negra en su contra
Rescatan a gatito que quedó atrapado en muro tras reparaciones en la casa
Elimina las manchas de agua y el sarro en tu baño con este truco
INE elimina fragmentos del segundo debate donde Sheinbaum llama corrupta a Xóchitl Gálvez
Sólo tres candidatos a la alcaldía asistieron al debate de la Canaco
¡Atención! Todavía puedes pedir reimpresión de tu INE para votar
EU formaliza propuesta de reclasificación de la mariguana como droga menos peligrosa
¿Cómo revivir a Rocío?