Laura López
Madrid, 2 may (EFE).- La Universidad de Jaén ha creado un sistema generativo del lenguaje -al estilo ChatGPT- entrenado para responder los discursos de odio en redes sociales con el fin de desmontarlos, un modelo que será presentado en unos meses ante la Comisión Europea como parte de un proyecto europeo liderado por el Gobierno español.
"Ningún humano sería capaz de hacerlo mejor", asegura en una entrevista con la Agencia EFE la catedrática de Informática María Teresa Martín, una de las impulsoras de este sistema, el primero de estas características en español.
Este modelo es una de las ramas del proyecto Real-Up, dirigido por el Observatorio Español del Racismo y la Xenofobia (Oberaxe) del Ministerio de Inclusión, Seguridad Social y Migraciones y con la Oficina Nacional de Lucha Contra los Delitos de Odio (Ondod) y las universidades de Barcelona (UB) y de Valencia (UV) entre sus socios.
Su objetivo general es mejorar la capacidad de las autoridades para identificar discursos de odio en línea y fortalecer las contranarrativas hacia estos mensajes motivados por el racismo, la xenofobia, la islamofobia, el antisemitismo y el antigitanismo.
La aportación del grupo de investigación Sistemas Inteligentes de Acceso a la Información (SINAI) de la Universidad de Jaén consiste en una herramientas de inteligencia artificial basada en sistemas de procesamiento del lenguaje natural.
Surgió desde la observación, desde el punto de vista sociológico, de que la práctica habitual de las plataformas de eliminar los mensajes de odio o colocar una etiqueta de 'contenido inapropiado' no resulta la más adecuada.
"Muchas veces las personas que están leyendo el hilo de Twitter (ahora denominado X), cuando ven que al 'hater' se le censura automáticamente, aunque ni siquiera esté de acuerdo con él, se pone de su parte", explica Martín.
Ofrece mejores resultados crear otro mensaje de respuesta, en este caso "positivo, informativo y veraz", que "contrarreste" ese discurso de odio.
Por ejemplo, ante la afirmación "los inmigrantes vienen a quitarnos el trabajo", esta herramienta responde destacando el valor de la población extranjera en el mercado de trabajo del país, en muchas ocasiones asumiendo puestos que los ciudadanos locales rechazan, y resalta los aspectos positivos de la diversidad.
"Limitar a las mujeres a tareas domésticas y cuidado infantil es injusto y no refleja la diversidad y el potencial de las mujeres en la sociedad actual" o "todos merecen igualdad de oportunidades y derechos, independientemente de su raza o etnia" son otras de las respuestas que ofrece esta herramienta.
"Hemos comparado lo que hace un humano con esto y en el 80 % de las ocasiones la contranarrativa generada por nuestro sistema tiene mejor calidad: son más informativas, más descriptivas y más específicas", asegura Martín.
Para desarrollar esta herramienta, su equipo ha implementado sus propios sistemas generativos del lenguaje en base a modelos abiertos como LLaMA o Mistral, cuyas respuestas han corregido y entrenado a base de "premios y castigos" en una revisión manual de 5.000 ejemplos por parte de expertos lingüistas.
Este instrumento lo podrían incorporar las propias redes sociales, algo que Martín duda que pueda interesar a las empresas que las dirigen, y (más probablemente) autoridades o entidades sociales que buscan combatir el odio en redes, algo que hoy en día hacen de forma manual.
"Muchos voluntarios acaban con unos problemas mentales horrorosos de estar leyendo barbaridades y contestar una y otra vez las mismas cosas", explica Martín, para quien esta herramienta resolvería parte del problema.
Otra de las investigaciones que forman parte de Real-Up están centradas en la detección y perfilado de 'haters' en la red social X y han llevado a la creación de una aplicación que será utilizada por las fuerzas y cuerpos de seguridad del Estado en su lucha contra los discursos de odio, que pueden ser constitutivos de delito.
Este sistema, liderado por la doctora en Matemáticas Rosa Elvira Lillo, utiliza un algoritmo que detecta los perfiles generadores de odio con una precisión del 75,6% sin necesidad de analizar lo que publican, solo a través de una serie de características comunes.
Se trata de usuarios con un bajo número de seguidores y que siguen a mucha gente, pasan poco tiempo en la red social, pertenecen a un número muy reducido de listas y ofrecen poca información en su descripción, según los resultados obtenidos tras analizar tres millones de mensajes.
Además, la mayoría de ellos son perfiles que se expresan de forma violenta "independientemente del tema que hablen", ya sea "de deporte o del tiempo", pero normalmente se centran en discriminar a un único colectivo, explica en una entrevista la autora del estudio.
Y tienden a relacionarse con aquellos que comparten sus mismas opiniones y actitudes, lo que da lugar a "comunidades virtuales basadas en el odio".
El objetivo es que esta aplicación sea implementada por las fuerzas de seguridad para apoyar sus labores de "ciberpatrullaje", según explica a EFE el jefe de servicio de la Ondod del Ministerio del Interior, Tomás Fernández.
Según este comandante de la Guardia Civil, los agentes ya realizan este tipo de rastreos en la red, pero de una forma más "manual" y no estandarizada, como sí se espera conseguir con este sistema.
Por su parte, la responsable del Sistema Estadístico y Atención a Víctimas de la Ondod, la teniente coronel Pilar Muniesa, enmarca la participación del órgano en este proyecto en la preocupación por la tendencia "alcista" en los delitos de odio en España, aunque lo atribuye, en parte, a que estos cada vez tienen más visibilidad.
Pero el índice de infradenuncia sigue siendo "elevada", de un 84 % según los últimos datos: "Muchas veces, las víctimas no detectan que están siendo víctimas, pero estamos trabajando mucho para que esta tasa baje", asegura. EFE
lll/jlg
(Recursos de archivo en www.lafototeca.com. Cód: 21612129 y otros)
La directiva del Club Cruz Azul ya tendría todo listo para la construcción del nuevo estadio de La Máquina; Víctor Velázquez, presidente del equipo, reveló todos los detalles.
SDP Noticias
México.-Desde hace muchos años, los aficionados del Club Cruz Azul le exigen a la directiva de La Máquina la construcción de un estadio propio para evitar que el equipo se siga mudando de casa. El Club Cruz Azul regresó al Estadio Ciudad de los Deportes luego de varios torneos jugando en el Estadio Azteca, recinto donde La Máquina rompió
Elarsenal.net
Por Itzel Chan MÉRIDA, MX.- Durante los Foros Democráticos organizados por la Canaco, quienes aspiran a la gubernatura de Yucatán, coincidieron en que uno de los problemas más urgentes por atender en Mérida es el tema de movilidad. En una dinámica con un formato parecido a un debate, las candidaturas respondieron preguntas realizadas por la [
Noticaribe
Gracias por contactarnos con su consulta sobre la queja de la BEUC. Temu es un recién llegado en Europa, habiendo ingresado a nuestros primeros mercados hace poco más de un año. Durante este tiempo, hemos escuchado atentamente los comentarios de los clientes, los organismos reguladores y los grupos de defensa del consumidor. Hemos estado ajustan
Lado.mx
Desde sus modestos comienzos hasta convertirse en una de las principales plataformas de juegos de azar en línea, la historia de Strendus es un relato de éxito e innovación.
Lado.mx
Si bien la Tri no parte como una de las selecciones favoritas para levantar la próxima Copa América 2024, hay mucho optimismo y ánimo por parte de la afición mexicana.
Lado.mx
La alcaldía Benito Juárez enfrenta una crisis de contaminación del agua que ha generado una creciente preocupación entre sus habitantes. Esta situación se suma a una serie de problemas ambientales relacionados con la empresa petrolera, evidenciando la necesidad de una gestión más rigurosa y responsable de los recursos naturales. Estud
Plaza de Ármas
Jeffinho aprovechó un mal despeje de Matías Di Benedetto y una desatención de Williams Riveros para abrir el marcador fuera de casa por la penúltima jornada del certamen internacional.
Infobae
El carrilero de la ‘U’ protagonizó una gran jugada individual en el primer tiempo del enfrentamiento por la fecha 5 del certamen de la Conmebol.
Infobae
Se acercan los eventos previos al verano, y esa es una de las mejores épocas para los jugadores. Se suelen acumular numerosas conferencias, como el Summer Game Fest, Xbox Showcase, Ubisoft Forward, etc. Hoy os hablaremos de la primera que os hemos mencionado, el Summer Game Fest 2024
3d Juegos
La vuelta a Veracruz en un teclazo La violencia política en la recta final de la contienda Yamiri Rodríguez Madrid Quedan ya solo 16 días para que acudamos a las urnas y solo 12 para que terminen las campañas; sin embargo, estos son ya los días más difíciles porque a muchos candidatos y partidos políticos […]The post La violencia pol
Hora Cero
La consejal de Pergamino asistió al auditorio de Ticmas dentro de la FIL de Buenos Aires para platicar acerca de la situación de analfabetismo en la ciudad y cómo se enfrentará este reto desde el sector público
Infobae
Los Rayados lograron vencer a los Tigres en un partido de Liguilla y se instalaron en la antesala de la final
El Informador
Cinco Clásicos Nacionales en un semestre es el escenario perfecto para todo aficionado al futbol. Ni en el mejor guion televisivo, los aficionados del América y el Guadalajara soñaron con verle la cara a su acérrimo rival en cinco ocasiones, en tres meses.La noche de este miércoles, Águilas y Chivas disputan —en el estadio Akron— la Ida d
Vanguardia.com.mx
Todo está preparado para el segundo cruce de Semifinales de la Liga MX, donde los equipos de Cruz Azul y Rayados de Monterrey, se enfrentarán en un partido decisivo de ida.A lo largo de la temporada regula, ambos equipos, fueron de lo más destacado del torneo, terminando como segundo y cuarto lugar, clasificándose de manera directa a la liguill
Vanguardia.com.mx
Ya se juega el Rayados vs Cruz Azul, el duelo de ida de las semifinales de la Liga MX; acá puedes seguir las acciones en vivo.
SDP Noticias
El Club Cruz Azul tendría un nuevo estadio para sus partidos de local, sin embargo, no sería construido en la Ciudad de México, sino en el Estado de México.
SDP Noticias
La Máquina busca un buen resultado en la casa del Monterrey en el primer capítulo de la serie.
ESPNdeportes.com
La Premier League se encuentra en una situación inédita, con dos trofeos idénticos listos para ser entregados, uno en el Emirates Stadium y otro en el Etihad Stadium, en preparación para coronar al campeón de esta temporada: el Arsenal de Mikel Arteta o el Manchester City de Pep Guardiola.Con la liga llegando a su última jornada, ambos equipo
Vanguardia.com.mx
Los mejores cuatro equipos de la campaña saldrán a escena para disputar el primer capítulo de las Semifinales del Clausura 2024 de la Liga MX Femenil
El Informador
Ya se juega el Rayados vs Cruz Azul, el duelo de ida de las semifinales de la Liga MX; acá puedes seguir las acciones en vivo.
SDP Noticias
Últimas noticias
Exhiben al ‘Canelo’ Álvarez por supuesta infidelidad con famosa actriz
Captan riña campal en La Popular
Guanajuato en “Endémico, la Huella Culinaria”
La juventud, eje prioritario en proyecto de Larrazábal
Helicópteros de Sedena y Marina combaten incendios forestales en Oaxaca
Ya disponible en Netflix la tercera temporada de Bridgerton
Propone Urbina blindar Tecámac y bajar las tarifas de agua
Presentan iniciativas en materia de aprovechamiento de energías limpias e infraestructura en Sonora
Poza Verde va con Miriam García
Veracruz, listo para la temporada de lluvias y ciclones tropicales
¡Se fue ‘Toto’ Salvio! Las primeras bajas de Pumas de cara al Apertura 2024
PIDE NINO MORALES, A SUS HERMANOS INDÍGENAS, VOTAR POR LOS AUTÉNTICOS TRANSFORMADORES
Fiscal de distrito: Acusan a dos policías del NYPD de abuso sexual de mujer inconsciente en El Bronx
Salma Hayek y Eiza González posan juntas en desfile de Gucci
Matan a Santos Moreno, gobernador tradicional en Choix y candidato del PRI