Empresas líderes como Google, Meta, Microsoft, OpenAI y Amazon han unido fuerzas en un proyecto pionero que aspira a establecer normativas sólidas para prevenir que la IA genere imágenes de abuso sexual infantil.
Este proyecto, impulsado por Thorn y All Tech is Human, busca enfocar el poder transformador de la IA hacia un progreso que resguarde los derechos y la integridad de los menores.
La iniciativa subraya la importancia de utilizar bases de datos limpias para el entrenamiento de modelos de IA. Las empresas han asumido el compromiso de asegurarse de que los datos empleados para alimentar sus sistemas no contengan imágenes que exploten a menores.
Además, las empresas tecnológicas deberán implementar mecanismos robustos de control y pruebas rigurosas para demostrar que sus modelos de IA generativa están libres de la capacidad de crear imágenes de abuso sexual infantil.
Este proyecto también refuerza la idea de que la innovación tecnológica debe ir de la mano con una firme ética de desarrollo. En su búsqueda por explorar los límites de lo posible, la IA no debe traspasar los límites de lo moralmente aceptable.
La magnitud del problema que estas directrices buscan mitigar es alarmante. Solo en Estados Unidos, más de 104 millones de archivos sospechosos de contener material de abuso sexual infantil fueron reportados en 2023, según datos proporcionados por Thorn.
Esta cifra refleja la urgencia de establecer barreras digitales efectivas contra la proliferación de tales contenidos en la red.
¿Cómo la IA puede afectar la integridad de menores?
La inteligencia artificial generativa, aunque posee un enorme potencial para la innovación, también representa un riesgo significativo para la protección y seguridad de los menores, por lo que merece atención urgente.
De acuerdo con el documento que sustenta el proyecto anteriormente mencionado, la IA puede afectar el proceso de identificación de víctimas con la proliferación de imágenes falsas.
Además, esta tecnología puede ser utilizada para intensificar prácticas de acoso, como el grooming y la sextorsión, al producir contenido que simula acciones y poses explicitas sin necesidad de material inicial explícito.
Este tipo de contenido podría también tener el potencial de aumentar los delitos de contacto físico. “La normalización de este material también contribuye a otros resultados perjudiciales para los niños”, se lee en el documento.
Los modelos de IA generativa pueden ser utilizados por depredadores para compartir consejos sobre cómo cometer abusos de manera efectiva, incluyendo formas de coaccionar a las víctimas, destruir evidencias o manipular material de abuso para evitar la detección.
Fenómeno de los deepfakes sexuales no consensuados
El fenómeno de la creación y distribución de imágenes no consensuadas mediante inteligencia artificial se ha expandido más allá de los menores, afectando también a adultos, incluyendo figuras públicas y celebridades.
Una reciente investigación realizada por Forbes destapó cómo eBay, la conocida plataforma de subastas en línea, se había convertido en un mercado para la venta de contenido explícito falso de celebridades reconocidas.
Utilizando herramientas avanzadas de inteligencia artificial y edición como Photoshop, se generaron imágenes sexualmente explícitas de al menos 40 personalidades famosas, entre ellas Margot Robbie, Selena Gómez y Jenna Ortega.
Sorprendentemente, una tienda en eBay ofrecía a la venta más de 400 productos que contenían fotos alteradas de celebridades como Taylor Swift, Selena Gómez, Katy Perry, Ariana Grande y Alexandria Ocasio-Cortez, presentándolas en situaciones comprometedoras.
La reacción de eBay ante la alerta de Forbes fue inmediata, procediendo a la eliminación de cientos de estas fotografías falsas y a la suspensión de las cuentas de los vendedores implicados.
Este incidente subraya la urgencia de implementar medidas más rigurosas para combatir la diseminación de contenido digital generado sin consentimiento, resaltando la necesidad de un marco regulatorio más estricto que proteja la integridad y privacidad de todas las personas en el entorno digital.
La ceremonia de toma de posesión contará con la presencia de dignatarios de más de 50 países, entre ellos Estados Unidos, Paraguay y Honduras
Infobae
Moscú, 17 may (Prensa Latina) El presidente ruso, Vladimir Putin, comenzó hoy su segundo día de visita de Estado a China colocando flores en la ciudad de Harbin en el monumento a los soldados soviéticos caídos por la liberación del país asiático.The post Putin deposita flores en monumento a soldados soviéticos en Harbin first appeared on N
Prensa Latina
Managua, 17 may (Prensa Latina) El Gobierno de Nicaragua impulsa hoy el plan nacional de producción, consumo y comercios 2024-2025, el cual tiene entre sus objetivos reducir la pobreza y la desigualdad en el país.The post Plan de producción en Nicaragua busca reducir la pobreza first appeared on Noticias Prensa Latina.
Prensa Latina
Gracias por contactarnos con su consulta sobre la queja de la BEUC. Temu es un recién llegado en Europa, habiendo ingresado a nuestros primeros mercados hace poco más de un año. Durante este tiempo, hemos escuchado atentamente los comentarios de los clientes, los organismos reguladores y los grupos de defensa del consumidor. Hemos estado ajustan
Lado.mx
Desde sus modestos comienzos hasta convertirse en una de las principales plataformas de juegos de azar en línea, la historia de Strendus es un relato de éxito e innovación.
Lado.mx
Si bien la Tri no parte como una de las selecciones favoritas para levantar la próxima Copa América 2024, hay mucho optimismo y ánimo por parte de la afición mexicana.
Lado.mx
Cruz Azul con su parado táctico del técnico Martín Anselmi le comió el mandado al técnico de Rayados, el argentino Fernando Ortiz, para tomar ventaja en el duelo de ida de la semifinal
La Opinión
ESPN Deportes
Alejandro Moreno, presidente del Comité Ejecutivo Nacional (CEN) del Partido Revolucionario Institucional (PRI), afirmó que, al negarse a declinar en favor de Xóchitl Gálvez, Jorge Álvarez Máynez, candidato presidencial de Movimiento Ciudadano, “le dijo no a México”. “Es patético ver … The post Al negarse a declinar por Xóchitl
Calle México
Se acercan los eventos previos al verano, y esa es una de las mejores épocas para los jugadores. Se suelen acumular numerosas conferencias, como el Summer Game Fest, Xbox Showcase, Ubisoft Forward, etc. Hoy os hablaremos de la primera que os hemos mencionado, el Summer Game Fest 2024
3d Juegos
La vuelta a Veracruz en un teclazo La violencia política en la recta final de la contienda Yamiri Rodríguez Madrid Quedan ya solo 16 días para que acudamos a las urnas y solo 12 para que terminen las campañas; sin embargo, estos son ya los días más difíciles porque a muchos candidatos y partidos políticos […]The post La violencia pol
Hora Cero
COZUMEL, MX.– Regresan a la isla los Servicios Móviles de Atención Médica que ofrece la Secretaría de Salud en coordinación con los Servicios Estatales de Salud (SESA), con las que la comunidad cozumeleña podrá aprovechar del 20 al 24 de mayo el abanico de atenciones a fin de prevenir enfermedades o en su caso, atenderlas […]The post
Noticaribe
Santiago de Chile, 7 may (Prensa Latina) El sistema frontal que afecta hoy a la zona central de Chile provocó un apagón de grandes proporciones en la capital, donde poco más de 250 mil usuarios quedaron sin servicio de energía eléctrica.The post Apagón en capital chilena afectó a un cuarto de millón de usuarios first appeared on Noticias Pr
Prensa Latina
Santiago de Chile, 7 may (Prensa Latina) El equipo chileno de fútbol Palestino dio hoy la sorpresa al derrotar con marcador de 1-0 al Flamengo, de Brasil, y ubicarse en el segundo lugar del grupo C de la Copa Libertadores.The post Palestino de Chile derrotó al Flamengo en Copa Libertadores de fútbol first appeared on Noticias Prensa Latina.
Prensa Latina
Santiago de Chile, 8 may (Prensa Latina) Al participar en el XXXVI Seminario de Política Fiscal, que sesiona hoy en Chile, la Organización Panamericana de la Salud (OPS) llamó a los países de la región a incrementar el gasto en la atención primaria.The post OPS llama en Cepal a priorizar gastos para la atención primaria first appeared on Not
Prensa Latina
Los fenómenos meteorológicos y análisis de probabilidad permiten dar información sobre la temperatura, lluvias y vientos para las próximas horas
Infobae
Los fenómenos meteorológicos y análisis de probabilidad permiten dar información sobre la temperatura, lluvias y vientos para las próximas horas
Infobae
Ante el inicio de la temporada de huracanes la cual inició el 15 de mayo y culmina el 30 de noviembre, el director de Protección Civil (PC) de Tihuatlán, Ismael Callejas Guzmán dio a conocer que se encuentran preparados para atender cualquier situación, ya que se prevé que los fenómenos meteorológicos podrían afectar a los […]
Enteratever
Los Atlanta Hawks ganaron este domingo la Lotería del Draft de la NBA de 2024, siendo la primera vez en la historia que ganan el evento, lo que les permite tener la primera escogencia general de la próxima clase de novatos.
12up.com
Los Hawks ganaron la lotería del draft de la NBA de este año con la quinta probabilidad más baja de la historia: solo el 3%
ESPNdeportes.com
Trae Young, figura de los Atlanta Hawks, parece querer cambiar de aires y hay rumores que lo vinculan con los Lakers, pero hay un equipo que ha surgido como una opción para el escolta en los últimos días y esos son los San Antonio Spurs.
12up.com
Últimas noticias
Parece una PS2 pero se presentó 8 años antes que la consola de Sony. Esta es la historia del último sueño de Atari para crear el ordenador definitivo, su Falcon030 Microbox
Llama olímpica de París-2024 llegará a la Ciudad Rosa Toulouse
Rusia planea lanzar 20 cohetes Soyuz en 2024
Joven atleta primera clasificada de Maldivas a juegos olímpicos
Jefes de los parlamentos armenio y azerbaiyano se reúnen en Ginebra
La electricidad verde comercializada avalada por garantías de origen superó el 97% en 2023
Rubiales asegura que Hermoso "cambió su versión" sobre el beso "pasados unos días": "Espero que se haga Justicia"
Ulises Dávila, ex canterano de Chivas es arrestado en Australia por arreglar apuestas
Expresidente Uribe señaló que no conoce a alias El Tuso, al que le habrían ofrecido beneficios para acusarlo
En qué casos la Seguridad Social puede retirar la incapacidad permanente
Íñigo Onieva y su madre, Carolina Molas, ‘pillados’ intentando subir la calificación del nuevo restaurante del empresario
A Claudia Osborne le da la risa con el último desencuentro entre su padre y Gabriela Guillén
China concederá 40.000 millones de dólares en préstamos para proyectos de vivienda
Activistas anuncian que continúan su protesta contra ampliación de planta alemana de Tesla
El Águila cae 1-0 ante Oaxaca