Google informa al regulador australiano de la magnitud de las quejas sobre contenidos terroristas falsificados mediante IA Forbes

Forbes México.
Google informa al regulador australiano de la magnitud de las quejas sobre contenidos terroristas falsificados mediante IA

Google informó a las autoridades australianas que recibió más de 250 quejas en todo el mundo durante casi un año de que su software de inteligencia artificial se utilizó para crear material terrorista deepfake.

La empresa propiedad de Alphabet el gigante tecnológico, también dijo que había recibido docenas de informes de usuarios advirtiendo que su programa de inteligencia artificial, Gemini, estaba siendo utilizado para crear material de abuso infantil, según la Comisión Australiana de Seguridad.

Según la legislación australiana, las empresas tecnológicas deben proporcionar periódicamente a la Comisión de Seguridad Electrónica información sobre las medidas de minimización de daños o el riesgo de multas. El período del informe abarcó desde abril de 2023 hasta febrero de 2024.

Desde que ChatGPT de OpenAI irrumpió en la conciencia pública a fines de 2022, los reguladores de todo el mundo han pedido mejores protecciones para que la IA no pueda usarse para permitir el terrorismo, el fraude, la pornografía deepfake y otros abusos. La Comisión Australiana de Seguridad Electrónica calificó la revelación de Google como “un descubrimiento pionero a nivel mundial” sobre cómo los usuarios pueden estar explotando la tecnología para producir contenido dañino e ilegal.

También Lee: Sony y Suntory aumentan sus reservas en EU mientras Japón enfrenta la amenaza arancelaria de Trump

Google prevee potencialidad de la IA

“Esto pone de relieve lo importante que es para las empresas que desarrollan productos de IA incorporar y probar la eficacia de las medidas de seguridad para evitar que se genere este tipo de material”, dijo la comisionada de seguridad electrónica, Julie Inman Grant, en un comunicado.

En su informe, Google afirmó que recibió 258 informes de usuarios sobre presunto contenido terrorista o extremista violento generado por IA mediante Gemini y otros 86 informes de usuarios que alegaban material de abuso o explotación infantil generado por IA. No dijo cuántas quejas verificó, según el regulador.

Google utilizó el método de emparejamiento de tramas (un sistema que combina automáticamente imágenes recién cargadas con imágenes ya conocidas) para identificar y eliminar material de abuso infantil creado con Gemini.

Pero no utilizó el mismo sistema para eliminar material terrorista o extremista violento generado con Gemini, añadió el regulador.

El regulador ha multado a Telegram y Twitter, posteriormente rebautizada como X, por lo que calificó de deficiencias en sus informes. X ha perdido una apelación sobre su multa de 610,500 dólares australianos (382,000 dólares), pero planea apelar de nuevo. Telegram también planea impugnar su multa.

Con información de Reuter.

Síguenos en Google Noticias para mantenerte siempre informado

Sigue la información sobre los negocios y la actualidad en Forbes México

Google informa al regulador australiano de la magnitud de las quejas sobre contenidos terroristas falsificados mediante IA
Forbes Staff