Vías regulatorias para abordar la inteligencia artificial Forbes

Vías regulatorias para abordar la inteligencia artificial. Noticias en tiempo real 02 de Junio, 2023 05:10
Califica esta nota

Forbes México.
Vías regulatorias para abordar la inteligencia artificial

Necesario democratizar la IA mediante el uso de código abierto: H2O.ia.

En los últimos 10 años, la Inteligencia Artificial (IA) ha pasado de tener escasa atención por parte de entidades regulatorias a ser el foco de inversiones y temas políticos. Para 2030, se prevé que, en América Latina, la IA impulse el PIB de la región en más de un 5%, y es probable que las proyecciones aumenten si los gobiernos introducen políticas para desarrollar talento y ampliar su infraestructura digital. 

Además, el interés en torno al tema continúa siendo impulsado, no sólo por los gigantes tecnológicos, sino también por los gobiernos: el Reino Unido planea introducir una regulación de IA de tres vías; China ha redactado un borrador legislativo sobre el tema para discusión pública; Estados Unidos busca una responsabilidad algorítmica y la Unión Europea (UE) mantiene el debate pero aún no ha aprobado proyectos de ley. En América Latina, las políticas sobre la Inteligencia Artificial se caracterizan por un alto grado de discontinuidad, con iniciativas de políticas que las nuevas administraciones cambian o archivan con frecuencia; y así sucesivamente.

En efecto, hay muchos planes a futuro y mucho por debatir, pero, hasta ahora, la creación y el uso de sistemas de IA no han estado restringidos de ninguna manera. Sin embargo, todo parece indicar que este panorama cambiará pronto. Una pregunta debatible es, por supuesto, la siguiente: ¿es necesaria una regulación gubernamental de la IA? Y, en caso de ser afirmativa la respuesta, ¿por qué y cómo debería ser?

Lo primero es lo primero: definamos qué es la Inteligencia Artificial. Los departamentos de marketing tienden a considerar como IA desde los últimos modelos generativos, como GPT-4, hasta los sistemas de machine learning (ML) más sencillos, incluyendo el texto predictivo T9 o las recomendaciones de películas en Netflix. Sin embargo, en realidad, detrás de cada una de estas tecnologías familiares hay “meros” algoritmos de ML.

Como empresa de seguridad de la información, llevamos casi 20 años aplicando este tipo de tecnologías en nuestros productos, pero hemos preferido referirnos modestamente a ellas como machine learning, ya que la inteligencia artificial nos trae inmediatamente a la mente cosas como supercomputadoras que hablan al estilo Hall 900 de Odisea del espacio y robots galácticos como R2-D2, C-3PO y otras cosas que parecen de ciencia ficción. Sin embargo, estos robots parlantes y pensantes tienen que ser capaces de pensar como los humanos, como la inteligencia general artificial (AGI) o la superinteligencia artificial (ASI). Sin embargo, ni la AGI ni la ASI se han inventado todavía, y difícilmente lo serán en un futuro previsible.

Una vez aclaradas las definiciones, pasemos a la posible regulación de la IA y ML. Si todas las formas de Inteligencia Artificial y machine learning se miden con el mismo criterio y se regulan por completo, todo el sector informático y muchos sectores afines lo van a pasar realmente mal. Por ejemplo, si a nosotros, como empresa de seguridad de la información, se nos exige algún día recabar el consentimiento de todos los autores de nuestros conjuntos de formación, nos encontraremos contra la espada y la pared. Aprendemos del malware y del spam, e introducimos los conocimientos adquiridos en nuestro ML, y sus “autores” no suelen dejar información de contacto.

Por tanto, es esencial que los legisladores escuchen a los expertos de la industria del machine learning, la Inteligencia Artificial, así como de la academia, para debatir la posible regulación de forma específica y centrada: por ejemplo, para sistemas multifunción entrenados en grandes volúmenes de datos de código abierto, o para sistemas de toma de decisiones de alta responsabilidad y nivel de riesgo. Mientras que las nuevas aplicaciones de la IA requerirán revisiones frecuentes de la normativa a medida que vayan surgiendo.

Personalmente, no creo en escenarios apocalípticos provocados por la superinteligencia en los próximos cien años, pero sí en un montón de dolores de cabeza por el uso irreflexivo de los “simples” equipos informáticos actuales.

Con estas innovaciones podría ocurrir cualquier cosa: errores fatales del piloto automático, deepfakes (1, 2, 3) ya habituales en memes y noticias, o una herramienta misógina de reclutamiento de IA, etc. Además, cualquier inteligencia artificial puede ser atacada con la ayuda de muestras de datos hostiles hechas a la medida: los vehículos pueden ser engañados a través del uso de calcomanías, la extracción de información personal de GPT-3, e incluso, los antivirus o EDR también pueden ser engañados.

Sin embargo, el uso de la IA aún no ha provocado problemas verdaderamente masivos, pero es evidente que existe un gran potencial para ello. Por tanto, las prioridades de la regulación deberían ser claras: prevenir incidentes en infraestructuras críticas (plantas, buques, centrales nucleares), minimizar las amenazas físicas (vehículos autónomos, diagnóstico erróneo de enfermedades) y reducir los daños personales y los riesgos empresariales (arrestos o contrataciones basadas en mediciones de cráneos, cálculo erróneo de la demanda/aprovisionamiento, etc.).

El objetivo de la regulación debería obligar tanto a los usuarios como a los proveedores de IA a tener cuidado de no incrementar los riesgos para que no ocurran las cosas negativas anteriormente mencionadas. Y cuanto más grave sea el riesgo, más activamente debe obligarse.

Síguenos en Google Noticias para mantenerte siempre informado

Por otro lado, existe otra preocupación que se plantea a menudo en relación con la Inteligencia Artificial, que es la necesidad de respetar las normas morales y éticas y, por así decirlo, atender a la comodidad psicológica. Con este propósito, pensamos en advertencias para que la gente tenga claro que está viendo un objeto inexistente (dibujado por la IA) o comunicándose con un robot y no con un humano, y también avisos que informen de que se han respetado los derechos de autor durante el entrenamiento de la IA, etc.

Por supuesto, la forma más fácil de regular la Inteligencia Artificial sería prohibirla del todo (pero hasta ahora nadie lo ha pensado). De hecho, prohibir la IA no es mucho más fácil que prohibir las computadoras. Por eso todos los intentos razonables de regulación deberían basarse en el principio de “cuanto mayor sea el riesgo, más estrictos serán los requisitos“.

Los modelos ML utilizados para algo bastante banal, como recomendar artículos en una tienda, pueden dejarse sin regulación. Pero a medida que aumenta la complejidad del modelo o la sensibilidad del ámbito de aplicación, pueden aplicarse requisitos más drásticos. Por ejemplo, requisitos sobre el etiquetado de operaciones y resultados de la Inteligencia Artificial; requisitos sobre la actualización del modelo y los conjuntos de datos de entrenamiento; la supresión de fórmulas químicas de explosivos en los resultados de un modelo; el control de quién utiliza una IA concreta y por qué y la denegación de determinados tipos de uso; la demostración de que es seguro utilizar la IA para abordar un problema concreto, etc.

Las medidas coercitivas para todo esto pueden ir desde multas por infracciones de las normas de inteligencia artificial (siguiendo el ejemplo de las multas europeas por infracciones del GDPR) hasta la concesión de licencias para actividades relacionadas con la IA y la responsabilidad penal por infracciones de la legislación (como se propone en China).

En mi opinión -con base en 30 años de búsqueda activa del desarrollo tecnológico avanzado en el sector de la ciberseguridad (desde el machine learning hasta los sistemas seguros por diseño)-, sí necesitamos una regulación de la Inteligencia Artificial. Sin ella, la situación parecería a las autopistas sin normas de tráfico; o, más cerca del tema, se parecería a la situación con la recopilación de datos personales en Internet a finales de la década de 2000, cuando casi todo el mundo recopilaba todo lo que podía.

En primer lugar, la regulación estimulará la autodisciplina de los agentes del mercado.

En segundo lugar, los países deberían cooperar activamente en el desarrollo de marcos reguladores nacionales de la Inteligencia Artificial con el fin de maximizar la coordinación internacional de la regulación de la IA. En vista de las realidades geopolíticas actuales, esto suena utópico, pero sería muy deseable.

En tercer lugar, la regulación no debe ser demasiado estricta ni crear obstáculos artificiales, sino ofrecer incentivos adicionales a las empresas que se dedican a desarrollar y aplicar la IA y ML. El sector se está desarrollando de forma dinámica y sería imprudente estrangularlo. Al mismo tiempo, necesitamos un mecanismo de revisión frecuente de las normas para mantenernos al día de la evolución de la tecnología y del mercado.

En cuarto lugar, las normas, los niveles de riesgo y los niveles de las medidas de protección deben elaborarse con las aportaciones de un gran número de expertos con experiencia en la materia.

En quinto lugar, no tenemos que esperar diez años. Ya llevamos más de una década hablando de los riesgos y vulnerabilidades del IoT en los equipos industriales, mientras que documentos como la Ley de Ciberresiliencia de la UE (un borrador) destinado a establecer normas comunes de ciberseguridad para los dispositivos y servicios conectados solo aparecieron el año pasado.

Suscríbete a Forbes México

Contacto:

Eugene es un experto en ciberseguridad de renombre mundial y empresario. Es cofundador y Director General de Kaspersky, proveedor privado de soluciones de ciberseguridad y protección de endpoints más grande del mundo que trabaja, entre otros con la INTERPOL y Europol en temas contra el cibercrimen.

Las opiniones expresadas son sólo responsabilidad de sus autores y son completamente independientes de la postura y la línea editorial de Forbes México.

Vías regulatorias para abordar la inteligencia artificial
Eugene Kaspersky


Compartir en:    


Festival Internacional Escenarios Suspendidos inicia en el Cenart. 02:36

A Jessica González se le puede ver en el escenario presentando obras de artes circenses junto a su compañía Tránsito Cinco Artes Escénicas. Pero ahora se encuentra al frente del Festival Internacional Escenarios Suspendidos en el Centro Nacional de las Artes (Cenart).El encuentro se llevará a cabo hasta el 8 de octubre y su directora dice que

Milenio

Fintech cobran hasta 56% más interés que tarjetas de la banca. 02:00

Las fintech se convirtieron en una opción de financiamiento para muchas personas que no pueden tener acceso a un préstamo porvías tradicionales; sin embargo, por eso mismo llegan a cobrar intereses hasta 56 por ciento mayores que los bancos, muestra un comparativo de datos de la Comisión Nacional Bancaria y de Valores (CNBV) con estas firmas.Es

Milenio

Adolescentes y GPS: Equilibrando la confianza y la seguridad al monitorear a los hijos.

La adolescencia es una etapa de la vida en la que los jóvenes comienzan a buscar su independencia y explorar el mundo que los rodea. Para los padres, esto puede ser un período de preocupación constante, especialmente cuando sus hijos adolescentes comienzan a aventurarse a lugares apartados que pueden tener algún peligro. La adolescencia es [

Lado.mx

¿Por qué los casinos online se han vuelto tan populares en México?.

El sector de los juegos de azar en Internet ha experimentado un crecimiento extraordinario durante los últimos años en México, hasta el punto de convertirse en uno de las tendencias más comunes entre la sociedad.

Lado.mx

Top 5 de las mejores lociones para mujer.

El perfume es una parte esencial de la imagen de cualquier mujer. Puede ayudar a expresar tu personalidad, resaltar tu estilo de vida y dejar una impresión positiva y duradera en quienes te rodean.

Lado.mx

No voy a ser guía moral, yo me retiro, dice AMLO.01:37

VALLE DE CHALCO, Méx. (EL UNIVERSAL).- El presidente Andrés Manuel López Obrador inició su sexto y último año de gobierno en Valle de Chalco, el municipio emblemático de la política social de su principal rival político, el expresidente Carlos Salinas de Gortari (PRI) 1988-1994. En un ambiente de despedida y con las arengas de sus …

Periódico Contacto

Activan Alerta Amber por la desaparición en Mariano Escobedo de Melany Sofía de 13 años. 01:00

De la Redacción. El programa Alerta Amber Veracruz,se activó para la localización a través de la Alerta Ver 963 por la adolescente Melany Sofía López Gallardo, de 13 años de edad quien desapareció en el municipio de Mariano Escobedo. Las señas particulares de Melany Sofía López Gallardo son: Estatura: 1.64 m Peso: 62 kilos Cara: …

Plumas Libres

Líderes de izquierda del Grupo de Puebla abogan por desdolarización de Latam. 01:05

Forbes México. Líderes de izquierda del Grupo de Puebla abogan por desdolarización de LatamEl Grupo de Puebla pidió a los países de Latinoamérica apostar por la integración regional y estudiar una moneda única.Líderes de izquierda del Grupo de Puebla abogan por desdolarización de LatamForbes Staff

Forbes

¿A qué hora juega Miami Dolphins vs Buffalo Bills? Dónde VER partido de la NFL 2023.Ayer, 08:25

Los Miami Dolphins visitan a los Buffalo Bills en la Semana 4 de la temporada 2023-2024 de la NFL, donde el equipo de casa buscará su tercera victoria, pero sabe que enfrente tendrá un rival complicado.¿Cómo llegan los Dolphins y Bills a este partido?El equipo del head coach de Mike McDaniel llega invicto a este partido de la cuarta fecha, pero

Milenio

Persiste actividad sísmica en golfo de Tadjourah, Djibouti. Ayer, 04:06

Djibouti, 1 oct (Prensa Latina) La actividad sísmica registrada desde el jueves pasado en Djibouti persiste hoy con la ocurrencia de un terremoto de magnitud 4,1 en la escala de Richter en el golfo de Tadjourah, perceptible en esta urbe.The post Persiste actividad sísmica en golfo de Tadjourah, Djibouti first appeared on Prensa Latina.

Prensa Latina

Resultados Sorteo Zodiaco 1631 de Lotería Nacional en vivo: estos son los ganadores. Ayer, 19:00

Te daremos a conocer los resultados de los números ganadores del Sorteo Zodiaco 1631 de la Lotería Nacional en vivo.

SDP Noticias

Cuba

Aumenta de 4 a 15% presencia de migrantes africanos y asiáticos en México: OIM. 01:40

La Organización Internacional para las Migraciones en México señaló que el 15% de los migrantes detenidos en el país este 2023 son originarios de África y Asia, lo cual representa un incremento de 11 puntos porcentuales en comparación con 2022, cuando fueron sólo el 4 por ciento.En entrevista para MILENIO, Graber Ladek, jefa de misión en M

Milenio

Pokémon GO: Qué Pokémon aparecen en huevos de 2, 5, 7, 10 y 12 km (octubre 2023). 01:46

Te mostramos la lista completa de Pokémon que salen de los huevos incubados de 2, 5, 7, 10 y 12 km durante el mes de octubre de 2023 en el juego para móviles de Niantic.Pokémon GO, el popular juego de Niantic para móviles, ya ha entrado en el nuevo mes de octubre de 2023 y como siempre el título ha traído novedades para su enorme comunidad de

Vandal

Crimen de Tirso Duarte: ofrecen $ 20 millones de recompensa por los asesinos del artista cubano . 03:10

María Emilsen Angulo, la alcaldesa de Tumaco (Nariño), donde se perpetró el crimen, también pidió perdón por este brutal homicidio

Infobae

Apagón Eléctrico

Empresa eléctrica de Sudáfrica confía en mejorar su desempeño. 28 de Septiembre, 2023 02:45

Pretoria, 28 sep (Prensa Latina) La empresa eléctrica nacional de Sudáfrica, Eskom, manifestó su confianza en estabilizar el sistema para el entrante verano meridional, aunque sin eliminar los apagones diarios.The post Empresa eléctrica de Sudáfrica confía en mejorar su desempeño first appeared on Prensa Latina.

Prensa Latina

Empresa eléctrica de Sudáfrica confía en mejorar su desempeño. 28 de Septiembre, 2023 02:45

Pretoria, 28 sep (Prensa Latina) La empresa eléctrica nacional de Sudáfrica, Eskom, manifestó su confianza en estabilizar el sistema para el entrante verano meridional, aunque sin eliminar los apagones diarios.The post Empresa eléctrica de Sudáfrica confía en mejorar su desempeño first appeared on Prensa Latina.

Prensa Latina

Sequía afecta generación eléctrica en Ecuador. 30 de Septiembre, 2023 09:05

Quito, 30 sep (Prensa Latina) La sequía que sufre hoy Ecuador afecta la generación de electricidad en el país y enciende las alarmas sobre la posibilidad de apagones.The post Sequía afecta generación eléctrica en Ecuador first appeared on Prensa Latina.

Prensa Latina

Energía

ROCÍO NAHLE INAUGURARÁ V FORO DE ENERGÍA EN VERACRUZ. Ayer, 16:02

Liberal del Sur - Periodismo TrascendenteBoca del Río, Ver., domingo 01 de octubre de 2023.- Como cada año, la secretaria de Energía, Rocío Nahle García, abrirá el V Congreso de Energía, Refinación, Gas y Petroquímica que se llevará a cabo del 18 al 20 de octubre del presente en el World Trade Center de Boca del Río. Rocío Nahle García

Liberal del Sur

Christopher Uckermann: quién es la novia del RBD que se dedica “a las energías y las cartas”. Ayer, 18:10

El cantante y actor de 26 años se encuentra en medio de los reflectores con el reencuentro de la famosa banda pop

Infobae

¿Qué pasó en la Línea 8 del Metro hoy? Un perrito provoca corte de energía, pero nadie está enojado. Ayer, 20:30

Un perrito en zona de vías provocó el corte de energía en la Línea 8 del Metro CDMX; usuarios entendieron la situación y no se enojaron

SDP Noticias

La información agregada y la responsabilidad de esta, pertenece a los sitios que lo publican. Lado.mx solo se encarga de publicarla.

DigitalOcean Referral Badge