Debemos crear barreras de seguridad para la IA Milenio

Debemos crear barreras de seguridad para la IA. Noticias en tiempo real 20 de Marzo, 2023 01:16

¿Y si lo único en lo que se pudiera confiar fuera algo o alguien tan cercano como para tocarlo? Ese puede ser el mundo al que nos está llevando la inteligencia artificial (IA).
Un grupo de académicos de Harvard y expertos en la materia acaba de publicar un informe que tiene como objetivo poner barreras éticas al desarrollo de tecnologías potencialmente distópicas como el chatbot, en apariencia consciente de OpenAI, respaldado por Microsoft, que debutó la semana pasada en una nueva y “mejorada” versión (dependiendo de tu punto de vista), el GPT-4.
El grupo, del que forman parte Glen Weyl, economista e investigador de Microsoft; Danielle Allen, filósofa de Harvard y directora del Centro Safra para la Ética, y muchas otras personalidades de la industria, hace sonar la alarma ante “la plétora de experimentos con tecnologías sociales descentralizadas”.
Entre ellos, el desarrollo de “contenidos altamente convincentes generados por máquinas (por ejemplo, ChatGPT)” que amenazan con disrumpir la estructura de nuestra economía, política y sociedad.
Creen que ya llegamos a un “momento constitucional” de cambio que requiere un marco regulatorio totalmente nuevo para este tipo de tecnologías.
Algunos de los riesgos de la inteligencia artificial, como un futuro al estilo de la película Terminator en el que las máquinas decidan que ya pasó la época de los humanos, ya han sido muy discutidos en la ciencia ficción, que, cabe señalar, ha tenido un historial bastante bueno de predicción de hacia dónde se dirigía la propia ciencia en los últimos 100 años más o menos.
Pero hay otros que no se comprenden tan bien.
Si, por ejemplo, la IA puede generar ahora un documento de identidad falso imposible de detectar, ¿de qué sirven los marcos legales y de gobierno que dependen de ese tipo de documentos para permitirnos conducir, viajar o pagar impuestos?Una cosa que ya sabemos es que la inteligencia artificial puede permitir a los delincuentes hacerse pasar por cualquiera, en cualquier lugar y en cualquier momento.
“Hay que asumir que el engaño será mucho más barato y frecuente en esta nueva era”, dice Weyl, que publicó un libro en línea con la ministra de asuntos digitales de Taiwán, Audrey Tang.
En él se exponen los riesgos que la IA y otras tecnologías de la información avanzadas plantean para la democracia, sobre todo que ponen en esteroides el problema de la desinformación.
Las ramificaciones potenciales abarcan todos los aspectos de la sociedad y la economía.
¿Cómo vamos a saber que las transferencias digitales de fondos son seguras o incluso auténticas? ¿Serán confiables los notarios y los contratos en línea? ¿Las noticias falsas, que ya son un gran problema, serán casi imposibles de detectar? Y qué decir de las ramificaciones políticas del incalculable número de disrupciones laborales, un tema que los académicos Daron Acemoglu y Simon Johnson explorarán en un libro a finales de este año.
Es fácil imaginar un mundo en el que los gobiernos tengan dificultades para seguir el ritmo de estos cambios y, como dice el informe de Harvard, “los procesos democráticos existentes, muy imperfectos, resultan impotentes… y por tanto los abandonan los ciudadanos que cada vez son más cínicos”.
Ya pudimos ver indicios de esto.
La ciudad privada de Texas que está construyendo Elon Musk para alojar a sus empleados de SpaceX, Tesla y Boring es solo la última iteración de la fantasía libertaria de Silicon Valley en la que los ricos se refugian en complejos privados en Nueva Zelanda, o trasladan su riqueza y sus negocios a jurisdicciones extragubernamentales y “zonas económicas especiales”.
En este escenario, los ingresos fiscales caen, la proporción de mano de obra se erosiona y el mundo de suma cero resultante exacerba una exitocracy (una tecnocracia con extensas opciones de salida) de los privilegiados.
El futuro también puede ser mucho más brillante.
La IA tiene un potencial increíble para aumentar la productividad y la innovación, e incluso puede permitirnos redistribuir la riqueza digital de nuevas formas, pero lo que ya está claro es que las empresas no van a cejar en su empeño de desarrollar tecnologías de vanguardia, desde la inteligencia artificial hasta el blockchain, tan rápido como puedan.
Como tal, están buscando formas de vender no solo la inteligencia artificial, sino las soluciones de seguridad para ella.
Por ejemplo, en un mundo en el que la confianza no puede verificarse de forma digital, los desarrolladores de inteligencia artificial de Microsoft y otras empresas están pensando si puede haber un método para crear versiones más avanzadas de “secretos compartidos” (o cosas que solo tú y otra persona cercana pueden conocer) digitalmente y a escala.
Eso suena un poco a resolver el problema de la tecnología con más tecnología.
De hecho, la mejor solución al dilema de la IA en la medida en que exista una, puede ser analógica.
“Lo que necesitamos es un marco para una vigilancia más prudente”, dice Allen, citando el informe de la Comisión Presidencial sobre Bioética de 2010.
Creó directrices para una experimentación responsable, lo que permitió un desarrollo tecnológico más seguro.
Por ahora, en lugar de prohibir la inteligencia artificial o de tener algún método perfecto de regulación, podemos empezar por obligar a las compañías a revelar qué experimentos están haciendo, qué ha funcionado, qué no y dónde pueden estar surgiendo consecuencias imprevistas.
La transparencia es el primer paso para garantizar que la IA no le saque ventaja a sus creadores.


Compartir en:    


Va a ser una reforma judicial no progresiva, mocha; hechos demuestran que magistraturas son un premio político: GPMorena. 11:30

Ante la aprobación del dictamen de la reforma al Poder Judicial del Estado, mismo que pretende votarse en el Pleno del Congreso del Estado la próxima semana, el coordinador del Grupo Parlamentario de Morena, Cuauhtémoc Estrada, afirmó que debido a que no toma en cuenta la paridad de género y existen una serie de elementos […]The post Va

Entrelineas

[VIDEO] Exhiben video de una presunta extorsión en hotel de Coatzacoalcos, Veracruz; “50 mil pesos por trabajar con polleros”.11:51

Redacción El Piñero Veracruz, México. — A través de redes sociales se ha difundido un video en donde se exhibe una presunta extorsión en agravio a una empleada de un hotel de Coatzacoalcos, municipio de la zona sur del estado. En la grabación, se observa como un varón armado llega de manera repentina y comienza […]

El Piñero

Reportan nueva alza del Índice de Producción Industrial en Chile. 11:40

Santiago de Chile, 28 mar (Prensa Latina) Los tres sectores que componen el Índice de Producción Industrial de Chile tuvieron resultados positivos al cierre de febrero con un alza de 7,9 puntos interanuales, informó hoy el Instituto Nacional de Estadísticas (INE).The post Reportan nueva alza del Índice de Producción Industrial en Chile first

Prensa Latina

Juguetes que dan “miedo”.

En el mundo de los juguetes, hay una amplia variedad de opciones que abarcan desde juguetes tiernos y divertidos hasta aquellos que podrían considerarse un poco más inquietantes o que podrían “dar miedo” a algunas personas, especialmente a los niños más pequeños.

Lado.mx

5 ventajas de comenzar a jugar con juegos de casino online demo.

Uno de los grandes errores de los jugadores principiantes en casinos online es lanzarse al ruedo sin tener experiencia o conocimientos en apuestas y juegos de azar. Esto debido a que la inexperiencia puede llevarlos a perder mucho dinero.

Lado.mx

Marketing Digital 360: Transformando Pymes en México.

Descubre cómo el Marketing Digital 360 está transformando a las Pymes en México. Desde estrategias online hasta la asesoría de marketing en pymes para el crecimiento empresarial, exploremos juntos el impacto de esta revolución digital en el mundo empresarial. Introducción al Marketing Digital 360 El Marketing Digital 360 transforma Pymes en M

Lado.mx

Sequía, el viacrucis de los tamaulipecos.10:15

Rogelio Rodríguez Mendoza / El Diario Mx Cd. Victoria, Tam.- Solamente el 10.4 por ciento del territorio de Tamaulipas permanece libre de sequía. Así lo revela la más reciente medición del Monitor de Sequía de la Comisión Nacional del Agua (Conagua), que abarca hasta el 15 de marzo, la mayor parte de la entidad permanece …

Periódico Contacto

Notifica INE al 97% de las y los ciudadanos seleccionados para integrar las Mesas Directivas de Casilla. 10:36

Redacción MX Político.- El Instituto Nacional Electoral (INE) notificó ya al 97% de ciudadanas y ciudadanos seleccionados para integrar las Mesas Directivas de Casilla, de entre quienes se elegirán a aquellas y aquellos que, como funcionarias y funcionarios, contarán los votos el próximo 2 de junio, en el marco del Proceso Electoral Federal (

Índice Político

Denver Nuggets. Ayer, 23:00

Lado.mx Trendings

Ángel Ortíz y la crítica para los futbolistas de la actualidad. Ayer, 13:04

Ángel Ortíz entró de lleno al choque de generaciones y lanzó una observación puntual para los futbolistas de hoy día. La entrada Ángel Ortíz y la crítica para los futbolistas de la actualidad aparece primero en Versus.

Versus.com.py

Fútbol Club Barcelona

Eurocopa 2024 a la vista... así marchan los favoritos al título. Ayer, 08:23

Diego Reinares y Manuel Cabello / AFPA falta de poco menos de tres meses para la Eurocopa de Alemania (del 14 de junio al 14 de julio) y tras los amistosos internacionales disputados en marzo, los últimos antes de las convocatorias definitivas, ¿en qué momento se encuentran las potencias europeas aspirantes al título continental?ESPAÑAComo es

Excelsior

Lionel Messi confiesa no haber estado listo para salir del Barcelona. Ayer, 14:30

Lionel Messi confesó que no estaba listo para dejar al Barcelona y menos en la forma en qué ocurrió, algo que le costó trabajo en su proceso de adaptación.El astro argentino, quien no pudo disputar la Fecha FIFA con Argentina por una lesión, concedió una entrevista con el podcast “Big Time”, misma donde dijo que su familia y él tuvieron

Vanguardia.com.mx

Detalles de la fiesta ofrecida por Dani Alves al haber salido de prisión por cargos de agresión sexual. 11:30

El ex lateral y ex jugador del Fútbol Club Barcelona continúa afrontando una situación legal en donde se presume violó a una joven en una discoteca en Barcelona

La Opinión de Los Ángeles

Liga de Campeones Femenina de la UEFA

Barcelona buscará recortar distancia al Real Madrid, en el regreso de La Liga. 10:23

AFP | MadridEl Athletic (4º) medirá la forma del líder Real Madrid después del parón internacional, en la 30ª jornada liguera, mientras el Barcelona quiere seguir elevando su nivel en el tramo decisivo de la temporada para intentar pelear el título con su gran rival.TE PUEDE INTERESAR: Vinicius pide a la UEFA castigo por insultos racistas c

Excelsior

La pasión de Cristo

Iztapalapa: Estos son los cortes viales y bloqueos por representación de La Pasión de Cristo hoy jueves santo 28 de marzo. 09:30

Te dejamos los cortes y bloqueos viales por la 181 representación de La Pasión de Cristo, así como las alternativas a tomar para la circulación en Iztapalapa

SDP Noticias

Pasión de Cristo en Iztapalapa 2024: Calles cerradas, horario y todo lo que debes saber. 12:40

Las autoridades de la alcaldía Iztapalapa realizarán cierres en distintas calles y avenidas para el evento de la Pasión de Cristo 2024.

El Financiero

La información agregada y la responsabilidad de esta, pertenece a los sitios que lo publican. Lado.mx solo se encarga de publicarla.