Los planes de Elon Musk para crear un equipo que vigile X, una red social “tan tóxica que es casi irreconocible” Infobae

Los planes de Elon Musk para crear un equipo que vigile X, una red social “tan tóxica que es casi irreconocible”. Noticias en tiempo real 13 de Febrero, 2024 13:50

'Elon
Elon Musk replantea la moderación en X con un enfoque innovador. La visión del magnate sobre "libertad de expresión" y moderación eficaz genera debates en la industria (REUTERS/Gonzalo Fuentes) (GONZALO FUENTES/)

En la primavera de 2023, cuando X todavía se llamaba Twitter , la compañía comenzó a planificar un nuevo sistema para mantener el contenido más indeseable fuera de su plataforma.

En lugar del ejército de trabajadores contratados que vigilaban la mayoría de los sitios de redes sociales, incluido Twitter, la compañía crearía su propio equipo interno, más pequeño, de moderadores de contenido: una red de seguridad especializada para evitar que las cosas más atroces se escapen sin problemas, lo que estaba alineado con el compromiso abierto del propietario de X, Elon Musk, para preservar la “libertad de expresión”.

La semana pasada, casi un año después, la red social anunció un nuevo Centro de Excelencia en Confianza y Seguridad en Austin, Texas. El equipo de 100 personas de moderadores de contenido promocionado por un representante de X en un informe de noticias de Bloomberg es significativamente más pequeño que el equipo de 500 personas que se imaginó inicialmente, según un ex miembro del personal de confianza y seguridad. Y no está claro si la plataforma ha contratado a más de una docena de personas hasta ahora.

Aún así, en un momento en que los legisladores estadounidenses están aumentando la presión sobre las empresas de redes sociales por poner en peligro a los niños, el centro de seguridad de X en Austin tiene una clara visión sobre las relaciones públicas. El nuevo centro “traerá más agentes internos para acelerar nuestro impacto”, dijo la directora ejecutiva, Linda Yaccarino, en una audiencia en el Senado el miércoles.

Si bien algunos críticos tomaron nota del momento oportunista del anuncio, los detalles del plan Austin de X plantean una pregunta más importante sobre la plataforma propiedad de Musk:

¿Podría el enfoque poco convencional del magnate para la moderación de contenido superar el lamentable historial de seguridad en línea de la industria de las redes sociales, o ¿representa simplemente otro medio para reducir costos por parte de una organización con poco interés en decidir qué contenido es apropiado para sus usuarios?

Según varios expertos en moderación de contenido y miembros actuales o anteriores de X con los que habló Fortune, un equipo de especialistas internos podría proporcionar ventajas significativas en comparación con las normas actuales de la industria. Pero muchos también destacaron la importancia de una política subyacente coherente y de inversiones en herramientas y tecnología.

“X+100 es mejor que solo X, en términos de capacidad de moderación”, explicó una fuente familiarizada con la confianza y la seguridad en X. “La cantidad de humanos frente a las computadoras importa menos, en cierto modo, que tener políticas claras basadas en estrategias comprobadas de reducción de daños y las herramientas y sistemas necesarios para implementar esas políticas a escala; ambas cosas han sido desmanteladas desde finales de 2022″, agregó.

X no respondió a las solicitudes de entrevista ni de comentarios para esta historia.

La nueva iniciativa de X incorpora un equipo especializado interno esperando superar las dificultades históricas de la industria en la moderación de contenido (REUTERS/Aude Guerrucci)
La nueva iniciativa de X incorpora un equipo especializado interno esperando superar las dificultades históricas de la industria en la moderación de contenido (REUTERS/Aude Guerrucci) (AUDE GUERRUCCI/)

Por qué X decidió incorporar la policía de contenidos a su empresa

La avalancha de contenido problemático sobre X se ha convertido en un tema frecuente de debate público (y disputas) desde que se cerró la adquisición de Musk por USD 44 mil millones en noviembre de 2022.

Después de que el Centro para Contrarrestar el Odio Digital publicara un informe afirmando que X no moderó el “discurso de odio extremo”, Musk demandó al grupo por causar daño calculado con “afirmaciones infundadas”.

Mientras tanto , según los informes, se han difundido ampliamente en la plataforma vídeos de abuso animal gráfico . Y apenas la semana pasada, contenido explícito generado por IA con Taylor Swift circuló sin control durante 17 horas hasta que la plataforma cerró la posibilidad de buscar su nombre.

X también se apoya en gran medida en su función Notas de la comunidad, que permite a los usuarios aprobados agregar una nota a las publicaciones con contexto adicional, para moderar a sus millones de usuarios activos, dijo el ex miembro del personal de confianza y seguridad.

Pero la persona enfatizó que esto es simplemente “una herramienta” que debe usarse para moderar. Es más, una investigación de Wired descubrió esfuerzos coordinados dentro de la función para propagar desinformación, destacando una falta de supervisión significativa por parte de la empresa.

Según algunas estimaciones, Musk ha recortado el 80% de los ingenieros dedicados a la confianza y la seguridad y ha reducido las filas de moderadores de contenido subcontratados cuyo trabajo es monitorear y eliminar contenido que viola las políticas de la compañía.

En julio, Yaccarino anunció al personal que tres líderes supervisarían varios aspectos de la confianza y la seguridad, como las operaciones de aplicación de la ley y las interrupciones de amenazas, informó Reuters. Sin embargo, según otra fuente de X, no está claro dónde se encuentra T&S dentro de la jerarquía de la organización, y señala que el grupo ya no parece estar “en el nivel superior”.

Sin embargo, dentro de la empresa de redes sociales de Musk, también hubo un esfuerzo por repensar cómo se hace el trabajo.

La nueva estrategia de moderación interna, aunque más reducida de lo esperado, marca un esfuerzo significativo por parte de X para abordar contenidos problemáticos en su plataforma (REUTERS/Dado Ruvic)
La nueva estrategia de moderación interna, aunque más reducida de lo esperado, marca un esfuerzo significativo por parte de X para abordar contenidos problemáticos en su plataforma (REUTERS/Dado Ruvic) (DADO RUVIC/)

Cambio de planes: Bienvenidos a Austin

El nuevo centro de Austin en realidad comenzó como un centro del Área de la Bahía. La intención era establecer el centro en una ciudad como San Francisco, lo que ayudaría a reclutar talentos multilingües de primer nivel, algo crucial para contrarrestar a los trolls de Internet, ya que más del 80% de la base de usuarios de X no vive en los Estados Unidos, informó una fuente familiarizada en temas de confianza y seguridad a Fortune.

Dados los matices de los idiomas individuales y los modismos y expresiones únicos de cada uno, la idea era que alguien familiarizado con un idioma o cultura específica pudiera, por ejemplo, distinguir mejor una broma de una amenaza que un trabajador subcontratado generalista mal pagado sin habilidades especializadas.

“De hecho, comenzaron contratando gente en el Área de la Bahía para probar su nivel de calidad y determinar si funcionaría mejor que subcontratarlo”, dijo el ex empleado. “[X] contrató a un pequeño equipo de personas y probó su capacidad para tomar decisiones precisas”, añadió. El plan requería comenzar con 75 empleados y eventualmente ampliarlo a un equipo de 500 personas si daba resultados.

Sin embargo, Musk, en ese momento, se inclinó por una ubicación más rentable, favoreciendo a Austin, porque estaba seguro de su capacidad para atraer y potencialmente reubicar a personas competentes en varios idiomas. El cambio ha añadido algunas “arrugas” al proyecto.

“Tener que contratar a cientos de personas, ponerlas en funcionamiento y capacitarlas y todo eso es un proceso de aproximadamente dos o tres meses”, explicó el ex miembro del personal de X. “Luego comienzas a entrenar y, de manera realista, pasan tres, cuatro o cinco meses antes de formar un equipo. Eso supone que el mercado laboral es fantástico, ¿verdad? Y no es necesario reubicar a la gente y todas esas cosas divertidas”, añadió.

Según LinkedIn, una docena de reclutas se unieron a X como “agentes de confianza y seguridad” en Austin durante el último mes, y la mayoría parecía haberse mudado de Accenture, una firma que proporciona contratistas de moderación de contenido a empresas de Internet.

No está claro si X tiene un plan de contrato de contratación con Accenture, mediante el cual los trabajadores contratados por firmas consultoras como Accenture reciben roles de tiempo completo en una empresa cliente cuando hay una buena opción, pero la fuente confirmó que X ha utilizado Contratación de servicios de Accenture en el pasado.

Críticos cuestionan el tamaño y eficacia del nuevo equipo de moderación de X (AP/Czarek Sokolowski)
Críticos cuestionan el tamaño y eficacia del nuevo equipo de moderación de X (AP/Czarek Sokolowski) (Czarek Sokolowski/)

El problema de hacer cumplir reglas que cambian constantemente

Hay muchas preguntas sobre en qué se centrará exactamente el equipo de Austin. ¿Se centrarán en contenidos que involucren sólo a menores o sólo en Estados Unidos? ¿Se centrarán en publicaciones individuales o realizarán investigaciones sobre explotación sexual?

“Cien personas en Austin serían un pequeño nodo en lo que debe ser una red global de moderación de contenido”, dijo a Fortune la ex integrante del consejo de confianza y seguridad de Twitter, Anne Collier . “100 personas en Austin, les deseo suerte”, agregó.

Cualquiera que sea su tarea, los expertos en moderación de redes sociales coinciden en que la empresa deberá realizar una inversión significativa en herramientas de inteligencia artificial para que el equipo sea más eficaz.

Facebook, por ejemplo, empleó alrededor de 15.000 moderadores en todo el mundo en 2020 cuando anunció que estaba “casando IA y revisores humanos para cometer menos errores totales”, informó Verge en ese momento. Snap opera de manera similar y afirmó en una publicación de blog que utiliza “una combinación de herramientas automatizadas y revisión humana para moderar”.

Según el ex informante de X, la empresa ha experimentado con la moderación de la IA. Y el último impulso de Musk hacia la tecnología de inteligencia artificial a través de X.AI , una startup de un año de antigüedad que desarrolló su propio modelo de lenguaje grande, podría proporcionar un recurso valioso para el equipo de moderadores humanos.

Un sistema de inteligencia artificial “puede decirle en aproximadamente tres segundos para cada uno de esos tweets, si están dentro o fuera de la política y, por cierto, tienen niveles de precisión de alrededor del 98%, mientras que con moderadores humanos, no”, comentó la fuente. “La empresa tiene un nivel de precisión mejor que el 65%”, explicó.

“Uno quiere ver al mismo tiempo en paralelo qué se puede hacer con la IA versus solo los humanos, por lo que creo que verán cuál es el equilibrio correcto”, concluyó el informante.

Pero no importa cuán buenas sean las herramientas de inteligencia artificial y los moderadores, el desempeño es tan bueno como la política que lo impulsa, y esa es un área en la que X ha tenido problemas bajo el gobierno de Musk.

Las políticas deben ser lo suficientemente flexibles para adaptarse a los contextos culturales, pero también deben ser lo suficientemente predecibles para que todos comprendan cuáles son las reglas, explicó la fuente familiarizada con la confianza y la seguridad en X.

Esto es especialmente importante cuando se modera contenido en una plataforma grande “donde cientos o incluso miles de moderadores tienen que comprender e interpretar un conjunto estable de reglas. No se pueden implementar reglas de manera consistente y precisa si cambian constantemente”, dijo la persona.

La flexibilización de las reglas y la consiguiente falta de claridad ha sido una constante en X bajo la dirección de Musk.

Después de la adquisición de Musk, restableció una serie de cuentas que fueron prohibidas por violar las políticas de la plataforma: la representante Marjorie Taylor Greene violó las políticas de desinformación de COVID-19, Babylon Bee publicó una historia transfóbica que violó la política de conducta de odio de Twitter, Andrew Tate (prohibido en Facebook, Instagram y TikTok) fue prohibido por decir que las mujeres deberían asumir “cierta responsabilidad” por haber sido agredidas sexualmente. Todas estas personas fueron reintegradas bajo la nueva gestión.

Algunos medios especularon que había un vínculo entre la salida de Ella Irwin, la última jefa de confianza y seguridad durante el mandato de Musk, y las críticas del magnate a la decisión del equipo de eliminar el transfóbico.

“¿Qué es una mujer?” de Matt Walsh, es un documental que cometió una violación de las reglas de X. A pesar de la violación de la política escrita de la red social, Musk insistió en que el documental se mantuviera en pie.

“Ya no me resulta obvio que X modere de acuerdo con sus políticas. Las reglas del sitio publicadas en línea parecen ser una cortina de humo pretextual para enmascarar que su propietario, en última instancia, toma las decisiones en cualquier forma que lo vea”, agregó la fuente familiarizada con la moderación de X.

Julie Inman Grant, ex miembro del consejo de seguridad y confianza de Twitter que ahora está demandando a la empresa por falta de transparencia en relación con CSAM, es más contundente en su evaluación: “No se puede simplemente volver a poner el dedo en el dique para detener un tsunami de niños, exposición sexual o una avalancha de pornografía deepfake que prolifera en la plataforma”, dijo.

“En mi experiencia en Twitter de 2014 a 2016, me tomó literalmente años desarrollar esta experiencia, y se necesitará mucho más que eso para realizar un cambio significativo en una plataforma que se ha vuelto tan tóxica que es casi irreconocible”, concluyó.

(C) 2024, Fortune


Compartir en:    


¿Leguizamón quedó fuera del once ante Huracán por un "tatuaje albirrojo"?. Ayer, 18:05

En Argentina se vive a mil por hora la fecha de los clásicos, donde obviamente sobresale también el duelo entre Huracán y San Lorenzo de Almagro. En el Ciclón de Boedo, el paraguayo Iván Leguizamón pintaba para ser titular, es más, practicó toda la semana entre los once pero fue borrado horas antes del encuentro […]La entrada ¿Leguiz

Versus.com.py

Lo que hicieron Almada y Fentanes deja muy mal parados a los poderosos de la Liga MX. Ayer, 18:00

La alineación Guillermo Almada y Eduardo Fentanes demuestra que sí se puede competir con jugadores mexicanos.

SDP Noticias

Apuestas deportivas: una guía para principiantes.

Las apuestas deportivas son populares en todo el mundo, pero en México gozan de una gran aceptación. Los jugadores tienen la oportunidad de hacer jugadas exitosas, siempre que tengan la oportunidad. Para hacerlas, solo deben elegir una oficina confiable.

Lado.mx

1win: ¡Juega sólo en el mejor casino en línea de México! Descubre juegos premium y seguridad a toda prueba.

En el mundo del entretenimiento en línea, 1win se ha destacado como un casino de primera línea que ofrece una experiencia única a los jugadores en México.

Lado.mx

Los juegos más esperados de 2024.

Enhorabuena, jugador, has superado con éxito otro año de grandes lanzamientos consecutivos de videojuegos, decepcionantes cancelaciones y retrasos, y extraños discursos tribalistas sobre qué consola es la mejor. 

Lado.mx

Encuentro de solidaridad mutua Venezuela Cuba debatirá sobre bloqueo.Ayer, 17:04

Caracas, 24 feb (Prensa Latina) Con una conferencia magistral sobre el bloqueo económico, comercial y financiero, sanciones y medidas coercitivas unilaterales como forma de agresión imperialista contra los pueblos, iniciará el XIII Encuentro Nacional de Solidaridad mutua Venezuela Cuba, se conoció hoy.The post Encuentro de solidaridad mutua Ven

Prensa Latina

Pide alcaldesa ser buenos ciudadanos al conmemorar el Día de la Bandera. Ayer, 16:54

Al conmemorar el Día de la Bandera, Lorena Alfaro García, presidenta municipal, pidió a los irapuatenses respetar nuestra

Punto Cero Noticias

CONMEMORA GOBIERNO JUCHITECO DÍA DE LA BANDERA. Ayer, 16:04

El presidente Miguel Sánchez Altamirano encabezó este sábado la ceremonia conmemorativa del Día de la Bandera, izando el lábaro patrio en el Monumento a los Héroes del 5 de Septiembre. Acompañado por concejales y autoridades militares y educativas, el edil juchiteco rindió honores a la Bandera Nacional y resaltó la...

Agencia Oaxaca MX

Continúa contingencia ambiental; estos autos no circulan este sábado.23 de Febrero, 2024 20:04

La CAMe indicó que para este sábado se estima que la calidad del aire será muy mala.

Editorial Aristegui Noticias

Monte de piedad cumple 249 años, pero podría ser el último. 23 de Febrero, 2024 21:06

Este 25 de febrero del 2024 el Monte de Piedad cumple 249 años desde su fundación, pero podría ser el último que celebre esta institución fundada por Pedro Romero de Terreros en 1775. Y es que el Monte de Piedad llega a su aniversario en medio de una huelga que lo mantiene al borde del […]La entrada Monte de piedad cumple 249 años, pero

Índice Político

Lotería Nacional de México: números ganadores de hoy viernes, 23 de febrero de 2024. 23 de Febrero, 2024 22:52

Echa un vistazo a los resultados en vivo de hoy viernes, 23 de febrero de 2024 de la lotería de México. Descubre los números premiados de los sorteos de Chispazo y Tris.

La Opinión

Club Deportivo Guadalajara

"Chicharito" y el temor de sufrir otra lesión. Ayer, 18:50

La lesión de "Chicharito" provocó muchos cambios en su carrera; rompió contrato con la MLS, para ser fichado por sus queridas Chivas

El Informador

\'Chicharito\' Hernández es suplente de Chivas y podría debutar contra Pumas en la Liga MX. Ayer, 18:53

?Javier Hernández podría debutar este sábado con Chivas en el partido ante Pumas en la jornada 8 del Clausura 2024 de la Liga MX, pues es parte de los suplentes en la banca para el juego que se disputará en el Estadio Akron.El delantero sorprendió al ser parte de la convocatoria de Fernando Gago, director técnico del Rebaño Sagrado, para el

Milenio

Javier Hernández Balcázar

Puebla cesa a Ricardo Carbajal; quedan 3 técnicos mexicanos en Liga MX. Ayer, 15:53

Bernardo FerreiraLa era Ricardo Carbajal en Puebla llegó a su fin, justo 6 meses después de su primer partido dirigido en la Liga MX el pasado 26 de agosto y tras arrancar el Clausura 2024 con resultados negativos.NO TE PIERDAS: PSV aplasta 7-1 y 'Chucky' Lozano destaca con doble participación en golesCarbajal tomó el cargo de Eduard

Excelsior

Bayern Múnich corta mala racha con gol en tiempo de compensación. Ayer, 15:53

Bernardo Ferreira / AFPDespués de tres derrotas consecutivas -dos en Bundesliga y una en Liga de Campeones-, el Bayern Múnich frenó su caída libre con un agónico triunfo 2-1 en casa ante el RB Leipzig, sábado en el duelo estrella de la 23ª jornada.NO TE PIERDAS: 'Chicharito' le tiene tomada la medida a Pumas... solo en la CDMXHarr

Excelsior

\'Chicharito\' Hernández es suplente de Chivas y podría debutar contra Pumas en la Liga MX. Ayer, 18:53

?Javier Hernández podría debutar este sábado con Chivas en el partido ante Pumas en la jornada 8 del Clausura 2024 de la Liga MX, pues es parte de los suplentes en la banca para el juego que se disputará en el Estadio Akron.El delantero sorprendió al ser parte de la convocatoria de Fernando Gago, director técnico del Rebaño Sagrado, para el

Milenio

Club Universidad Nacional

Chivas vs Pumas: ¿Dónde y a qué hora VER partido HOY de la Liga MX 2024?. Ayer, 16:10

Chivas y Pumas protagonizan un emocionante encuentro en la jornada 8 del torneo Clausura 2024 de la Liga MX en el Estadio Akron.El Rebaño Sagrado busca sacarse la espinita del Apertura 2023, donde los universitarios les ganaron en el último duelo de la temporada regular y también en la liguilla.¿A qué hora juega Chivas vs Pumas?Los rojiblancos

Milenio

Chivas y Pumas se enfrentan en un choque de alta intensidad en el Estadio Akron. Ayer, 17:53

El Estadio Akron será el escenario de un enfrentamiento emocionante entre Chivas del Guadalajara y Pumas de la UNAM en la jornada 8 del Clausura 2024 de la Liga MX. Hoy sábado 24 de febrero de 2024, ambos equipos buscarán sumar puntos vitales en la carrera por la clasificación en el torneo mexicano. Chivas regresa […]La entrada Chivas y P

SuperL1der

Guadalajara vs Pumas UNAM por Liga MX el 24 febrero en el Estadio AKRON: todos los detalles de la previa. Ayer, 18:10

Los Pumas de la UNAM, anfitriones del Guadalajara, están decididos a aprovechar su condición de locales en el partido de la Liga MX que se disputará este domingo en el Estadio AKRON.

Infobae

La información agregada y la responsabilidad de esta, pertenece a los sitios que lo publican. Lado.mx solo se encarga de publicarla.