Discurso de odio en las elecciones de Sudáfrica: las grandes tecnologías hacen que las redes sociales sean más difíciles de monitorear

Existe un movimiento global creciente para garantizar que los investigadores tengan acceso a la gran cantidad de datos que recopilan y explotan los operadores digitales.

El impulso está creciendo porque cada vez está más claro que los datos son poder. El acceso es clave, por una serie de razones, entre ellas la transparencia, los derechos humanos y la integridad electoral.

Pero actualmente existe una importante asimetría internacional en el acceso a los datos.

En la Unión Europea y Estados Unidos se han logrado algunos avances. Por ejemplo, los investigadores de la Unión Europea que estudian riesgos tienen un derecho legal de acceso. También en Estados Unidos, algunas empresas han tomado medidas voluntarias para mejorar la accesibilidad.

La situación general es muy diferente en el Sur Global.

El valor del acceso a los datos se puede ver claramente en el seguimiento de las redes sociales durante las elecciones. Sudáfrica es un ejemplo de esto. Recientemente se publicó un poderoso análisis de «grandes datos» de los ataques en línea a periodistas mujeres, lo que generó alarma sobre una escalada en el período postelectoral del 29 de mayo.

Varios grupos que trabajan con datos están tratando de monitorear el discurso de odio y la desinformación en las redes sociales antes de las elecciones nacionales y regionales en Sudáfrica. En un taller reciente que incluyó 10 iniciativas de este tipo, los participantes describieron el intento de descubrir “operaciones de información” coordinadas que podrían dañar las elecciones, incluso a través de la interferencia extranjera.

Pero estos investigadores no pueden obtener todos los datos que necesitan porque las empresas de tecnología no les dan acceso a ellos.

Esta ha sido una de mis preocupaciones desde que encargué por primera vez un manual sobre contenido dañino en línea (Periodismo, noticias falsas y desinformación: una guía para la educación y formación en periodismo) hace seis años. Mi experiencia desde entonces incluye la supervisión de un importante estudio de la ONU llamado “La ley de equilibrio: combatir la desinformación digital respetando la libertad de expresión”.

A lo largo de los años, he aprendido que para buscar información errónea en línea hay que ir directamente a los motores de las redes sociales. Sin un acceso completo a los datos que contienen, permanecerá relativamente a oscuras sobre el funcionamiento de los manipuladores, el papel de los jugadores descarriados y el combustible que proporcionan los turbios algoritmos corporativos.

Al observar las redes sociales en las elecciones sudafricanas, los investigadores en un taller reciente compartieron cómo estaban haciendo lo mejor que podían con los datos limitados que tenían. Todos estaban monitoreando mensajes de texto en plataformas de redes sociales. Algunos monitoreaban el audio, mientras que otros buscaban “contenido sintético”, como material producido mediante IA generativa.

Casi la mitad de las 10 iniciativas realizaron un seguimiento de los seguidores, las impresiones y la participación. Casi todos estaban revisando contenidos en Twitter; Al menos cuatro de ellos estaban monitoreando Facebook; Tres cubrieron YouTube; Y dos de ellos incluyen TikTok.

WhatsApp estaba recibiendo poca atención. Aunque la mayoría de los mensajes en el servicio están encriptados, la compañía sabe (pero no revela) qué usuario registrado está enviando contenido en masa a otros, quién lo reenvía, si los administradores del grupo están activos y una serie de otros «metadatos». Detalles que pueden ayudar a los observadores a rastrear caminos peligrosos.

Pero los investigadores no pueden profundizar en los datos. Expusieron las difíciles condiciones de datos en las que trabajan en una declaración pública explicando cuán severamente restringido está su acceso a los datos.

Una fuente de datos que utilizan son los paquetes costosos (y limitados) de los agentes de marketing (que a su vez compran activos de datos al por mayor de las plataformas).

La segunda fuente proviene de un análisis de publicaciones en línea (que excluye las comunicaciones intragrupo y de WhatsApp). El uso de datos robados es limitado y requiere mucha mano de obra. Los resultados son superficiales. Es arriesgado: la extracción está prohibida en los términos de uso de la mayoría de las plataformas.

Ninguno de los investigadores que cubren las elecciones en Sudáfrica tiene acceso directo a las API de las plataformas. Estas puertas de enlace proporcionan una tubería directa a los servidores informáticos que alojan los datos. Este recurso clave es lo que las empresas utilizan para perfilar a los usuarios, amplificar el contenido, orientar anuncios y automatizar la moderación del contenido. Son insumos esenciales para monitorear el daño electoral en línea.

En la Unión Europea, la Ley de Servicios Digitales permite a investigadores examinados exigir y obtener legalmente acceso gratuito, y potencialmente generalizado, a una interfaz de programación de aplicaciones (API) para buscar “riesgos sistémicos” en las plataformas.

También es más abierto en Estados Unidos. Allí, Meta, el gigante tecnológico multinacional propietario y operador de Facebook, Instagram y WhatsApp, seleccionó a 16 investigadores para las elecciones de 2020 (de los cuales sólo cinco proyectos publicaron sus resultados). Luego, la empresa subcontrató el arbitraje de las solicitudes de acceso a Facebook e Instagram (desde cualquier parte del mundo) a la Universidad de Michigan.

Un investigador sudafricano intentó este canal, sin éxito.

Otras plataformas como TikTok todavía toman decisiones unilaterales, incluso en Estados Unidos, sobre quién puede acceder a los datos.

Fuera de la Unión Europea y Estados Unidos, es difícil incluso mantener un diálogo con estas plataformas.

En noviembre pasado, invité a los principales actores tecnológicos a unirse a un taller en Ciudad del Cabo sobre acceso a datos y elecciones en África. No hubo respuesta efectiva.

El mismo patrón es evidente en una iniciativa lanzada a principios de este año por el Foro Nacional de Editores de Sudáfrica. El Foro propuso un diálogo sobre la evaluación del impacto de los riesgos cibernéticos en los derechos humanos involucrados en las elecciones en Sudáfrica. Fueron ignorados.

En este contexto, dos ONG sudafricanas, el Centro de Recursos Legales y la Campaña por la Libertad de Expresión, están utilizando la Ley ampliada de Promoción del Acceso a la Información de Sudáfrica para obligar a las plataformas a revelar sus planes electorales.

Pero las empresas se negaron a responder, alegando que no estaban sujetas a la jurisdicción sudafricana. Esto ha llevado a que se hayan lanzado apelaciones ante el regulador de información del país para obligarlo a revelar la información.

Un mayor impulso para el cambio también puede provenir de la UNESCO, que está promoviendo directrices internacionales para la gobernanza de las plataformas digitales. Estos destacan la transparencia y la cuestión del acceso a la investigación. La UNESCO también publicó un informe que investigué titulado «Intercambio de datos para promover la información como bien público».

Actualmente se está trabajando para establecer una Alianza Africana de Acceso a Datos inicial, que ahora incluye cinco formaciones africanas. Esta coalición (yo soy el coordinador interino) involucra a la Unión Africana en estos temas.

Pero aún no hay garantía de que todo esto lleve a las plataformas a abrir datos a africanos e investigadores del Sur Global.

Guy BergerProfesor Emérito, Universidad de Rodas, Universidad de Rodas