Facebook y su algoritmo criminal

Las decenas de miles de documentos internos de Facebook que se han filtrado pueden ser tan importantes o más que los de Pandora, por el simple hecho de que muestran como esta plataforma, junto con la de Instagram, puede influir y, en muchos casos, manipular a nada menos que 1.8 mil millones de suscriptores, es decir, 60% de toda la población mundial conectada a internet. Nunca ha existido un medio con esa capacidad de llegar a tal porcentaje de la población mundial y menos aún con su capacidad persuasiva y sus intenciones de sacar provecho de los extremismos y la degradación sicológica.

No puede pensarse la polarización política, llevada a los extremos, y la expansión masiva de las teorías conspirativas, sin los algoritmos de Facebook que les fortalecen. La política ya no es la misma con Facebook e Instagram.

Los cambios en los algoritmos de Facebook con el objetivo de que los usuarios permanezcan más tiempo en la plataforma, lo que significa más anuncios y mayores ganancias a la empresa, se han hecho a costa de la democracia y la salud mental de la población. Uno de los documentos revelados corresponde a comunicaciones de partidos políticos europeos a Facebook molestos por un cambio en el algoritmo que favorece los mensajes violentos, la radicalización de las posturas. Este algoritmo da mayor permanencia a los usuarios y mayores ganancias a la empresa. Los partidos políticos señalan que el cambio en el algoritmo los empuja a posturas más negativas en sus comunicaciones en Facebook, obligándoles a posiciones políticas extremas si quieren tener la presencia que buscan en la red.

Así como FB empuja a los partidos políticos a una mayor confrontación y tensión política más extrema, también lo hace con los individuos a través de las teorías conspirativas. Basta cierto interés en estas teorías en el perfil de un usuario para que comience a recibir una oleada de mensajes que reforzarán esa postura, llevándole cada vez más, al extremo. Frances Haugen, exempleada de Facebook, que compareció ante el Congreso y reveló una serie de documentos internos de la empresa al Washington Post, cuenta que entró a Facebook para trabajar contra la desinformación a partir de que había perdido a un amigo que se hundió en las teorías conspirativas a través de estas plataformas.

Los empleados de Facebook que trabajaron en áreas que la empresa había abierto para lidiar con las denuncias de falta de ética y de desinformación, como la de responsabilidad cívica o la encargada de elaborar políticas de protección contra ataques porno a personas específicas, han declarado lo mismo: Facebook da prioridad a las ganancias por encima del interés público y la democracia.

Lindsay Blackwell renunció a la empresa en noviembre de 2020 después de trabajar en el proyecto interno “Worts of the Worst” (Lo pero de lo Peor), que trataba de responder a las presiones contra el lenguaje de odio a los musulmanes o la comunidad LGBTQ. Explica que trabajaron más de un año para desarrollar un algoritmo para bloquear este tipo de mensajes. El proyecto fue cerrado mientras uno de los directivos de FB explicaba que “priorizar la seguridad de grupos marginales sería demasiado político”. No se trata solamente de que no se bloqueen mensajes violentos, el algoritmo tiende a premiarlos y darles mayor difusión.

El algoritmo de FB es claro: entre más enojo cultives con tus mensajes más reacciones tendrás y mayor tiempo adquirirás en FB. Un documento interno revela que es ridícula la cantidad de mensajes de odio que son removidos por FB en sus plataformas, entre un 3 y 5%. Haugen señala que “polarizar a las sociedades erosiona la confianza, la habilidad de cuidar unos de otros”. Otro trabajador, Waismeyer, que renunció en marzo pasado, trabajó en la división de integridad cívica de la compañía por 3 años, dedicando más de un año en un proyecto para ayudar a las víctimas de venganzas porno. Este proyecto también fue cerrado.

Uno de los documentos internos señala el efecto en las adolescentes de los mensajes sobre la imagen corporal. El algoritmo funciona en estos perfiles de manera muy eficiente para la empresa. Las adolescentes que muestran en su perfil una preocupación sobre su imagen corporal, comienzan a recibir una avalancha de mensajes que aumenta su preocupación, pudiéndolas empujar a la depresión. Y las adolescentes deprimidas pasan un mayor tiempo en Instagram. El negocio se alimenta a sí mismo, es redondo, mientras se pone en un peligro mayor a las adolescentes. Haugen señala que los documentos muestran cómo Instagram es tóxica para los adolescentes.

En el aspecto político FB ha servido a los grupos más reaccionarios. Un grupo de trabajadores de FB denunciaron el papel de la empresa, lidereado por un grupo interno de directivos republicanos, a resistirse a controlar la desinformación y los discursos de odio y los llamados a la violencia antes y durante la administración de Trump. Varios trabajadores renunciaron tras conocerse el papel que FB jugó promoviendo a los grupos y los contenidos que llevaron al intento de asalto al Capitolio el 6 de enero.

Los documentos internos de FB se convierten en evidencia de mucho de lo que se venía denunciando. La evidencia documental ha llevado a una respuesta conjunta de demócratas y republicanos exigiendo regular a esta empresa y sus plataformas. Haugen y algunos de los trabajadores que han renunciado y denunciado a FB creen que una buena regulación y transparencia en sus prácticas podría convertir a sus plataformas en opciones útiles para la sociedad. Por lo pronto, el daño a la democracia y a la salud de las y los adolescentes es enorme.

FB e Instagram son instrumentos que están modelando a las actuales generaciones. El tiempo que pasan en estas plataformas los adolescentes, los niños y una proporción importante de adultos, es superior al que se pasaba en la televisión. Y en este caso, los mensajes recibidos están bien clasificados de acuerdo al perfil de cada uno de los usuarios. El grado y potencial de manipulación es mayor, se recibe la información que profundiza las características de cada uno de nuestros perfiles. Dejamos de recibir información generada desde otras perspectivas, desde otras realidades. Una sociedad donde los individuos nos vamos fragmentando más.

En una civilización perdida, sin la ética que permita establecer formas de gobernanza realmente democrática, sometida a la lógica de las grandes corporaciones de obtener la mayor ganancia al menor costo, el reto de lograr una sociedad donde prevalezca el bien común es enorme y, posiblemente, imposible. Pero ese reto nos marca la dirección.