Las últimas semanas han sido realmente difíciles para Facebook, después de que su servicio se cayera durante más de 6 horas y de que una exempleada de la compañía lanzara duras acusaciones contra la red social.

Entre las denuncias, la exgerente de producto de Facebook, Frances Haugen, señaló el llamado algoritmo de Facebook y la forma en que puede afectar a los usuarios.

El funcionamiento de la ‘maquinaria’ de Facebook es muy relevante a nivel internacional, si tenemos en cuenta que, según el último informe de DataReportal, es la red social más utilizada del mundo, con 2.895 millones de usuarios activos.

A pesar de la importancia de esta tecnología utilizada por Facebook, lo cierto es que nadie sabe a ciencia cierta cómo funciona.

“No conocemos los detalles de los algoritmos, que son la ‘salsa secreta’ de una plataforma de medios sociales”, explica a Metro Filippo Menczer, profesor de Informática y Ciencias de la Computación de la Universidad de Indiana y director del Observatorio de Redes Sociales.

Pero los expertos tienen al menos una idea de cómo funcionan. Según el especialista, las redes sociales como Facebook se basan en gran medida en algoritmos de Inteligencia Artifical para clasificar y recomendar contenidos. Así, estos algoritmos toman como entrada lo que al usuario le gusta, comenta y comparte, con el objetivo de maximizar el compromiso averiguando lo que a la gente le gusta y colocándolo en la parte superior de sus feeds.

“Los malos actores pueden explotar los algoritmos de compromiso (‘engagement’) creando contenido incendiario, engañoso y polarizante que resulte atractivo”.

—  Filippo Menczer, profesor de Informática y Ciencias de la Computación en la Universidad de Indiana y director del Observatorio de Medios Sociales

De hecho, según una investigación del Instituto Tecnológico de Massachusetts (MIT), el tipo de tecnología que utiliza Facebook son algoritmos de aprendizaje automático, que se ‘entrenan’ con los datos introducidos para aprender las correlaciones entre ellos y automatizar futuras decisiones.

Así, según el MIT, un algoritmo entrenado sobre los datos de los clics de los anuncios podría aprender que las mujeres hacen clic en los anuncios de ‘leggings’ de yoga con más frecuencia que los hombres. El modelo resultante mostraría entonces más de esos anuncios a las mujeres.

En esencia, estos algoritmos parecen inofensivos e incluso una herramienta útil para conocer a quienes utilizan esa red social; sin embargo, diferentes investigaciones y relatos de antiguos empleados de Facebook revelan que esta tecnología puede generar diferentes problemas e incluso poner en peligro a los usuarios.

Durante su reciente testimonio en el Senado de Estados Unidos, Haugen denunció que el algoritmo de Facebook incita al discurso de odio e incluso a la violencia étnica.

“Destruye familias. Y en lugares como Etiopía, está literalmente alimentando la violencia étnica”, dijo Haugen a los legisladores estadounidenses.

Otro de los puntos en contra del algoritmo de Facebook es que “puede ser un contenido que difunda desinformación o que aumente la polarización. Como resultado, los usuarios pueden estar menos informados, incluso con riesgo para su salud, o pueden radicalizarse”, añadió Menczer.

“Uno puede utilizar Facebook para mantenerse en contacto con sus amigos, pero debe obtener las noticias de fuentes fiables y no partidistas. Por ejemplo, obtenga consejos de salud de su médico y no de Facebook”, concluye Menczer.

44%

de los usuarios de las redes sociales utilizan Facebook como medio preferido para informarse, según el informe Digital News Report 2021.

Efectos del algoritmo de Facebook

Acelera el contenido antivacunas

Una investigación de Avaaz revela que el algoritmo de “páginas relacionadas” de Facebook sigue recomendando a los usuarios páginas que promueven contenidos antivacunas, a pesar de la promesa de la plataforma de hacer frente a la COVID-19 y a la desinformación sobre las vacunas.

Es discriminatorio

Una investigación realizada por un equipo de la Universidad del Sur de California descubrió que el sistema de publicidad de Facebook es discriminatorio, ya que reproduce las disparidades de género del mundo real a la hora de orientar los anuncios.

Polariza

Una investigación realizada por profesores de la Universidad de Virginia sugiere que Facebook tiende a polarizar a los usuarios, especialmente a los conservadores, que en esa red social leen noticias que son un 30% más conservadoras que las que leen normalmente fuera de la plataforma.

4 preguntas a...

Filippo Menczer
profesor de Informática y Ciencias de la Computación en la Universidad de Indiana y director del Observatorio de Redes Sociales

-¿Qué son los algoritmos de Facebook?

Un algoritmo no es más que un procedimiento informático. Al igual que todas las plataformas de redes sociales, Facebook utiliza algoritmos de inteligencia artificial y aprendizaje automático para muchas tareas, desde la clasificación de los elementos en el feed de noticias hasta la recomendación de amigos, desde la orientación de los anuncios hasta la señalización de contenidos para la comprobación de hechos.

-¿Cómo funcionan estos algoritmos? ¿Cuál es su función principal?

En general, están entrenados para reconocer patrones a partir de grandes cantidades de datos. Lo hacen teniendo en cuenta muchas señales extraídas de los datos. Por ejemplo, los algoritmos de clasificación de noticias utilizan señales como cuándo se publicó algo, si el contenido es probablemente de interés para el usuario objetivo, si la fuente y el usuario objetivo han interactuado en el pasado y con qué frecuencia, si este tipo de contenido es popular en general así como entre los amigos del usuario objetivo, etc. A su vez, estas señales se basan en muchas características extraídas de acciones pasadas, como los “me gusta”, los comentarios y los “compartidos” que vinculan a un usuario con otro, las palabras, los hashtags, las imágenes y las fuentes en publicaciones anteriores, etc. El algoritmo utiliza todas estas señales para estimar la probabilidad de que un usuario objetivo se comprometa con cada publicación disponible, y luego clasifica las publicaciones según esta probabilidad.

-¿Cómo afectan estos algoritmos a la experiencia del usuario en Facebook?

Los algoritmos que intentan maximizar el compromiso muestran contenidos que probablemente mantengan al usuario en Facebook, para que sea más probable que haga clic en los anuncios. Sin embargo, el contenido más atractivo puede no ser el más fiable.

-¿Pueden estos algoritmos manipular las opiniones o decisiones de los usuarios de Facebook? ¿Cómo?

Es poco probable que los algoritmos estén diseñados para manipular a los usuarios, excepto para mantenerlos en la plataforma y hacer que hagan clic en los anuncios. Sin embargo, los malos actores pueden explotar los algoritmos de participación creando contenido incendiario, engañoso y polarizante que resulte atractivo. También pueden amplificar este contenido utilizando cuentas y páginas no auténticas y/o coordinadas, engañando a los algoritmos para que expongan a los usuarios a este contenido.