Menos sesgos y mayor transparencia: Los desafíos de YouTube ante las narrativas migratorias en su plataforma

La primera auditoría externa a YouTube en temas migratorios fue realizada por la empresa de auditoría algorítmica Éticas, en colaboración con la Unión Europea, Ashoka y Hello Europe. Conoce a continuación los desafíos que tiene la segunda red social más grande del planeta en la cobertura de temas migratorios.

En 2022, se gestó una iniciativa muy relevante que concierne a la segunda plataforma digital más grande del planeta: YouTube. La Unión Europea, Ashoka, Hello Europe y la investigadora española Gemma Galdón (Ashoka Fellow), publicaron un informe sobre la primera auditoría pública del algoritmo de YouTube para entender su funcionamiento cuando se tratan temas de migración en la plataforma.

El estudio estuvo a cargo de Éticas, la primera empresa de auditoría algorítmica del mundo. Esta organización ha trabajado para importantes actores internacionales del sector público y privado como las Naciones Unidas, la Comisión Europea, la Organización para la Cooperación y el Desarrollo Económicos (OCDE), el Banco Interamericano de Desarrollo, entre otros.

Para la auditoría de YouTube, se implementó un enfoque sociotécnico y se exploraron tres temas: el tratamiento que tienen las personas migrantes y refugiadas en los vídeos de YouTube más vistos; el marco de videos en contextos pro y anti migratorios; y el marco de videos recomendados para inmigrantes y nativos.

Los datos presentados en esta publicación fueron obtenidos por Éticas. Puedes acceder a la auditoría completa y a su lista de fuentes haciendo clic a continuación.

Los puntos importantes del diagnóstico a YouTube

La investigación demostró que existe un problema de representación sesgada y desfavorable de la migración en YouTube, y determinaron que esta plataforma y otras partes involucradas deberían trabajar en la eliminación de una serie de sesgos de los sistemas algorítmicos, mostrar más transparencia e involucrarse más con los propios migrantes.

Aproximadamente, un 70 % de los vídeos vistos en YouTube son sugeridos por su sistema de recomendación de videos. Por esto, es muy importante analizar las portadas de los videos que generan clics.

“El espectador percibe el contenido visual a través del prisma de sus ideas y prejuicios. Al mismo tiempo, un inconveniente es el riesgo de desinformación y noticias falsas” – Éticas

Representación de las personas migrantes

Los vídeos de personas migrantes analizados tenían como característica la poca visibilidad de los rostros, pues en la mayoría de las imágenes, se presenta a dichas personas en grandes grupos de 16 o más integrantes, lo que contribuye a una representación deshumanizada.

Además, se reconoce que la mayoría de las personas representadas son adultos que no son blancos, y que las mujeres están subrepresentadas. En la gran mayoría de los vídeos con migrantes presentes, se muestra a las personas migrantes cruzando una frontera, lo que representa el 75% de los thumbnails (portada del video).

Un marco común es la presencia de las fuerzas armadas junto con las personas migrantes cruzando la frontera. La misma cantidad de vídeos muestra a migrantes cruzando el mar en lanchas o barcos, con predominio del marco de víctima.

Para intentar revertir este tipo de narrativas, Hola América ha liderado iniciativas como Hackeando Narrativas, un especial audiovisual que destaca a personas migrantes que son agentes de cambio en sus comunidades de acogida.

Diferencias entre personas migrantes y refugiadas

La auditoría encontró que en YouTube ocurre un fenómeno particular: al buscar los videos de personas refugiadas que son más populares en YouTube, la proporción de videos con imágenes de personas refugiadas es notablemente diferente de la porción de búsquedas de personas migrantes. Y la gran diferencia entre ambas consultas es la visibilidad de sus características.

En comparación con las imágenes de las personas migrantes, los thumbnails que representan a personas refugiadas incluyen en igual medida a mujeres y hombres adultos. Además, la consulta “refugiado” mostró que las imágenes contenían menor número de personas en los thumbnails y que suelen aparecer personas caucásicas, como las personas refugiadas ucranianas.

Por último, la auditoría ofrece un enfoque cualitativo con entrevistas a personas migrantes, en las cuales encontraron que la mayoría de los entrevistados usa redes sociales para mantener el contacto con su comunidad, y que son conscientes del fomento de una imagen negativa y altamente politizada sobre ellos, mientras que la positiva se silencia.

Iniciativas para el cambio de narrativas

Gemma Galdón, fundadora y CEO de Éticas, fue una de las realizadoras de esta auditoría. También fue una de las panelistas presentes del Festival Hola América 2022.

En la primera jornada de este evento, la investigadora participó en el panel La tecnología como herramienta del cambio, donde compartió su experiencia trabajando en tecnología y resaltó la importancia de generar auditorías de algoritmos, e instalar reglas en torno a la tecnología para que esté siempre la humanidad y el planeta en el centro.