Facebook se encuentra envuelto en una nueva polémica, y es que según exempleados de la compañía, advirtieron que la red social no estaba controlando el contenido abusivo en países donde ese tipo de discurso probablemente causaría el mayor daño, según revelaron a la agencia de noticias Reuters, y documentos internos de la empresa.

¿Qué dicen los documentos de Facebook?
Los documentos muestran que a pesar de tener conocimiento, Facebook no ha contratado suficientes trabajadores que posean las habilidades lingüísticas y el conocimiento de los eventos locales necesarios para identificar publicaciones abusivas de usuarios en varios países en desarrollo. 

También mostraron que los sistemas de inteligencia artificial que Facebook emplea para erradicar dicho contenido abusivo con frecuencia tampoco están a la altura; y que la empresa no ha facilitado que sus propios usuarios globales marquen las publicaciones que violan las reglas del sitio.

Esas deficiencias, dijeron los empleados en los documentos, “podrían limitar la capacidad de la compañía para cumplir su promesa de bloquear el discurso de odio y otras publicaciones que infrinjan las reglas en lugares como Afganistán y Yemen”.

En una revisión publicada en el tablero de mensajes interno de Facebook realizada en 2020, sobre las formas en que la compañía identifica abusos en su sitio, un empleado informó “brechas significativas” en ciertos países en riesgo de violencia en el mundo real, especialmente Myanmar y Etiopía.
Los idiomas, la falla del algoritmo de Facebook
Facebook ha promocionado durante mucho tiempo la importancia de sus sistemas de inteligencia artificial (IA), en combinación con la revisión humana, como una forma de abordar el contenido objetable y peligroso en sus plataformas. Argumentando que los sistemas de aprendizaje automático pueden detectar dicho contenido con distintos niveles de precisión.

Sin embargo, los idiomas que se hablan fuera de Estados Unidos, Canadá y Europa han sido un obstáculo para la moderación automatizada de contenido de Facebook, según muestran los documentos proporcionados al Gobierno de los Estados Unidos por Frances Haugen, exgerente de producto de Facebook que dejó la empresa en mayo.

Más del 90% de los usuarios activos mensuales de Facebook se encuentran fuera de los Estados Unidos o Canadá
En los documentos se demuestra que “Facebook carece de sistemas de inteligencia artificial para detectar contenido abusivo en varios idiomas utilizados en su plataforma” .