Facebook está decidiendo qué delitos censurar primero

Revelarlo es un documento interno que ha terminado en manos del Washington Post, un documento que expone los fundamentos de lo que la empresa denomina WoW Project , o el proyecto “lo peor de lo peor”.

La idea es puntuar cada insulto, dando prioridad a los discursos de odio que atacan a afroamericanos, musulmanes, mestizos, judíos y miembros de comunidades LGBT. Cuanto más alta sea la calificación, más probable será que el sistema elimine automáticamente la publicación.

  El discurso de odio siempre ha sido una trampa difícil de mantener a raya: por razones de privacidad, así como por configuraciones técnicas, el sistema de monitoreo social administrado por American Big Tech no es capaz de captar el contexto de los contenidos individuales. , operando una censura tan indiscriminada como torpe.

Si el Proyecto WoW se implementara por completo, las prácticas ciegas a la raza de Facebook Inc. dejarían espacio para un sistema basado en distinciones étnico-religiosasen el que los delitos contra los caucásicos se considerarían menos dañinos que los dirigidos a grupos más vulnerables.

Una solución no perfecta, pero que debería solucionar al menos uno de los "bugs" más peligrosos del algoritmo actual, que es el que empuja al sistema a retirar los puestos de denuncia contra actos violentos y persecutorios perpetrados por blancos.

Según el documento, esta elección llevaría a borrar 10,000 publicaciones menos cada día, dejando un margen más amplio en comparación con algunos de los problemas sociales que toda la sociedad occidental está discutiendo. La medida pone de relieve el cambio de dirección cada vez más marcado realizado por Facebook.

Hasta hace unos meses, el fundador y CEO Mark Zuckerberg afirmaba que no les correspondía a las empresas digitales monitorear lo que sus suscriptores subían a las redes sociales, ahora, tras las manifestaciones que han dividido el tejido político estadounidense, el tono definitivamente ha cambiado y la empresa está desempeñando un papel cada vez más activo en la lucha contra los engaños, el racismo y las conspiraciones.