El Consejo Asesor de Meta ha anulado la decisión de Instagram de retirar de esta red social un videoclip musical en Reino Unido siguiendo una petición de la Policía Metropolitana de Londres, destacando en su decisión la falta de transparencia de la multinacional con este tipo de instituciones y su papel en la amplificación de los sesgos.
El caso sobre el que el Consejo Asesor se ha pronunciado ocurrió en enero del presente año, cuando la red social retiró una publicación que contenía el videoclip de la canción ‘Secrets Not Safe’, de Chinx, por entender que contenía una «amenaza velada».
La Policía Metropolitana de Londres solicitó a Meta revisar dicho contenido, para lo que aportó información adicional sobre bandas violentas que actuaban en la capital inglesa. La revisión hecha por un moderador concluyó que había una referencia a un tiroteo de 2017 y procedió a eliminar la publicación.
La petición policial incluía revisar todos los contenidos que contuvieran la canción, lo que llevó también a la retirada de 52 publicaciones de otras cuentas, y a otras 112 eliminaciones con las herramientas de moderación automática. Estas acciones llevaron a la eliminación también de la cuenta de Chinx y de todo su contenido, como recoge el Consejo en su blog.
La propia Meta remitió este caso al Consejo Asesor para su revisión, que finalmente ha concluido que la empresa actuó en contra de los estándares de la comunidad al eliminar el contenido. Y apunta dos preocupaciones: por un lado, la relación de la compañía con las fuerzas del orden y, por otro, la escala en las decisiones.
El Consejo expresa que «si bien las fuerzas del orden público a veces pueden proporcionar contexto y experiencia, no se debe eliminar todo el contenido que las fuerzas del orden público preferirían eliminar», y que las evaluaciones de estas peticiones deben realizarse «de forma independiente».
También destaca que «los canales a través de los cuales las fuerzas del orden hacen solicitudes a Meta son desordenados y opacos», y que «la falta de transparencia en torno a la relación de Meta con las fuerzas del orden crea el potencial para que la empresa amplifique el sesgo».
Asimismo, ha señalado que las decisiones que se toman en escalada, las propias de los equipos de revisores, impiden a los usuarios afectados apelar al Consejo Asesor. Esto supone un problema que Meta «debe abordar con urgencia».
