Meta enfrenta la responsabilidad de proteger a sus usuarios en contextos de represión.

En un reciente pronunciamiento, el Consejo Asesor de Contenido de Meta ha instado a la compañía a implementar estrategias que mitiguen los riesgos asociados con las nuevas notas de la comunidad, especialmente en naciones donde la libertad de expresión y el acceso a la información son limitados. Este llamado se produce en un contexto de creciente preocupación por el impacto de la verificación de datos a nivel global.

El consejo se basó en una consulta realizada por Meta en noviembre del año pasado, donde se exploró la posibilidad de excluir ciertos países de la expansión de esta herramienta. Estas decisiones se fundamentan en "elementos contextuales que pueden influir en el rendimiento del programa", así como en los criterios necesarios para determinar el contexto de su implementación.

A pesar de que el Consejo señala que estas notas de la comunidad podrían enriquecer el debate público y la expresión libre entre los usuarios, también reconoce que hay situaciones que desaconsejan su uso en determinadas regiones, especialmente fuera de Estados Unidos. Este equilibrio es esencial para asegurar que la herramienta no se convierta en un medio de censura en manos erróneas.

Entre los factores de preocupación, el Consejo menciona "los regímenes represivos de derechos humanos", así como la proliferación de "redes de desinformación coordinadas". Advierte que, en estos entornos, las notas comunitarias podrían ser utilizadas para crear un riesgo considerable para los derechos humanos, resultando en daños palpables para los ciudadanos.

En su comunicado, el Consejo enfatiza que Meta tiene la responsabilidad de prevenir cualquier daño que pudiera resultar del mal uso de las notas de la comunidad. Esto implica diseñar y ajustar la funcionalidad de la herramienta de manera que minimice los riesgos asociados con su abuso.

Además, se sugirió a Meta implementar un conjunto de recomendaciones para proteger a los colaboradores que participan en el proceso, estas incluyen garantizar medidas "sólidas y efectivas" para asegurar que puedan trabajar sin temor a represalias o acosos, como el anonimato.

Particularmente en acercamientos electorales en países con restricciones en la información y la libertad de expresión, el consejo insta a que Meta evalúe exhaustivamente los riesgos y las medidas adoptadas, sugiriendo que se abstenga de implementar estas notas “antes o durante elecciones significativas” si no se puede garantizar su integridad.

Asimismo, el consejo señaló que la posibilidad de manipulación de las notas desestimaría su uso en naciones que atraviesan conflictos prolongados o donde el acceso a internet no está garantizado, priorizando así la protección de la población vulnerable.

Por otro lado, el Consejo también aboga por un enfoque cauteloso en contextos lingüísticos y culturales diversos, sugiriendo que se retrase su implementación hasta que Meta pueda asegurar una representación adecuada de las diferentes comunidades lingüísticas. En lo que respecta a la implementación del algoritmo, se aconseja una atención especial a países con divisiones sociales profundas que podrían resultar en violencia política.

Por último, el Consejo subraya la importancia de que Meta realice evaluaciones y reportes periódicos sobre la eficacia de estas notas comunitarias, ajustando su implementación según los criterios establecidos para asegurar un despliegue responsable de la herramienta.