En los últimos días, Meta, la empresa detrás de Instagram y Threads, se encuentra en medio de una investigación por problemas detectados en sus herramientas de moderación de contenido. Estas fallas han resultado en la eliminación injusta de cuentas y bloqueo de contenido que ha sido calificado erróneamente como falso o controvertido.

Las soluciones de moderación implementadas por Meta para sus redes sociales buscan garantizar que las publicaciones compartidas por los usuarios cumplan con las normas comunitarias y políticas de uso establecidas. Todo este proceso es supervisado por equipos internos de la compañía, quienes además colaboran con socios externos a nivel mundial para obtener asesoramiento y evaluar posibles acciones.

El objetivo principal de estas herramientas de moderación es identificar y corregir publicaciones que contengan información falsa, errónea o que promuevan acciones dañinas para los usuarios. Además, se busca proteger a los usuarios menores de edad mediante la verificación de su edad y el uso de cuentas adecuadas para adolescentes.

En línea con las Normas comunitarias de Instagram, Meta busca prevenir la difusión de contenido falso o engañoso que pueda inducir a error a los usuarios al compartir contenido político. Asimismo, se enfocan en eliminar el 'spam' y crear un ambiente seguro sin publicaciones violentas u otro tipo de contenido inapropiado.

A pesar de estos esfuerzos, recientemente han surgido casos en los que las herramientas de moderación de contenido de Instagram y Threads han cometido errores que han afectado a los usuarios de forma injusta. Algunos afectados han reportado la eliminación o bloqueo de sus cuentas sin motivo aparente, como el analista de redes sociales Mat Navarra.

Ante estas situaciones, el responsable de Instagram, Adam Mosseri, ha anunciado que están investigando estos fallos en ambas plataformas de Meta. Sin embargo, no se han proporcionado más detalles al respecto, dejando en incertidumbre las causas detrás de estos problemas en las herramientas de moderación de contenido.