El 73% de las solicitudes en IA para desnudarse a mujeres y menores sin control

¿Sabías que plataformas de inteligencia artificial como Hugging Face dejan que algunos usuarios creen 'deepfakes' sin límite y sin control? La mayoría de estos programas permiten que fácilmente generen imágenes sexualizadas o desnudos, y en muchos casos, apuntan a mujeres y menores.

Este problema no es menor. Los investigadores han descubierto que no hay filtros ni medidas para evitar que estas herramientas se usen para crear contenido no consensuado o incluso abusivo. La falta de regulación en estos repositorios facilita que personas con malas intenciones puedan hacer daño sin dificultad.

¿Qué consecuencias tiene esto para ti? Que cualquier imagen que compartas o que alguien tenga de ti puede ser manipulada y utilizada para crear contenido humillante o ilegal. Además, la facilidad con la que se puede hacer aumenta el riesgo de abusos y extorsiones, especialmente para mujeres y menores en Internet.

Para los ciudadanos, esto significa que debemos estar más atentos a qué contenido compartimos y a quién confiamos nuestras imágenes. También es importante exigir a las plataformas que protejan mejor nuestros derechos y que implementen filtros que eviten estos abusos.

Lo que puede pasar ahora es que estas plataformas sean llamadas a responder y a implementar medidas de control. Como usuarios, debemos exigir que se tomen en serio estos riesgos y que las empresas actúen para evitar que su tecnología sea usada para dañar a personas inocentes. La protección en línea empieza por exigir responsables en los servicios que usamos.