Ofcom presenta un nuevo borrador para el Reino Unido con recomendaciones derivadas de la Ley de Seguridad en Línea (OSA) para que los servicios online adopten medidas que resguarden a mujeres y niñas ante situaciones de acoso, intimidación, misoginia y abuso de imágenes íntimas sin consentimiento o deepfakes -incluyendo aquellas producidas mediante inteligencia artificial.
La normativa, aprobada en septiembre de 2023 por el Parlamento británico, obliga tanto a servicios de gran envergadura como a pequeños a cumplir requisitos sobre la protección de colectivos vulnerables. Entre las conductas priorizadas se encuentran el compartir imágenes íntimas sin autorización y el uso de tecnologías -por ejemplo IA- para crear porno deepfake con el objetivo de atacar a mujeres y niñas.
A pesar de que las sanciones pueden alcanzar hasta el 10% de la facturación anual global en caso de incumplimiento, activistas por la seguridad infantil y altos funcionarios –como el ministro de Tecnología Peter Kyle– han calificado el sistema como desigual y poco satisfactorio, además del extenso plazo para que el Parlamento apruebe las directrices de cumplimiento.
Aunque es cierto que en marzo de 2025 entrarán en vigor algunos básicos requerimientos sobre el control de contenido ilegal y la protección infantil, la totalidad de las recomendaciones no será exigible hasta 2027 o más adelante.
Jessica Smith, representante de Ofcom y responsable de la guía centrada en la seguridad femenina, comentó que, aunque ciertos servicios han adoptado útiles medidas, es indispensable un cambio profundo en el diseño de sus procesos. Según Smith, las empresas deben “dar un paso atrás” y repensar el recorrido de sus usuarios para incorporar medidas de seguridad desde la concepción del producto.
El documento, elaborado con la colaboración de víctimas, colectivos de defensa de las mujeres y expertos en seguridad, abarca cuatro áreas principales: misoginia online, acoso y hostigamiento digital, abuso doméstico virtual y uso indebido de imágenes íntimas.
Algunas prácticas que se aconsejan son eliminar la geolocalización por defecto, realizar pruebas que permitan identificar usos abusivos, mejorar la protección de las cuentas, crear mensajes que inciten a la reflexión antes de publicar contenido ofensivo y facilitar herramientas de denuncia.
La ley se aplica a una amplia variedad de servicios online –desde redes sociales y aplicaciones de mensajería hasta páginas de citas y foros–, por lo que cada uno de ellos deberá interpretar el cumplimiento en función de las características de su producto.
El borrador también propone el uso de tecnología de comparación de hash para detectar y eliminar imágenes íntimas abusivas. Esta medida, motivada por un notable incremento en los casos de deepfake para este fin –en 2023 se reportaron más casos que en años anteriores–, amplía las recomendaciones anteriores y servirá como guía práctica para que los servicios se anticipen a futuras obligaciones.
El borrador estará abierto a consulta hasta el 23 de mayo de 2025 y la guía final se publicará a fines del presente año. Además, en un plazo de dieciocho meses, Ofcom emitirá su primer informe evaluando las prácticas adoptadas por la industria para proteger a mujeres y niñas en el entorno digital.