Cinco casos de “DeepFake porn” en México. La ley es insuficiente: Olimpia Coral

El Frente Nacional para la Sororidad ha dado acompañamiento a cinco mujeres que han sufrido violación a su intimidad mediante la difusión de contenido íntimo alterado o falso a través de la tecnología. “Ninguna legislación es suficiente”, reconoce la activista contra la violencia digital, Olimpia Coral. ¿La tecnología nos ha rebasado?

|
29 DE JUNIO DE 2023
RELACIONADO

En una jornada de alta tensión institucional, Morena enfrenta una doble encrucijada electoral luego de que el Trife invalidara 110 mil registros irregulares, mientras el INE debate frenar la validación retroactiva de su padrón histórico, el cual sumó a más de 12 millones de personas mediante una aplicación digital impulsada por Andrés Manuel López Beltrán. Consejeros electorales advierten que la herramienta móvil del partido opera sin autorización y carece del mecanismo de "fotografía viva" y firma autógrafa, lo que abre la puerta a afiliaciones simuladas o ilegales y deja en la total incertidumbre jurídica la autenticidad de sus millones de militantes.

|
Hace 1 hora
Agréganos como tu fuente favorita en Google
Agrega Eme equis en

EMEEQUIS.– Imagina que subes una fotografía a Instagram de las últimas vacaciones. Tienes puesto un bikini y estás en la playa. Tiempo después encuentras la misma fotografía que publicaste en otra red social o páginas de contenido adulto… la diferencia es que en esa imagen no tienes nada de ropa. 

Tú no lo autorizaste y sabes que ese desnudo no es real, pero vives las consecuencias de la violencia digital, como la ansiedad, vergüenza e incluso extorsión para bajar tus fotografías. 

Se trata de un tipo de violencia digital que se ha llamado “fake porn” o “deep fake porn”, en el que se altera o produce a partir de herramientas de inteligencia artificial las fotografías de mujeres sin su consentimiento, haciendo parecer que es una imagen de contenido sexual o donde se retira gráficamente sus prendas de vestir.

Esta práctica ha sido denunciada en redes sociales por mujeres que han sido víctimas de estos montajes. Incluso la cantante española Rosalía fue víctima de fotografías alteradas, en las que supuestamente mostraba los pechos. 

No es algo nuevo, ni tampoco una situación de la que nos hemos librado ni estamos muy lejos de experimentar en México. A pesar de que existen legislaciones para sancionar la violencia digital, puede que la tecnología nos haya rebasado. 

“Somos en México uno de los primeros países que habló de los contenidos alterados o manipulados”, dice Olimpia Coral. Foto:@OlimpicaCMujer.

CASOS EN MÉXICO 

MANTÉNGASE INFORMADO

Recibe nuestro boletín semanal
Si continúas, aceptas la política de privacidad

El Frente Nacional para la Sororidad tiene identificados al menos cinco casos en México. La colectiva conformada por la activista de derechos digitales, Olimpia Coral, ha dado acompañamiento a cinco mujeres que han sufrido violación a su intimidad relacionados con la producción y difusión de contenido íntimo alterado o falso a través de la tecnología. 

El primero se registró en 2015, cuando las fotografías de una joven fueron alteradas para crear dos avatar de un videojuego que es utilizado principalmente por menores de edad. “Jugaban a violar y asesinar a una de sus compañeras”, cuenta en entrevista con EMEEQUIS Olimpia Coral Melo Cruz, defensora de espacios digitales libres de violencia.

En otro caso, la fotografía de una mujer fue alterada para simular que abría la boca y se le introducía un pene. Este contenido era una promoción a un supuesto video sexual. Mientras que, recientemente, acompañaron dos casos en los que las fotografías fueron modificadas a través de inteligencia artificial. 

Las víctimas de estas violencias y formas de explotación sexual suelen sufrir afectaciones en su entorno, como síndrome de persecución, segregación y burlas, configuración de su imagen social y alteraciones emocionales como estrés, ansiedad e incluso efectos físicos como sarpullidos en la piel o caída del cabello. 

LEY OLIMPIA, EFECTIVA PERO INSUFICIENTE

A pesar de la legislación existente en México, la tecnología ha rebasado las normas y manera de actuar para prevenir y erradicar las violencias digitales. 

La Ley Olimpia, como se conoce al conjunto de reformas para reconocer y combatir la violencia digital, como la publicación de fotografías íntimas sin consentimiento, está aprobada en prácticamente todos los estados del país. Sin embargo, ni la identificación del delito, ni las sanciones, comparten los mismos estándares y parámetros que propuso su creadora, Olimpia Coral. 

“Ninguna legislación es suficiente”, reconoce la activista contra la violencia digital, pero asegura que con las normas impulsadas desde 2019 y aprobadas en 2021, “somos un parteaguas importante, somos en México uno de los primeros países que habló de los contenidos alterados o manipulados”. 

De acuerdo con el INEGI, 3 de cada 10 mujeres entre 12 a 29 años en México han sido víctimas de algún tipo de violencia digital, como la publicación de fotografías, videos e información personal sin consentimiento, estos datos se encuentran recopilados en la encuesta del Módulo sobre Ciberacoso 2021. 

Pese a la aplicación de la Ley Olimpia en todo el país, “en el 63% de casos denunciados no han encontrado una acción de investigación positiva para las víctimas, ni siquiera un vínculo de nexo causal, o peor aún la iniciación del proceso por falta de pruebas”, reconoce Coral Melo. 

Esto se debe a la falta de aplicación de nuevas técnicas de investigación por parte de las Fiscalías, así como de peritos especializados para el seguimiento de estos delitos. 

Aún existen pendientes en la legislación para hacerla efectiva, afirma Olimpia Coral en entrevista con EMEEQUIS. “La proporcionalidad de las penas a nivel nacional, los orígenes de la compilación de los datos de prueba. Hace falta que veamos la manera que afecta esta violencia a mujeres y hombres. Falta meterle más manos, políticas y económicas, a la viabilidad operativa para llevar un proceso jurídico para las víctimas de violencia digital”, dice. 

Para los casos de violencia digital a través de imágenes manipuladas con inteligencia artificial están contempladas en algunas versiones de Ley Olimpia, acorde a la tipificación vigente en cada estado del país. 

“En muchos de ellos se reconoce como tipo penal el hecho de manipular o alterar, ahí podría entrar el tema de la inteligencia artificial o de otros auxiliares tecnológicos para manipular los contenidos”, explica Coral, quien afirma que esto también aplica en la compilación de información, como videos, audios o otro tipo de contenidos que podrían filtrarse. 

 Olimpia Coral en protesta feminista. Foto: @OlimpiaCMujer.

RESPONSABILIDAD DE USUARIOS Y EMPRESAS

El reto crucial para cualquier legislación ha sido obligar a una respuesta y responsabilidad a las empresas proveedoras y dueñas de las redes sociales, donde se difunden los contenidos, y de los servicios de herramienta de inteligencia artificial, donde se producen.

Hemos intentado por todas las vías que haya sanciones para las empresas, pero esto no es una ley del ámbito local, sino federal; tiene que ver con la Ley de Telecomunicaciones”, explica Olimpia. 

Pese a que existen mecanismos de cooperación entre las empresas (Twitter, Meta, etc) y las instituciones de justicia en el país, no resultan efectivas y han tardado de seis meses a un año en dar material para proveer de pruebas a las investigaciones en curso. 

“No hay postura real de qué se está haciendo para evitar la manipulación de esta información y qué pasa cuando una mujer denuncia por parte de las empresas que se están tardando de 6 meses a un año en perfiles que no tienen una identidad real para dar a conocer los efectos causales del delito”, comenta. 

En las aplicaciones de la empresa Meta (Facebook, WhatsApp, Instagram, Messenger, Oculus, entre otras) se utiliza una herramienta antes llamada “Nunca sin mi consentimiento”, que verifica si se han subido a sus plataformas fotografías sin consentimiento cuando se trata de una extorsión por contenidos sexuales. Con ella se registran los datos del rostro de la persona que está siendo amenazada y al identificar alguna de sus fotografías podrá borrarse de la plataforma. 

Olimpia Coral afirma que el algoritmo digital es patriarcal, ya que no hay reglas claras, sanciones ni esquemas de actuación sólidos hacia las empresas, ni los usuarios que suben o alteran los contenidos. 

“Las empresas han servido como mercados de explotación sexual de este tipo de conductas y materiales”, dice. Sin embargo, refiere que la solución no está en satanizar el uso de internet, ni la inteligencia artificial, sino empezar a dar educación digital a las infancias para crear espacios de navegación éticos, seguros y responsables.

@GloriaPE_

Powered by Froala Editor

Agréganos como tu fuente favorita en Google
Agrega Eme equis en

Telegram

MÁS CONTENIDOS

En una jornada de alta tensión institucional, Morena enfrenta una doble encrucijada electoral luego de que el Trife invalidara 110 mil registros irregulares, mientras el INE debate frenar la validación retroactiva de su padrón histórico, el cual sumó a más de 12 millones de personas mediante una aplicación digital impulsada por Andrés Manuel López Beltrán. Consejeros electorales advierten que la herramienta móvil del partido opera sin autorización y carece del mecanismo de "fotografía viva" y firma autógrafa, lo que abre la puerta a afiliaciones simuladas o ilegales y deja en la total incertidumbre jurídica la autenticidad de sus millones de militantes.

|
Hace 1 hora

Ante la creciente polémica por la "Ley Serrano" en San Luis Potosí —un marco legal que ha derivado en el acoso judicial, la investigación de siete periodistas y el encarcelamiento de comunicadores bajo la premisa de usar inteligencia artificial para generar "caos social"—, la presidenta Claudia Sheinbaum Pardo urgió a abrir un debate nacional para regular esta tecnología, pero advirtió sobre el grave riesgo de recurrir a la vía penal, señalando que existe una línea muy delgada entre el castigo y la censura. Aunque la mandataria federal admitió no conocer los detalles específicos de la reforma potosina, rechazó que el Estado sea omiso ante la rapidez del avance tecnológico y llamó a construir una regulación social conjunta que proteja la libertad de expresión

|
Hace 3 horas

Documentos oficiales obtenidos por EMEEQUIS revelan que el municipio de Monterrey, encabezado por Adrián de la Garza, destinó más de 28 millones de pesos de recursos públicos en el marco del Mundial de Futbol FIFA 2026. Esta bolsa se dividió en 24.2 millones de pesos para el festival "Regio Fest" y 3.3 millones de pesos contratados con la empresa CMS Editorial S.A. DE C.V. (cuya dirección fiscal está en Tabasco, pero opera en San Pedro Garza García) para elaborar cómics y libros didácticos. La investigación apunta a que este gasto funge como una estrategia de comunicación institucional para difundir logros gubernamentales y apuntalar la imagen del alcalde de cara a la candidatura del PRI para la gubernatura de Nuevo León en 2027

|
Hace 6 horas

Proveniente de una familia de pescadores en Ahome, el mediocampista Luis Romo se convierte en héroe nacional, al aprovechar un regalo del portero surcoreano. Sheinbaum felicita al Tri: “Su triunfo llena de orgullo a todo México 🇲🇽”. 

|
Hace 16 horas