La estrella adolescente de Marvel, Xochitl Gomez, es la última víctima del porno deepfake. Sin embargo, después de encontrar los deepfakes sexualmente explícitos no consensuados que circulaban en X, anteriormente Twitter, se sintió confundida cuando la plataforma no tomó medidas y los eliminó.
Han surgido muchos problemas junto con el auge de la inteligencia artificial, pero el porno deepfake es uno de los más preocupantes. Si bien los deepfakes existen desde hace bastante tiempo, los avances tecnológicos los han hecho más accesibles y convincentes. Como resultado, muchas personas, especialmente mujeres, han encontrado su imagen tomada o recreada sin su consentimiento y utilizada en contenido pornográfico. Se ha convertido en un gran problema para las celebridades femeninas, pero también para las mujeres comunes y corrientes que han experimentado el uso de su imagen en contenido sexual explícito para pornografía de venganza, acoso e intimidación. También existe una gran preocupación por el uso de deepfakes para representar el abuso infantil.
Desafortunadamente, actualmente no existen leyes federales contra la pornografía deepfake no consensuada, y solo unos pocos estados tienen leyes que protegen a los ciudadanos de ella. Muchas mujeres que se han convertido en víctimas de la pornografía deepfake se han encontrado sin opciones para luchar contra ella debido a la falta de regulación y la anarquía de Internet. La mayoría no tiene los recursos financieros para emprender acciones legales. Incluso celebridades como Scarlett Johansson han declarado inútil intentar luchar contra los deepfakes.
Un pequeño nivel de protección que tienen las mujeres proviene de las plataformas de redes sociales que han prohibido los deepfake y la pornografía generada por IA. Si estos sitios imponen tales prohibiciones, la circulación de este contenido dañino sería más difícil. Sin embargo, la experiencia de Gómez muestra que las redes sociales no están haciendo cumplir sus reglas.
Xochitl Gomez se sincera sobre su experiencia con el porno deepfake
(Axelle/Bauer-Griffin/Getty)
Mientras aparecía en el podcast de Taylor Lautner y su esposa, El apretón , Xochitl Gómez (también conocida como América Chávez) habló sobre sus experiencias como víctima de pornografía deepfake. La joven de 17 años reveló que encontró el material sexualmente explícito que circulaba en X, anteriormente Twitter, pero que le está resultando extremadamente difícil eliminarlo. X prohibió la pornografía generada por IA en 2018 y tiene políticas contra imágenes y videos sexualmente explícitos deepfake, así como medios engañosos y desnudez no consensuada. Teniendo en cuenta que las imágenes de Gómez claramente violan las reglas de X y que este contenido presentaba a un menor, uno hubiera pensado que la plataforma tomaría medidas de inmediato.
Sin embargo, Gómez se sorprendió cuando descubrió que su equipo ya había intentado tomar medidas contra el contenido sin éxito. Noticias NBC reportado que tan recientemente como el 19 de enero de 2024, las fotos todavía se podían encontrar en X, que no respondió a las solicitudes de comentarios. Gómez explicó que el contenido la dejó desconcertada y deseando desesperadamente que lo eliminaran, ya que no se veía bien para ella. Ella preguntó: ¿Por qué es tan difícil derribarlo? Ese fue todo mi pensamiento al respecto: '¿Por qué está permitido esto?'
Sin embargo, al final se resignó a aceptar que el contenido simplemente no se podía eliminar, y reveló que simplemente intenta no pensar en ello y guarda su teléfono para solucionar el problema. Aún así, las preguntas que hizo siguen siendo muy relevantes. Por qué ¿Es tan difícil eliminar este contenido? Es moralmente reprensible y repugnante cuando se hace pornografía deepfake de cualquier individuo que no haya dado su consentimiento. Es francamente horrible cuando se trata de un menor. Hay pornografía infantil real circulando en X y, curiosamente, la plataforma no está haciendo nada al respecto, aunque este debería ser el problema más urgente a tratar.
No parece una situación compleja si una persona informa material sexualmente explícito y notifica a la plataforma que no dio su consentimiento. El material va en contra de múltiples reglas del sitio web. ¿Qué más hay que revisar o determinar? Ya es bastante traumatizante para una persona encontrar este tipo de contenido en las redes sociales; Lo mínimo que podrían hacer estas plataformas es cumplir con sus solicitudes para que se elimine. Ningún individuo, especialmente un menor, debería aceptar que el contenido está ahí porque X y otras plataformas de redes sociales se niegan persistente y desconcertantemente a proteger a sus usuarios.
(imagen destacada: Axelle/Bauer-Griffin/FilmMagic/Getty)
