No si es mi hija: la usuaria de porno ‘deepfake’ ama el pecado, pero lo denuncia si la víctima está fuera de su entorno

Hoy no es la primera ministra italiana, pero ya era popular cuando hace cuatro años publicó un falso vídeo pornográfico con la novia de Giorgia Meloni en el cuerpo de otra mujer. El 2 de julio fue llamado a declarar un requerimiento contra los implicados, un hombre de 40 años, que procesó las imágenes, y su padre, de 73 años, que facilitó la línea para publicarlas. Reclama 100.000 euros como “verdadero remedio simbólico” que “contribuye a la protección de las mujeres blancas contra este tipo de delitos”, según la abogada Maria Giulia Marongiu. Los profundo, materiales audiovisuales falsos hiperrealistas, se han duplicado cada año desde que se grabaron por primera vez en 2017, ya que los desnudos no están permitidos y poco ha cambiado desde entonces. Una reunión con Home Security Heroes (HSH) confirma un panorama ya identificado: el 98% es pornografía y 99 de cada 100 víctimas son mujeres y casi todas son populares.

El cambio más radical implica el vértigo tecnológico. Si al principio se necesitan conocimientos de informática y edición de imágenes, ahora, uno de cada uno de los tres equipos disponibles permite realizar creaciones falsas en menos de 25 minutos y eso es cero. Google, que tenía el indicador de ser el buscador predominante, ha retirado, según su último aviso de transparencia, 8.000 millones de enlaces. Miles de ellos son páginas de profundo, concentrado en dos portales, según la base de datos Lumen de la Universidad de Harvard. Las tecnologías requeridas por las nuevas leyes están comenzando a implementarse.

La accesibilidad de las herramientas (60% online y 40% descargables) es uno de los motivos de los errores, que confiesan haberlo hecho sólo por curiosidad, la atracción por famosos, como en el caso de la cantante Taylor Swift. , y la visualización de una fantasía, según HSH. Esta pequeña percepción hace que el 74% de los usuarios (según una reunión con 1.522 participantes masculinos) no se sientan culpables.

Pero este ingenio supremo es tan falso como el material que consume. «Es un problema de violencia machista», dice Adam Dodge, del Instituto Tecnológico de Massachusetts (MIT), fundador de EndTAB, una organización de educación tecnológica sin fines de lucro. La Directiva de la UE sobre la lucha contra la violencia contra las mujeres incluye estas creaciones como agresión.

Y la percepción de este ataque es tan clara que hasta la gran mayoría de usuarios de profundoSegún el estudio de HSH, dando la alarma de hipocresía, relata que la víctima fue alguien que la golpeó (73%) y se sintió “consolada e indignada” (68%) por la violación de su intimidación.

El crecimiento de los desnudos no autorizados se ha producido a pesar de que las leyes que condenan son prácticas y acompañan a las víctimas frente a la coartada libertad de expresión que se aplica a los creadores de contenidos. “De acuerdo con el artículo 18.1 de la Constitución, los derechos al honor, a la intimidación personal y familiar y a la propia imagen se encuentran dentro del rango de fundamentales (…) El artículo 20.4 establece que el respeto de los derechos constituye un límite al ejercicio de las libertades personales. expresión». Así, la Ley Orgánica 1/1982 que regula esta materia avanza con dificultad.

“Desde el punto de vista teórico, existe un punto de referencia posible”, explica Ricard Martínez, director de la Cátedra de Privacidad y Transformación Digital de la Universitat de València. En Estados Unidos, la mayoría de las consultas se incluyeron bajo la Ley de Derechos de Autor del Milenio Digital (DMCA) de 1998.

“Cuando se percibe la imagen real de una persona, pero la modifica con cualquier intención, hay una conducta instrumental que consiste en tratar su imagen sin consentimiento cuando no está permitido”, explica Martínez. “En su mayor parte”, Matiz, “es un humorista que genera una imagen con alma satírica y en un contexto claro”.

Pero se ha descubierto que estas regulaciones son inadecuadas, ya que Europa aprobó leyes sobre servicios y mercados digitales en noviembre de 2022 (que entrarán en vigor en mayo) para «proteger los derechos fundamentales de los usuarios y establecer condiciones justas de jurisdicción para los usuarios». empresas». Estas normas obligan a las grandes empresas a colaborar en la evaluación de riesgos, identificación, notificación y eliminación de enlaces sospechosos.

“Hay temas importantes: lo que ofrece el equipo, que siempre dirá que su aplicación no fue diseñada para delinquir, y lo que ofrece la creación, que hace altavoz. La norma impone a estos últimos una colaboración más intensa”, añade Martínez.

Google admite las nuevas responsabilidades y, en respuesta escrita, ante el aumento de denuncias, declara: “Tenemos políticas para la pornografía profundo No estás de acuerdo porque las personas pueden eliminar este tipo de contenido que incluye imágenes de resultados de búsqueda. Estamos trabajando activamente para proteger aún más a los afectados. Por otro lado, tenemos un proceso de supresión que permite a los titulares de derechos proteger su trabajo en Internet”.

Meta también va en esta línea. Nick Clegg, como presidente del contrato global, anunció a mediados del 6 de febrero: “Aplicamos etiquetas de Imaginado con IA Imágenes fotorrealistas creadas con nuestra función, pero también nos gustaría poder hacer esto con contenido creado con herramientas de otras empresas». Consulte con Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock y pregunte sobre sus planes de implementación para agregar metadatos a las imágenes creadas con sus herramientas.

Las grandes tecnologías se combinan con la cruzada legal contra los profundo ya la reciente aprobación de la ley europea sobre inteligencia artificial, que obliga a etiquetar de forma inequívoca las creaciones desarrolladas con esta tecnología. El gobierno de Estados Unidos también está avanzando en esta dirección. “No se puede saber que el uso del sistema o sus resultados responden al ejercicio de la libertad de expresión y de la libertad de creación”, celebra el catedrático valenciano.

“La preocupación es común y está llena de una confluencia de intereses provenientes de distintas culturas jurídicas. Asegúrate de presentar el mensaje a estas empresas de que no todo vale la pena, que no puedes lavarte las manos y decir «bueno, solo soy una plataforma y no puedo ser responsable de todo». Los proveedores de servicios de la sociedad de la información influyen decisivamente en la viralización de los contenidos que se muestran. No soy un operador neutral ni un simple contenedor. Ellos forman parte de la operación, del juego”, concluye Ricard Martínez.