¿Por qué Facebook lista las imágenes de Jesucristo en tonos, espaguetis o coliflores? Tecnología

“Podrás disfrutar de mi trabajo artístico”, “¡Lo hago con mis propias manos!”, “Mayo 2024 es tu mejor año”, son algunos de los textos que acompañan miles de imágenes extra de Jesús generadas por inteligencia artificial en Facebook. El algoritmo de promoción hace que algunas personas se conviertan en virus y atraigan una gran audiencia a páginas que luego obtienen su éxito para monetizar o incluso dirigirse a los usuarios.

“Las imágenes son un anuncio: algunas son bellas, otras sensacionales y algunas son raras”, afirma Renée DiResta, investigadora de la Universidad de Stanford y coautora de un artículo publicado en marzo sobre este fenómeno titulado “Cómo spammers y los expertos utilizan imágenes generadas por IA en Facebook para aumentar las audiencias”. Miles de usuarios interactúan con esas imágenes, muchos de ellos con un simple “amén”, lo que podría significar que son bots.

Con el paso de los años, Facebook se ha transformado en una plataforma donde se comparan contenidos y el objetivo fundamental es aumentar la audiencia. Los Jesucristos son un negocio más fácil de crear y que llama la atención: “La capacidad de atención entre los creadores de páginas significa usar cualquier táctica que parezca funcionar, lo que ahora incluye publicar contenido generado por IA en los sistemas de recomendación que parecen promocionar”, continúa DiResta.

Los textos que combinamos con los autores se utilizan para promover esta viralidad. En algunas imágenes, un niño negro enfrenta al costado de Jesucristo con palabras y el texto dice: “Gracias a todos los que aprecian mi arte”. En ninguna de estas imágenes parece haber sido creado artificialmente.

El artículo académico estudió 120 páginas de Facebook que publicaban al menos 50 imágenes generadas por IA cada una. Prueba de éxito es que las páginas cuentan con el apoyo de casi 130.000 seguidores. Nada más mirar estas fotos, el algoritmo de Facebook te ofrece más ejemplos y nuevas variaciones. Después de ver EL PAÍS, tuve páginas de usuarios latinoamericanos que combinaban esas imágenes religiosas con memes, animales y bodegones también con IA, donde escribía «buenos días» o vídeos de nivel. Uno de ellos, un haitiano residente en México, respondió brevemente a este periódico que esas imágenes eran las hacía lui, que la gente realmente las apreciaba y reconocía que podía ganar algo con ellas: «Sí», respondió, pero no puedo. No lo explico. cómo. Este usuario tiene más de 7.000 seguidores.

Más allá de las tramas dentro de Facebook, el debate de fondo es: si la gente confunde estas imágenes ridículas con arte real, ¿por qué pasará cuando el mar fue generado por realismo real? No hay certezas, aunque el mundo entero esté confundido. A raíz de una de estas fotos un usuario dice: “Esta maravillosa escultura es una mano bendita de Dios, mi amor fue un genio, Dios sea bendita cada mañana y siempre felicidad desde Colombia”. Otra respuesta: “Sí señora, ¿cómo puede usted creer en estas cosas, que son fáciles de conseguir, sin saber que es una imagen falsa? No debo creer todo lo que se publica en números rojos».

La crédula mujer recibió otra respuesta que ilustra uno de los tipos de estatus. Si alguien cree que esas imágenes falsas son reales, probablemente sea el más ingenuo y el más fácil de temer: “Soy francesa y tengo 13 años desde que mi marido creció. [sic] en un accidente de coche. Después de la muerte, aquí está la fortuna de mi marido. Teniendo en cuenta mi avanzada edad y mi salud, decidí ayudar económicamente a las personas que quisieran recibir asistencia financiera para sus necesidades, ya que no tengo hijos para beneficiarme de mi herencia y no quiero que el gobierno congele mi fortuna después de mi muerte. . Entonces, si estás interesado en hacer negocios, envíame un mensaje y agrega un enlace a un número real de WhatsApp.

“Si ves menús cuando interactúas con comentaristas acreditados en publicaciones, tanto en páginas como en grupos, en ocasiones proporcionas información personal sobre ellos u ofrecen vendedores de productos que no existen”, explica el artículo. Una vez creada una audiencia en un grupo o en una página, las formas de intentar obtener más beneficios varían: “Marcamos las páginas como ‘estafa’, sí: uno, involucramos a los seguidores llenando, comprando o cambiando el control de la página; dos, indicar falsamente un nombre, dirección u otra característica de identificación; y/o, tres, venden productos falsificados”, detalla el artículo académico.

Algunas de las páginas que utilizan estas tácticas pueden cambiar de nombre y permanecer con sus seguidores para hacer otras cosas o vender al público. Las páginas de spam demuestran la atención de los usuarios hacia páginas fuera de Facebook que están llenas de anuncios.

Jesucristo es sólo una pregunta importante. En el tercer trimestre de 2023, una de las 20 imágenes más vistas en Facebook en todo el mundo fue esta cocina con suelo de cristal. Tengo 40 millones de visualizaciones y 1,9 millones de interacciones, según la información trimestral de la plataforma sobre los contenidos más vistos. Algunas de las páginas que han intentado este viaje también lo han hecho con animales, niños, cabañas o paisajes, cualquier cosa que pueda llamar la atención en Facebook: “Como Picasso estabas en la era azul, las páginas que han pasado de época, muchos documentos de esculturas de nieve; muchas docenas de tallados en la arena; uno o dos documentos de alto nivel en Madeira; Muchos platos de sushi dispuestos artísticamente, cada uno con un estilo muy similar”, dice el artículo.

«Sospechamos que estos altos niveles de interacción fueron diseñados por el algoritmo de recomendación de Facebook», dicen en el artículo DiResta y su coautor Josh A. Goldstein, de la Universidad de Georgetown. Después de dos años, a través de un documento filtrado por Meta, las redes sociales han cambiado su algoritmo para parecerse más a TikTok. El objetivo era, según el documento, «ayudar a las personas a conocer y disfrutar de contenidos interesantes, independientemente de si alguien ha producido productos con los que están conectados o no». Los autores mostraron cómo este contenido de “Sugerido para ti” pasó del 8% en 2021 al 24% en 2023 como porcentaje del número de visualizaciones.

Si el centro de operaciones de todas estas imágenes virales es Facebook, también estás en Instagram: «Las imágenes generadas por IA también son populares en Instagram», afirma DiResta. «Estoy en Twitter y en todas partes, pero el diseño de Facebook e Instagram significa que las personas crean tipos específicos de contenido visual y construyen audiencias con el tiempo».

En febrero, Meta anunció la etiqueta de contenido generado por IA en Facebook, Instagram y Threads. Actualmente no ocurre en ninguno de estos casos. Para evaluar los peligros potenciales, este detalle es importante. Aunque en algunos casos es fácil detectar imágenes generadas por IA, no siempre será así: “Incluso en los casos en los que hay señales obvias, identificarlas requiere mucho esfuerzo cognitivo, y puede resultar poco realista esperar a que aparezcan las imágenes generadas por la IA. Usuario de Facebook de Promedio que simplemente busca una visión de la historia”.