Miercoles 11 de Diciembre de 2024







 10/11/2024 - TECNOLOGIA
¿Eso es real? Los secretos para descubrir si una imagen fue creada con Inteligencia Artificial

Estas recomendaciones, que también aplican a los videos, son fundamentales para entender el mundo en la era de la IA Generativa. ¿Qué variables revisar para identificar el carácter sintético?


En poco tiempo, la Inteligencia Artificial Generativa consiguió gran musculatura y uno de sus superpoderes es la creación de imágenes y videos con un alto grado de fidelidad, partiendo de simples indicaciones por escrito. En el 2024, ya no es necesario ser un artista excepcional, diseñador o programador avezado para generar contenido realista. Esto trae consigo una problemática que crece conforme esos sistemas suman habilidades: ¿cómo distinguir el contenido sintético de uno creado por humanos o tomado del mundo real?


El despliegue de estas nuevas tecnologías no solo nos empuja a conocer cómo funcionan, para echar mano a ellas. También nos impone la necesidad de revisar sus mecanismos para conseguir una identificación más o menos certera del contenido sintético.



Entre los objetivos que persigue esa capacidad se destacan los siguientes:



  • Eludir la desinformación: Si vemos una imagen creada con IA que muestra a una figura de la política ahorcando a un representante del partido opositor, es bueno (y necesario, en muchos sentidos) saber si se trata de una foto editada con IA.

  • Reconocer los intentos de difamación: Las deepfakes están a la orden del día y son cada vez más convincentes. Si encontramos un video que muestra a una celebridad participando en escenas sexuales, es importante identificar si se trata de una campaña que busca atormentar a esa persona.

  • La manipulación digital puede tener consecuencias reales: El hecho de que un contenido sea digital no implica que no tenga influencia en aquello que llamamos “realidad”.


Las claves para identificar fotos y videos creados con Inteligencia Artificial Generativa


Los generadores de imágenes no solo pueden crear imágenes caricaturescas o dibujos como el siguiente, cuya influencia en la realidad no reviste peligros. Nadie creerá que este perro realmente existe y que ha pintado un cuadro.


Pero, como hemos dicho, esos sistemas potenciados con IA Generativa también son capaces de crear contenido realista. Los muchachos que se abrazan, a continuación, nunca existieron en el mundo real. Por muy reales que parezcan, son sintéticos.


Esto no se agota en las imágenes. Pronto, los principales participantes del negocio —OpenAI, Google y Meta— lanzarán generadores de video que crean piezas audiovisuales con movimiento partiendo de simples instrucciones por escrito. Además, este intríngulis será complicado con el paso del tiempo, conforme los desarrolladores inyectan capacidades en sus modelos.


En este marco, resulta útil conseguir habilidades para distinguir contenido el contenido real del sintético. Si bien no existen fórmulas mágicas para eso, la astucia, el ojo atento y ciertas pistas son útiles.


Entonces, ¿cuáles son las claves para reconocer fotos y videos creados con IA?


La alfabetización en Inteligencia Artificial


Siwei Lyu, profesor de Ciencias de la Computación e Ingeniería en la Universidad de Buffalo, en Nueva York, señaló en diálogo con Mashable que el primer paso para identificar el contenido sintético es “entender que las tecnologías están creciendo y tener esa idea central de que ‘algo de lo que estoy viendo podría haber sido generado con IA’”. De acuerdo al experto, esa propensión es más importante que algunas señas específicas que podemos encontrar en los contenidos sintéticos.


En ese sentido, si bien las creaciones con IA ahora tienen algunas pistas que delatan su carácter —por ejemplo, muchos modelos aún tienen problemas para generar manos humanas y las hacen horribles—, es importante saber que si todo está bien en una foto o video, incluso así podría ser el resultado de un modelo automatizado.


                 Algunos generadores aún tienen problemas para crear manos humanas: esta tiene seis dedos. (Foto: OpenAI DALL-E a través de Bing)


En resumen, la referencia a la alfabetización en Inteligencia Artificial apunta a una propensión de los consumidores, a una postura cuando estamos frente al material y al espíritu crítico. No hay que desconfiar de todo, pero tampoco deberíamos ser 100% crédulos.


¿Qué pasa con los videos manipulados con IA?


Otra pata de la mencionada alfabetización en IA es conocer las particularidades de los contenidos sintéticos. En el caso de los videos, hay dos vertientes:


Clips con “impostores”


Son deepfakes en las que la edición consiste en cambiar el rostro de una persona, en un video. En muchos casos se usa esta técnica para crear falsificaciones porno: se usa el cuerpo de un desconocido y colocan encima el rostro de una celebridad, por ejemplo. El nivel de realismo dependerá de la “costura” en la zona del cuello.


También son conocidos los casos en los que se manipula con sutileza la boca de una persona y se reemplaza el audio para que “digan” algo que nunca dijeron. En estos ejemplos, el contenido no se crea desde cero, sino que se edita material existente.


En este tipo de videos manipulados, la clave para reconocerlos radica en prestar atención a los márgenes de los rostros, porque hay incongruencias cuando se mueven. Además, es habitual que las miradas sean “extrañas”, es decir, que no resulten naturales o sincronizadas con el resto de los movimientos. En las ediciones de labios, se notan algunas inconsistencias en los dientes.


Videos generados a partir de texto


En este terreno incipiente a OpenAI Sora, Google Veo y Meta Movie Gen. Según explicamos en Se hacen solos: estos son los tres generadores más famosos para convertir texto en videos, se trata de sistemas que se anunciaron, aunque aún no se lanzaron debido a los riesgos asociados a su uso. Como fuere, lo cierto es que, con movimiento, profundizarán la problemática que aquí nos convoca: la capacidad de identificar lo sintético y lo real.


En las muestras preliminares, en los tres modelos, los detalles son impresionantes y el fotorrealismo es de tal grado que encanta y a la vez asusta. Por ejemplo, el siguiente video fue creado con Google Veo con el prompt “primerísimo plano de brochetas de pollo y pimiento verde asadas en una barbacoa con llamas. Enfoque superficial y humo ligero. Colores vivos”.


¿Cómo reconocerlos, para identificar a aquellos que se presuman reales? Una de las variables centrales, al menos en primera instancia, es la extensión. En otras palabras: la brevedad es una pista para desconfiar. Esto es así porque los generadores mencionados por el momento solo pueden crear clips cortos, de pocos segundos. Cuando tienen que trabajar con piezas más largas, se topan con problemas. Eso sí: esto cambiará con el paso del tiempo, porque se espera que evolucionen y puedan trabajar con videos más extensos.


Además, especialmente en estos generadores, hay que prestar atención a las inconsistencias y a los comportamientos fuera de la lógica. Por ejemplo, elementos que repentinamente cambian de color (aunque sea ligeramente) o asuntos imposibles para las leyes de la física.


Otro secreto para reconocer videos creados con IA es prestar atención a lo que ocurre en segundo plano. El foco de la atención —tanto del espectador, como del sistema— está en los elementos centrales. Y en ocasiones, las mencionadas inconsistencias ocurren en lo que está por detrás. A veces, se trata de objetos demasiado lisos o extrañamente deformados.


La habilidad más relevante es el sentido común


Como hemos visto, existen algunos detalles que delatan que un video fue creado con generadores de IA. Por ejemplo, prestá atención a las manos de la señora en el siguiente video: son claramente artificiales.








Pero los expertos coinciden en que la habilidad clave para reconocer el contenido sintético es el sentido común. Es una capacidad más vinculada al contexto, al mundo real, al conocimiento de aquello que nos circunda; que a una alfabetización de orden tecnológico. Por caso, si nos topamos con una imagen que muestra al Papa Francisco vistiendo una campera larga y blanca —esa foto se viralizó y convenció a muchos en las redes—, el sentido común nos conducirá, cuanto menos, a dudar e investigar. Es decir, no darla por cierta en primera instancia.



 Los memes tras la viralización de la foto del Papa: el camperón del campeón. (Foto: Twitter @verobrunati)


 Los memes tras la viralización de la foto del Papa: el camperón del campeón. (Foto: Twitter @verobrunati)



Mientras la IA evoluciona y con ello se diluyen las fronteras entre lo real y lo irreal, las compañías que desarrollan los modelos prometen mecanismos para trazar los límites que están borrándose. Entre los más conocidos aparecen las marcas de agua —indicadores, a la vista, que confirman el carácter sintético del contenido—, hasta metadatos “escondidos” en el material que también indican que la automatización metió la cola.


Finalmente, para detectar obras de la IA también vale aplicar algunas de las estrategias que corren para cualquier tipo de contenido que circula en plataformas digitales y podría ser fake. Chequear la reputación de la persona que lo comparte, revisar qué otras fuentes también lo hacen, además de evitar la propagación de contenido que podría desinformar y/o difamar.



























PINAMAR24 EN FACEBOOK


© 2022 - PINAMAR 24
PROPIETARIO: DIEGO ANDRES URIBE
DIRECTOR GENERAL: DIEGO ANDRES URIBE
FECHA 11/12/2024 EDICIÓN: NÚMERO
DOMICILIO LEGAL: JASON 429 PINAMAR
REGISTRO DNDA EN TRÁMITE