Deepfakes no han bastante perdido la capacidad de sorpresa, pero dada su saturación de los medios al por mayor en el último año más o menos, hay una sospecha de que en algunos sectores que pueden haber perdido el autobús. Cuando la gente lanza un falso Boris Johnson o Jeremy Corbyn en línea en estos días, la respuesta parece estar bastante dividida entre «Wow, eso es gracioso» y apenas divertido .

Es muy probable que se ría de las personas que piensan que los videos populares de Bosstown Dynamics, falsos de Boston Dynamics, son reales, pero eso es exactamente lo que los ciberdelincuentes confían y dónde puede estar el verdadero potencial malicioso de los falsos profundos.

¿Qué sucede cuando un perfil de LinkedIn perfectamente común presenta una imagen generada de una persona que no existe? Todos creen la mentira.

¿Está cayendo el cielo? Probablemente no.

Los dos mercados principales  acorralados por las falsificaciones profundas en el momento de la escritura son los clips de pornografía falsos y una creciente industria de efectos digitales, que son una imitación razonable de las películas de televisión de bajo presupuesto. En algunos casos, ha surgido un esfuerzo local y se ha solucionado un intento fallido de Hollywood en la magia CGI . De alguna manera, en una era de personas terribles que pagan falsos desnudos de cualquiera que elijan, y la posibilidad de travesuras políticas a menudo prometidas pero aún no materializadas, el punto crítico ético actual es si traer o no a James Dean de la muerte .

A pesar de esto, la combinación de política y tecnología continúa a un segundo plano. En este punto, es extremadamente improbable que veas algún tipo de gran evento mundial (o incluso varios pequeños pero significativos) que se vean afectados por clips falsos de líderes mundiales que hablan como locos: serán desacreditados casi al instante. Ese barco ha navegado. El hecho de que las falsificaciones profundas se volvieron prominentes principalmente a través de subreddits de pornografía y personas sentadas en su casa sugiere que les cayó a cualquiera a nivel de estado-nación.

Cuando se trata de deepfakes, personalmente he sido de la persuasión «Es malo, pero en términos de ingeniería social, es mucho trabajo por poca ganancia». Ciertamente no me suscribo al modelo del cielo está a punto de derrumbarse. Las peores áreas de deepfakery que tiendo a ver son donde se usa como base para impulsar las estafas de Bitcoin . Pero eso no significa que no hay potencial para peor.

LinkedIn, deepfakes y campañas de influencia maligna

Con esto en mente, me fascinó ver » El papel de los deepfakes en las campañas de influencia maligna » publicado por StratCom en noviembre, que se centró principalmente en la forma más reservada pero potencialmente devastadora de travesuras de deepfakes. No es falso Trump, no es fingir que Boris Johnson declara que los extraterrestres están invadiendo; Es una interferencia de nivel de ruido de fondo diseñada para funcionar silenciosamente en una cadena de mando.

Me sorprendió especialmente el comentario de que las evaluaciones «pesimistas» de los expertos habían dado paso a un enfoque más moderado y escéptico. En otras palabras, a medida que los especialistas en marketing de momento, los fanáticos de los efectos visuales de YouTube y otros trataban de alejar la tecnología falsa de los impulsores de la pornografía, se volvió algo insostenible hacer falsificaciones grandes y llamativas con intenciones siniestras. En cambio, la batalla se libró detrás de escena.

Y ahí es donde Katie Jones se acercó al plato.

Quien es Katie Jones?

En el gran esquema de las cosas, nadie. Otra cuenta falsa en una ola interminable de cuentas falsas que se extiende a través de años de clones de Facebook y «sesiones de horneado» de trolls de Myspace, donde cientos de personas saldrían por la puerta sobre la marcha. La única diferencia clave es que la foto de perfil de Katie en LinkedIn era una obra de ficción generada por computadora.

Las personas a las que «Katie» se había conectado eran un poco inconsistentes, pero incluían a un montón de personas que trabajaban en y alrededor del gobierno, las políticas, la academia y … eh … una empresa de congeladores frigoríficos. No es un mal Rolodex para el espionaje internacional.

Nadie admitió haber hablado con Katie, aunque esto plantea la pregunta de si alguien que se enamoró de la artimaña levantaría la mano después del evento.

Si bien podemos especular sobre por qué se creó el perfil: campaña de ingeniería social, prueba de espionaje de estado-nación (rápidamente abandonado una vez descubierto, similar a muchas estafas de malware), o incluso algún tipo de broma práctica, lo que realmente me divierte es el posibilidad de que alguien haya seleccionado al azar una cara de un sitio como este y no tuviera idea del caos que seguiría.

Entrevista con un detective falso

De cualquier manera, aquí viene Munira Mustaffa, la analista de contrainteligencia que descubrió por primera vez la sensación de falsedad profunda de LinkedIn conocida como Katie. Mustafa se tomó un tiempo para explicarme cómo se desarrollaron las cosas:

Un contacto mío, un conocido experto británico en defensa y ejército de Rusia, sospechó inmediatamente de un intento de conexión con LinkedIn. Él escaneó su perfil, e hizo una búsqueda inversa en su foto de perfil, que arrojó cero resultados. Se volvió hacia mí para pedirme que la mirara, y yo tampoco encontré nada.

Esto es inusual para alguien que dice ser becario de Rusia y Eurasia para una organización como el Centro de Estudios Estratégicos e Internacionales (CSIS), porque es de esperar que alguien en su papel tenga al menos un historial de publicaciones. El mundo de la seguridad es pequeño para nosotros, especialmente si eres un experto en políticas trabajando en asuntos de Rusia. Los dos ya sabíamos que Katie Jones no existía, y esta sospecha se confirmó cuando verificó con CSIS.

Seguí volviendo a la foto. ¿Cómo podrías tener una foto como esa pero no tener ningún tipo de huella digital? Si hubiera sido robado de un recurso en línea, sería casi imposible. En este punto, comencé a notar las anormalidades: debes entender mi proceso de pensamiento como alguien que hace fotografías para un pasatiempo y usa mucho Photoshop.

Por un lado, había una mancha gaussiana en el lóbulo de la oreja. Inicialmente, pensé que se había retocado la oreja con Photoshop, pero eso no se verificó. ¿Por qué alguien Photoshop su lóbulo de la oreja? 

Una vez que comencé a notar las anomalías, fue como si todo de repente comenzara a encajar justo delante de mis ojos. Empecé a notar el halo alrededor de sus mechones de cabello. Cómo sus ojos no estaban alineados. Las extrañas estrías y el desenfoque. Luego había moldes y artefactos en el fondo. Para los observadores casuales, se verían como bokeh . Pero si tiene alguna experiencia haciendo fotografía, sabría instantáneamente que no eran bokeh.

Parecían tirados, como si alguien hubiera jugado con la herramienta Licuar en Photoshop, pero marcó el pincel al extremo. Inmediatamente me di cuenta de que lo que estaba mirando no era una foto de una mujer con Photoshop. De hecho, fue una combinación casi perfecta de una persona compuesta digitalmente y superpuesta a partir de diferentes elementos.

Ingresé a www.thispersondoesnotexist.com y comencé a generar mis propias falsificaciones. Después de examinar media docena más o menos, comencé a seleccionar patrones y anomalías, y volví a «Katie» para estudiarlo más a fondo. Todos estuvieron presentes.

¿Realmente importa?

De alguna manera, posiblemente no. El único beneficio real de utilizar una imagen de perfil falso es que las personas sospechosas no obtendrán un resultado en la búsqueda inversa de Google, TinEye o cualquier otro servicio similar. Pero cualquiera que haga eso por las conexiones de LinkedIn u otros puntos de contacto probablemente no estará derramando los granos sobre algo que no debería ser de todos modos.

Para todos los demás, el riesgo está ahí y es suficiente para que todo sea convincente. Siempre ha sido bastante fácil detectar a alguien usando fotografías de modelos de fotografía para fotos de perfil falsas. La amenaza de las instantáneas profundas proviene de su normalidad pura, completa y absoluta. Usar toda esa potencia de procesamiento y tecnología para tallar lo que esencialmente parece un ser humano no notable casi suena revolucionario en su mundanalidad.

Pero pregúntele a cualquier ingeniero social experimentado, y le dirán ventas mundanas. Creemos en la realidad que se nos presenta. Es más probable que ingreses a un edificio vestido como ingeniero, o llevando tres cajas y una taza de café, luego vestido como un payaso o con un abrigo de espía y gafas de novedad asombrosamente abiertas.

Descubriendo un falso

Una vez que pasa un poco de tiempo mirando a las personas falsas generadas en sitios como este, hay múltiples significantes reveladores de que la imagen ha sido construida digitalmente. Volvemos a Mustaffa:

Busque signos de manipulación en la foto comenzando con el fondo. Si parece ser algo neutral en apariencia, entonces es hora de buscar ruidos / perturbaciones extrañas como el pelo o los lóbulos de las orejas.

Decidí abrir  un sitio donde adivinas cuál de las dos caras es real y cuál es falsa. En mi primer lote de disparos, notarás el ruido / perturbación tan común con los disparos a la cabeza generados por IA: se asemeja al tipo de efecto de frotis de aspecto líquido que obtendrías en fotografías antiguas que no has desarrollado correctamente. Mira el cuello en la imagen de abajo:

En una nota similar, mire la deformación al lado de la línea del cabello del hombre generado por computadora:

Estos efectos también aparecen en fondos con bastante regularidad. Mira a la derecha de su oreja:

Los fondos son definitivamente una lucha para estas imágenes. Mire el extraño efecto peludo que corre por el borde de este árbol:

A veces, el técnico simplemente no puede manejar lo que está tratando de hacer correctamente, y terminas con … lo que se supone que es … a la derecha:

También son notables las líneas bien definidas en las caras alrededor de los ojos y las mejillas. No siempre es un regalo, pero es útil para observar junto con otros errores.

¿Recuerdas en los viejos tiempos cuando levantabas ciertos controles deslizantes en las herramientas de edición de imágenes como la nitidez al máximo y terminabas con efectos similares a los de este oído?

Los niños pequeños tienden a causar problemas, y también lo hacen cosas que involucran pliegues de piel, especialmente cuando se trata de hacer que una persona falsa se vea de cierta edad. Otra señal reveladora de que estás tratando con una falsificación son pequeños conjuntos de líneas verticales increíblemente rectas en o alrededor de las áreas de la mejilla o el cuello. Mientras tanto, aquí hay algunos pliegues de bebé completamente poco convincentes:

Hay casos extremos, pero en mi prueba no científica más reciente sobre Qué cara es real , pude adivinar correctamente no menos de 50 veces seguidas quién era real antes de aburrirme y rendirme. Una vez gané 50 juegos de Tekken seguidos en un bar de la universidad y déjame decirte que fue muchísimo más difícil. O soy una especie de maravilla imparable de detección de falsificaciones profundas, o realmente es bastante fácil detectarlos con un poco de práctica.

Eliminando a los falsificadores

Deepfakes, entonces, definitivamente están aquí para quedarse. Sospecho que continuarán causando la mayor cantidad de problemas en sus terrenos familiares: clips porno falsos de celebridades y clips pagados de no celebridades que también se pueden usar para amenazar / chantajear a las víctimas. Ocasionalmente, veremos a otro robot ingrávido que enciende a sus captores humanos y algunas personas caerán en él.

En otros lugares, en el terreno de los perfiles de redes conectadas, ocasionalmente nos encontraremos con perfiles falsos y luego nos corresponde a nosotros usar todo ese conocimiento de inteligencia de amenazas / OPSEC que hemos desarrollado para analizar el tipo de roles que esperaríamos ser. objetivo: gobierno, política, aplicación de la ley y similares.

No podemos deshacernos de ellos, y pronto llegará algo más para robar lo que queda del trueno, pero no debemos temerles. En cambio, para disminuir su impacto potencial, necesitamos entrenarnos para detectar lo ordinario de lo real.