En un raro ejemplo de apuro legislativo, se introdujeron aproximadamente una docena de proyectos de ley estatales y federales en los últimos 12 meses para regular las falsificaciones profundas, la tecnología relativamente moderna que algunos temen podría anular la democracia.

Aunque las propuestas federales aún tienen que avanzar, los proyectos de ley estatales han tenido un rápido éxito en casa. Ya tres estados, California, Virginia y Texas, han promulgado leyes falsas, y hay legislación pendiente en Massachusetts, Nueva York y Maryland, que presentó su propia ley el 16 de enero de este año.

Las leyes y la legislación pendiente varían en alcance, sanciones y enfoque.

La ley de Virginia modifica la ley penal actual sobre el porno de venganza, por lo que es un delito, por ejemplo, insertar la imagen digital de una mujer en un video pornográfico sin su consentimiento. La ley de Texas, por otro lado, prohíbe el uso de falsificaciones profundas para la interferencia electoral, como hacer un video que muestra fraudulentamente a un candidato político en un mitin neonazi un mes antes de una elección.

Un proyecto de ley de Nueva York aborda un tema completamente diferente: cómo tratar la imagen digital de una persona fallecida, una realidad que está llegando a una pantalla cerca de usted (protagonizada por James Dean). Y dos leyes estatales potencialmente abordan la creciente amenaza de «fraudes baratos», fraudes digitales de baja tecnología que no requieren herramientas de inteligencia artificial para hacer.

Se espera esta experimentación legislativa para una tecnología emergente, dijo Matthew F. Ferraro, asociado senior de la firma de abogados WilmerHale que asesora a clientes sobre seguridad nacional, seguridad cibernética y gestión de crisis.

«De alguna manera, este es [un ejemplo] de los laboratorios de la democracia», dijo Ferraro, citando una idea popularizada hace décadas por el juez de la Corte Suprema Louis Brandeis. «Esto es lo que la gente anima».

Pero una categoría de legislación de falsificación profunda se ha ganado más malestar que otras, del tipo que únicamente regula la posible interferencia electoral. Grupos como la Unión Americana de Libertades Civiles, Electronic Frontier Foundation y First Draft, que investiga y combate la desinformación, advierten sobre amenazas a la libertad de expresión.

Además, priorizar la legislación política de falsificaciones profundas podría, en efecto, desestabilizar el problema más grande de la pornografía de falsificación profunda, que representa un enorme 96 por ciento del material de falsificación profunda en línea hoy , dijo Adam Dodge, fundador de la organización sin fines de lucro End Technology-Abuse, o EndTAB.

«Creo que es importante que abordemos el daño futuro, simplemente no quiero que eso ocurra a expensas de las personas que se ven perjudicadas en este momento», dijo Dodge. «Tenemos cuatro leyes profundas en los libros en los Estados Unidos, y el 50 por ciento de ellas no abordan el 96 por ciento del problema».

Hoy, Malwarebytes ofrece una visión más detallada de la legislación y las leyes de deepfakes en los Estados Unidos, siguiendo nuestro análisis la semana pasada de las primeras reglas federales de deepfake del país . Mucho más allá de lo que requiere ese lenguaje, los siguientes proyectos de ley y leyes exigen sanciones civiles y penales, y abordan directamente las preocupaciones de desinformación política y pornografía no consensuada.

Legislación federal de falsificaciones profundas ante el Congreso

Ante los legisladores en Washington, DC, hay al menos cuatro proyectos de ley federales falsos tanto en la Cámara de Representantes de Estados Unidos como en el Senado. Son:

• La Ley de Identificación de Salidas de Redes Adversarias Generativas (IOGAN)
• La Ley del Informe Deepfake de 2019
• Un proyecto de ley para exigir al Secretario de Defensa que realice un estudio sobre la explotación cibernética de los miembros de las Fuerzas Armadas y sus familias y para otros fines
• La defensa de todas y cada una de las falsas apariencias manteniendo sujeto de explotación (FALSAS PROFUNDAS) a la Ley de Responsabilidad

Los proyectos de ley en gran medida el uno al otro. La Ley IOGAN, por ejemplo, requeriría que los directores de la Fundación Nacional de Ciencia y el Instituto Nacional de Estándares y Tecnología presenten informes al Congreso sobre posibles oportunidades de investigación con el sector privado del país para detectar falsificaciones profundas.

La Ley de Informe de Deepfake requeriría que el Departamento de Seguridad Nacional presente un informe al Congreso sobre las tecnologías utilizadas para crear y detectar las falsificaciones. El proyecto de ley de «explotación cibernética» del senador Ben Sasse requeriría que el Secretario de Defensa estudie las vulnerabilidades potenciales de los miembros de las fuerzas armadas de EE. UU. A la explotación cibernética, incluidas «imágenes y videos malversados, así como falsificaciones profundas».

Sin embargo, la Ley de Responsabilidad FALSA PROFUNDA se extiende más allá de los requisitos de informes e investigación. Si se aprueba, el proyecto de ley requeriría que cualquiera que haga una falsificación profunda, ya sea imagen, audio o video, etiquete la falsificación profunda con una «marca de agua» que muestre la fraudulencia de la falsificación profunda.

Pero Dodge dijo que las marcas de agua y las etiquetas no ayudarían a nadie cuya imagen se use en un video porno falso sin consenso.

«La realidad es que, cuando se trata de la batalla contra las falsificaciones profundas, todos se centran en la detección, en desacreditar y desenmascarar un video como una falsificación profunda», dijo Dodge. «Eso no ayuda a las mujeres, porque a las personas que miran esos videos no les importa que sean falsas».

La Ley de Responsabilidad de FALSAS PROFUNDAS convertiría en delito dejar de proporcionar esa marca de agua, castigada con hasta cinco años de prisión. Además, el proyecto de ley impondría una multa civil de hasta $ 150,000 por cada falla intencional de proporcionar una marca de agua en una falsificación profunda.

Según Electronic Frontier Foundation, esas son sanciones severas por actividades que el proyecto de ley en sí mismo no define por completo. Por ejemplo, hacer una falsificación profunda con la intención de «humillar» a alguien se convertiría en un delito, pero no hay una definición clara de lo que significa ese término, o si esa humillación requeriría daño. En el intento del proyecto de ley para detener la actividad engañosa y maliciosa, dijo la organización, puede haber llegado demasiado lejos.

«La [Ley de Responsabilidad de FALSIDAD PROFUNDA] subraya una pregunta clave que debe ser respondida: desde una perspectiva legal y legislativa, ¿cuál es la diferencia entre un video malicioso ‘deepfakes’ y una sátira, parodia o entretenimiento?» , Escribió la organización . «Lo que los legisladores han discutido hasta ahora muestra que no saben cómo hacer estas distinciones».

En todo el estado, las preocupaciones cambian a si la legislación de falsificación profunda tendrá el efecto deseado.

Leyes y leyes estatales de deepfakes

El verano pasado, las advertencias sobre la democratización de la tecnología de deepfakes se hicieron realidad: una nueva aplicación ofrecida de forma gratuita en Windows brindaba a los usuarios la capacidad de quitar la ropa de las fotos cargadas de mujeres . La aplicación, llamada DeepNude, fue descubierta por primera vez por Motherboard. Se cerró solo horas después de que el medio publicó su primer artículo .

Menos de una semana después, entró en vigencia una nueva ley de falsificación profunda en Virginia. Los legisladores estatales lo aprobaron meses antes, en marzo.

Única en comparación con las leyes estatales de deepfake posteriores, la ley de Virginia no creó un nuevo delito para la creación y distribución de deepfake, sino que amplió su ley actual sobre el porno de venganza para incluir material de deepfakes. Ahora, en Virginia, cualquiera que comparta o venda imágenes y videos de desnudos o sexuales, incluidos los falsos, con la intención de «coaccionar, acosar o intimidar», es culpable de un delito menor de Clase 1.

Dodge dijo que apreciaba el enfoque de Virginia.

«La ley de Virginia es interesante porque es la única ley que ha tomado la sección existente del código penal de pornografía no consensuada y la ha modificado para incluir la pornografía profunda», dijo Dodge, «y eso me gusta».

Poco después de que Virginia promulgara su ley de falsificación profunda, Texas la aprobó y aprobó una ley que se centró en la interferencia electoral. De acuerdo con la ley, el acto de crear y compartir un video falso dentro de los 30 días de una elección con la intención de «dañar a un candidato o influir en el resultado de una elección» es ahora un delito menor de Clase A. La definición de la ley de una falsificación profunda es amplia: un video «creado con la intención de engañar, que parece representar a una persona real realizando una acción que no ocurrió en la realidad».

La ley ya recibió un caso de uso de alto perfil: el alcalde de Houston Sylvester Turner le pidió al fiscal de distrito que investigara la campaña de su oponente para hacer un anuncio de televisión que mostrara fotos editadas del alcalde, junto con un texto supuestamente falso que envió.

En octubre, California siguió tanto a Virginia como a Texas, aprobando dos leyes: una para prohibir la pornografía no consensuada de pornografía profunda y la otra para prohibir las falsificaciones profundas utilizadas para afectar el resultado de una próxima elección.

El autor de los proyectos de ley, el miembro de la Asamblea Marc Berman, dijo que escribió el último proyecto de ley después de que alguien creó y compartió un video alterado de Nancy Pelosi, que parecía mostrarla como discapacitada o borracha. Pero el video distaba mucho de ser falso. En cambio, su creador simplemente tomó imágenes del Presidente de la Cámara de Representantes y lo desaceleró, haciendo lo que ahora se conoce como una «falsificación barata».

Sin embargo, Ferraro dijo que tratar de aprobar legislación para evitar falsificaciones baratas será difícil.

«Va a ser muy difícil redactar un proyecto de ley que capture todos los llamados falsos baratos, porque la edición regular de videos podría caer dentro de una definición que es demasiado amplia», dijo Ferraro, explicando que las entrevistas estándar de transmisión diaria incorporan innumerables ediciones que pueden cambiar la impresión general de la entrevista para el público, incluso cuando las ediciones se realizan por razones no maliciosas, como separarse de un candidato político para dar un discurso para mostrar a su audiencia.

«Ese es el tipo de problema de la fake barato: la edición simple puede dar impresiones muy diferentes, en función del contenido», dijo Ferraro.

Mientras California, Texas y Virginia trabajan en la aplicación de sus leyes, Maryland, Nueva York y Massachusetts están considerando sus propios enfoques para legislar falsificaciones profundas.

El 16 de enero, Maryland presentó un proyecto de ley dirigido a las falsas influencias políticas. El proyecto de ley, que tiene una audiencia programada para principios de febrero, prohíbe que las personas «influyan o intenten influir intencionalmente o deliberadamente en la decisión de un votante de ir a las urnas o de votar por un candidato en particular mediante la publicación, distribución o difusión de una falsificación profunda». en línea dentro de los 90 días de una elección «.

La legislación de falsificación profunda de Massachusetts penalizaría el uso de falsificaciones profundas por «conducta criminal o tortuosa», lo que en efecto haría ilegal el uso de falsificaciones profundas junto con la realización de otros delitos. Entonces, ¿cometer fraude? Eso es un crimen ¿Pero desplegar una imitación profunda para ayudar a cometer ese fraude? Bueno, eso también sería un crimen.

Finalmente, en Nueva York, los legisladores estatales están tratando de legislar un aspecto diferente de las falsificaciones profundas y las recreaciones digitales: los derechos a la imagen digital de un individuo. El proyecto de ley se presentó el año pasado, expiró y luego se volvió a presentar. Protegería la imagen digital de una persona 40 años después de su muerte. El proyecto de ley también crearía un registro para los familiares sobrevivientes para registrar su control de la semejanza de un pariente fallecido.

La Screen Actors Guild ‐ American Federation of Television and Radio Artists apoyó el proyecto de ley.

«La sólida comunidad de desempeño del estado no debería tener que soportar años de litigios costosos para proteger sus medios de vida básicos y su legado artístico», dijo el grupo .

Los principales estudios cinematográficos, incluidos Disney, Warner Bros. y NBCUniversal se opusieron al proyecto de ley. Aunque los cineastas de Disney dijeron que recibieron la aprobación del patrimonio del difunto actor Peter Cushing para usar su imagen en la película de 2017 Star Wars: Rogue One, no es difícil ver por qué la aprobación requerida para futuros proyectos sería un obstáculo para Hollywood.

¿Qué sigue?

La oposición a las leyes de falsificación profunda es clara: tales leyes podrían ser excesivas, desinformadas y, en su intento de regular un problema, en realidad pisotear los derechos protegidos de los estadounidenses.

La pregunta más importante es, ¿ha tenido éxito la oposición? En una palabra, no.

Texas aprobó su ley de falsificación de interferencias electorales sin votos de oposición registrados ni en la Cámara ni en el Senado (aunque dos miembros de la Cámara fueron un «sin voto» y cuatro se abstuvieron). De manera similar, California aprobó su ley de falsificación de interferencia electoral en una votación de 67-4 en la Asamblea y una votación de 29-7 en el Senado . Después de la votación, la ACLU de California escribió al gobernador de California, pidiéndole un veto. No funcionó.  

Sin embargo, en Washington, DC, la situación podría ser diferente, ya que el mes pasado se aprobaron nuevas reglas federales sobre la investigación de falsificación profunda. Esas reglas requieren que el Director de Inteligencia Nacional presente un informe al Congreso en 180 días sobre las capacidades de falsificación profunda en todo el mundo y las posibles contramedidas en los Estados Unidos. Hasta que se presente ese informe, los senadores y representantes podrían tener poco apetito para avanzar.

Al igual que el alcance general de las leyes de privacidad de datos el año pasado, el futuro de las leyes falsas depende de la voluntad política, la popularidad y si los legisladores tienen tiempo para redactar y aprobar dicha legislación. Es, después de todo, un año electoral.