DeepFake

Este elemento es una ampliación de las guías y los cursos de Lawi. Ofrece hechos, comentarios y análisis sobre este tema. [aioseo_breadcrumbs]

Crisis para la Privacidad

Los acontecimientos recientes demuestran ampliamente que las afirmaciones falsas — incluso las absurdas — pueden ser vendidas con éxito sin precedentes hoy en día gracias a una combinación de ubicuidad y viralidad en los medios sociales, sesgos cognitivos, burbujas de filtros y polarización de grupos.

Informaciones

Los daños resultantes son significativos para los individuos, las empresas y la democracia.[rtbs name=”democracia”] El reconocimiento tardío del problema ha estimulado una variedad de esfuerzos para hacer frente a esta ilustración más reciente de la decadencia de la verdad, y al principio se ruboriza que parece haber razón para el optimismo. Por desgracia, el problema pronto puede dar un giro significativo para peor gracias a las falsificaciones profundas.

Acostumbrarse a escuchar esa frase. Se refiere a la manipulación digital del sonido, las imágenes o el vídeo para suplantar a alguien o hacer que parezca que una persona hizo algo — y hacerlo de una manera que es cada vez más realista, hasta el punto de que el observador sin ayuda no puede detectar la falsificación. (Tal vez sea de interés más investigación sobre el concepto). Piense en ello como una variación destructiva de la prueba de Turing: imitación diseñada para engañar y engañar en lugar de emular y iterar.

Deep Fakes y daños a las personas

Alimentado por la inteligencia artificial, la suplantación digital está aumentando.

Detalles

Los algoritmos de aprendizaje automático (a menudo redes neuronales) combinados con el software de mapeo facial permiten la fabricación barata y fácil de contenido que secuestra la identidad de uno: voz, cara, cuerpo. La tecnología falsa profunda inserta las caras de los individuos en videos sin su permiso. El resultado es “videos creíbles de gente haciendo y diciendo cosas que nunca hicieron”.

No es de sorprender que este concepto haya sido rápidamente apalancado para fines sórdidos. La última moda es videos de sexo falso con celebridades como Gal Gadot y Emma Watson. Aunque las escenas de sexo parezcan realistas, no son porno consensuales. Reclutar individuos (más a menudo mujeres) en el porno falso socava su agencia, los reduce a objetos sexuales, engendra sensación de vergüenza y vergüenza, e inflige daño reputacional que puede devastar carreras (especialmente para la gente común). Lamentablemente, los acosadores cibernéticos están seguros de usar videos sexuales falsos para atormentar a las víctimas.

Deep Fakes como una amenaza a la seguridad nacional y la democracia

Las deep fakes suben las estacas para el fenómeno de la “noticia falsa” de la manera dramática (absolutamente literalmente). La propagación de deep fakes amenazará con erosionar la confianza necesaria para que la democracia funcione eficazmente, por dos razones. Primero, y lo más obvio, el mercado de ideas será inyectado con una forma particularmente peligrosa de falsedad.Entre las Líneas En segundo lugar, y más sutilmente, el público puede estar más dispuesto a no creer los hechos verdaderos pero incómodos. Los sesgos cognitivos ya fomentan la resistencia a tales hechos, pero la conciencia de deep fakes ubicuas puede mejorar esa tendencia, proporcionando una excusa preparada para ignorar las pruebas indeseadas. Como mínimo, a medida que los videos falsos se generalizan, el público puede tener dificultades para creer lo que sus ojos (o oídos) les están diciendo, incluso cuando la información es bastante real.

En un informe, el centro Belfer destacó las implicaciones de seguridad nacional de las deep fakes. Por ejemplo, un adversario podría adquirir documentos reales (y sensibles) a través del ciber-espionaje y filtrar los documentos reales junto con falsificaciones soportadas por “filtrado” de audio y video falsificados. De manera similar, la confianza pública puede ser sacudida, no importa cuan creíble sea la refutación del gobierno de los videos falsos. Empeorando las cosas, las organizaciones de noticias pueden refrenar su acción de informar rápidamente acontecimientos reales y perturbadores por temor a que la evidencia de ellos resultara ser falsa (y uno puede imaginar a alguien tratando de atrapar una organización de noticias exactamente de esta manera).

Los límites de las soluciones tecnológicas y jurídicas

La respuesta ideal a la amenaza de deep fakes sería el desarrollo simultáneo y la difusión del software capaz de marcar rápidamente y confiablemente deep fakes, y después de mantener paso con innovaciones en tecnología deep fake. Si esa tecnología existe y se implementa a través de las principales plataformas de medios sociales especialmente, iría de alguna manera hacia el mejoramiento de los daños a gran escala descritos anteriormente, aunque podría hacer poco para proteger a las personas de abusos con deep fakes que no requieren distribución a escala a través de una plataforma de medios sociales. Desafortunadamente, no está claro que la defensa frente a este se esté manteniendo el ritmo por ahora.

Sin duda, la ley podría tener algún papel disuasorio y compensatorio, al menos en cuanto a los actores domésticos y otros que podrían ser llevados al alcance del proceso legal de numerosos países, occidentales o no. La ley de difamación de Estados Unidos, por ejemplo, proporciona reparación por falsedades que saben o temerarias que dañan la reputación de los funcionarios públicos o las figuras públicas, y el derecho penal de varias maneras podría ser llevado a la carga.

Derecho de Publicidad

El valor disuasorio de la ley, sin embargo, sería modesto en el mejor de los caso porque la sección 230 de la ley de decencia en las comunicaciones inmuniza de (la mayoría de) la responsabilidad de las entidades mejor situadas para minimizar los daños de manera eficiente: las plataformas.

Pero de hecho, una laguna que se construyó en la sección 230 inmunidad — la excepción de la propiedad intelectual — podría ser útil para combatir las falsificaciones profundas y otras noticias falsas de la próxima generación. (Tal vez sea de interés más investigación sobre el concepto). Las víctimas de falsificaciones profundas pueden traer con éxito demandas de “derecho de publicidad” contra las plataformas en línea, forzando así a las plataformas a vigilar sistemáticamente ese contenido. Como mínimo, es probable que tales reclamaciones de derecho de publicidad generen litigios cruciales

Las peores instancias de las víctimas que son objeto de falsas noticias encajan cómodamente dentro de las reivindicaciones clásicas de agravio, como la difamación. (Tal vez sea de interés más investigación sobre el concepto).Si, Pero: Pero si bien una reclamación por difamación podría ser presentada contra el proveedor individual de noticias falsas, demandar a cada Troll de Internet es tremendamente impracticable.Entre las Líneas En la mayoría de los casos, el único objetivo efectivo de una demanda por difamación para las noticias falsas sería la plataforma en línea, como Facebook o Twitter. La captura es que el Congreso ha inmunizado categóricamente a las plataformas de tal responsabilidad en 1996 con la sección 230 (c) (1) de la ley de decencia en las comunicaciones, indicando: “ningún proveedor o usuario de un servicio informático interactivo será tratado como el editor o ponente de cualquier información proporcionada por otro proveedor de contenido de información. (Tal vez sea de interés más investigación sobre el concepto). ” En otras palabras, cuando un póster de Facebook comparte noticias falsas difamatorias, el póster (el “proveedor de contenido de información”) y no Facebook, será tratado como el editor que es responsable por el agravio.

Pero la sección 230 tiene algunas excepciones notables, incluyendo la preservación de la responsabilidad por una violación de cualquier “estatuto criminal federal,” § 230 (e) (1), y la salvedad de que “[n] ada en esta sección se interpretará para limitar o ampliar cualquier ley referente a propiedad, “§ 230 (e) (2). La excepción de propiedad intelectual crea una apertura — aunque solo sea una grieta — para mantener las plataformas en línea responsables de ciertos tipos de falsificaciones profundas notorias publicadas por terceros en sus sitios.

La infracción de derechos de autor es una excepción a la sección 230 inmunidad, pero varios factores limitan su utilidad en la lucha contra las falsificaciones profundas y otros fraudes digitales. Puede ser difícil identificar o probar la propiedad del contenido subyacente del cual se sintetizan las falsificaciones. O los propietarios de las imágenes, que a menudo no son la persona que aparece en el video, puede tener poco interés en presentar una queja.

Detalles

Por último, en algunas circunstancias, un vídeo falso puede considerarse “transformador” y, por lo tanto, no está protegido por los derechos de autor.

Pero hay otra forma de propiedad intelectual que no se convierte en propiedad de una imagen o trabajo en particular: el “derecho de publicidad”, que, como un tribunal explicó, “es un derecho de propiedad intelectual de origen reciente que se ha definido como el derecho inherente de cada ser humano para controlar el uso comercial de su identidad. ” El derecho de publicidad es una reclamación de la ley estatal reconocida en la mayoría de los Estados, ya sea por ley o derecho común (expresión que hace referencia en los países anglosajones normalmente al sistema de “common law”) (con una ligera variación entre los Estados), y es frecuentemente invocada por celebridades que buscan impedir que una empresa utilice no autorizado sus imágenes o su identidad en un Anuncio. (para mayor detalle, vea la hoja de ruta de Jennifer Rothan a la derecha de la publicidad.)

¿podría una víctima de una falsificación profunda Publicada en Facebook o Twitter traer una reclamación acertada de derecho de publicidad contra la plataforma para apropiarse de “el uso comercial de su identidad”? Esta es una pregunta difícil que aún no se ha probado en los tribunales. Tal afirmación tendría que superar tres obstáculos básicos: (1) el derecho a la publicidad en la sección 230 de la excepción de la propiedad intelectual; (2) contar falsificaciones profundas como “uso comercial” de la identidad para reclamaciones de derecho de publicidad; y (3) protecciones de la primera enmienda sobre la libertad de expresión (véase; y también libertad de creación de medios de comunicación, libertad de comunicación, libertad de información, libertad de cátedra y la Convención sobre el Derecho Internacional de Rectificación, adoptada en Nueva York el 31 de marzo de 1953).

En primer lugar, el mayor obstáculo para equiparar el derecho de publicidad a la excepción de la propiedad intelectual de la sección 230 es el Noveno circuito. El Tribunal ha interpretado “propiedad intelectual” en la sección 230 para significar solo “propiedad intelectual federal”.

Una Conclusión

Por lo tanto, un derecho de reclamación publicitaria, que está fundamentado en la ley estatal, no puede perforar la sección 230 de la inmunidad en el Noveno circuito, que representa una gran parte del país.Si, Pero: Pero otros tribunales, incluido el primer circuito (en dicta) y el distrito sur de Nueva York, no estuvieron de acuerdo con la opinión del Noveno circuito y aplicaron la excepción de propiedad intelectual a las reclamaciones federales y estatales.

Sin embargo, incluso si una ley estatal de propiedad intelectual puede superar la sección 230, uno podría argumentar que el derecho de publicidad es un problema de privacidad, no un derecho de propiedad intelectual en absoluto.Si, Pero: Pero el Tribunal Supremo, en su decisión 1977 en Zacchini v. Scripps-Howard Broadcasting Co., describió el derecho de publicidad como “estrechamente análogo a los objetivos de la ley de patentes y derechos de autor”. Desde entonces, varios tribunales federales han señalado o han sostenido expresamente que el derecho de publicidad es un derecho de propiedad intelectual en el sentido de la sección 230 excepción. (Tal vez sea de interés más investigación sobre el concepto). Fuera del Noveno circuito, entonces, muchas afirmaciones de derecho de publicidad probablemente serían capaces de perforar la inmunidad de la sección 230.

En segundo lugar, el derecho de publicidad solo protege el uso comercial de la propia identidad, más comúnmente en los anuncios publicitarios. Las noticias falsas, especialmente de carácter político, no son comerciales.Si, Pero: Pero es difícil negar que las plataformas en línea como Facebook y Twitter están haciendo uso comercial de tales mensajes. Después de todo, su modelo de negocio depende de clics y vistas.

En un caso reciente en el que un propietario de una empresa demandó a Facebook por colocar anuncios junto a una página no autorizada crítica de su negocio, un juez del estado de California dictaminó que la reclamación de derecho de publicidad era viable bajo la excepción de propiedad intelectual de la sección 230 porque ” La cartera financiera de Facebook se basa en su base de usuarios. ” Los comentaristas reaccionaron ante esta decisión con alarma, y el Tribunal de apelación eventualmente (finalmente) invirtió sobre la base de que Facebook meramente “mostraba anuncios no relacionados de anunciantes de Facebook adyacentes a” imágenes del demandante “publicado por terceros”, por lo que la plataforma en realidad no “usar [] su nombre o semejanza de ninguna manera.”

Sin embargo, Facebook hizo uso de la semejanza de la persona al permitir que se publique en su sitio, sobre el cual ejerce el control editorial como periódicos y revistas-y que el control editorial es la razón misma sección 230 era necesario para inmunizar las plataformas de ordinario reclamaciones de agravio. El hecho de que la semejanza fuera “publicada por terceras partes” solo importa para la sección 230 protección, que excluye expresamente las reivindicaciones de propiedad intelectual. Si bien en este caso en particular, Facebook probablemente estaría protegido de la responsabilidad en virtud de las excepciones ampliamente interpretadas “de interés público” y de “intereses públicos” al derecho de publicidad (que se discute justo debajo), es fácil llegar a un escenario en el que una plataforma podría ser responsable bajo esta teoría. Por ejemplo, Imagine un video que representa convincentemente a Donald Trump o a su próximo oponente político realizando algún acto atrozmente ilegal o humillante. El video sería visto billones de veces. Las plataformas en línea que acogen este vídeo viral se cobrarían masivamente por la identidad maltratada de la víctima, lo que haría posible una reclamación de derecho de publicidad.

Pero, en última instancia, la limitación más significativa del derecho de publicidad probablemente no sea la sección 230 sino la primera enmienda.

Detalles

Las excepciones al derecho de publicidad fueron desarrolladas por los tribunales del estado de Nueva York a principios de 1900 a fin de evitar “una injerencia inconstitucional con la libertad de prensa (véase; y también libertad de creación de medios de comunicación, libertad de imprenta, libertad de expresión, libertad de comunicación, libertad de información, libertades civiles, libertad de cátedra y la Convención sobre el Derecho Internacional de Rectificación, adoptada en Nueva York el 31 de marzo de 1953)”, contó William Prosser en un pasaje aprobado por la Corte Suprema de los Estados Unidos. Asimismo, el Tribunal Supremo de California afirmó en Comedy III Productions, Inc. v. Gary Saderup, Inc. que “el derecho de publicidad no puede, de acuerdo con la primera enmienda, ser un derecho a controlar la imagen de la celebridad mediante la censura de representaciones desagradables”. (para el análisis del derecho de publicidad y la primera enmienda, véanse estos artículos por Eugene Volokh y Eric Johnson.)

Por esta razón, los tribunales del estado de Nueva York han sostenido que las protecciones legales de publicidad del estado “no se aplican a los reportes de eventos de interés público o asuntos de interes publico”. Otras jurisdicciones han seguido el ejemplo, ya sea a través de los tribunales o, como en California, con un lenguaje estatutario explícito. Varios tribunales señalan la reexpresación (tercera) de la competencia desleal § 47, que explica que “el uso de la identidad de una persona principalmente con el propósito de comunicar información o expresar ideas no es generalmente recurrible como una violación del derecho de la persona de publicidad “.

Pero estas excepciones no son ilimitadas. La corte de Apelaciones de Nueva York ha explicado, más recientemente en el Mensajero v. Gruner + Jahr, que un libro, artículo, o película sobre una persona “puede estar tan infectado con la ficción, la dramatización o el adorno que no puede ser dicho para cumplir el propósito del periodístico excepción “. Esto describe acertadamente las falsificaciones profundas más siniestras y los especímenes de noticias falsos de próxima generación similares, que serán “infectados tan con la ficción” que mienten más allá de la excepción de interés periodístico al derecho de la publicidad.

Tampoco serán protegidos directamente por la primera enmienda de los tiempos de Nueva York v. Sullivan y Hustler v. Falwell, incluso cuando se dirigen a los políticos u otras figuras públicas: tal desinformación se publica generalmente con “malicia real” o con “desprecio imprudente de si era falso o no “. Si asumimos que las plataformas en línea tendrán la capacidad tecnológica para distinguir entre videos genuinos y falsificaciones, entonces no eliminar las falsificaciones dentro de un período de tiempo razonable parecería elevarse a descuido imprudente.

Basado en la experiencia de varios autores, mis opiniones, perspectivas y recomendaciones se expresarán a continuación (o en otros lugares de esta plataforma, respecto a las características en 2026 o antes, y el futuro de esta cuestión):

Pero si no hay una tecnología de autenticación efectiva, entonces la responsabilidad potencial de las plataformas en línea se reduciría a casi nada. Esto se debe a que el “espacio de respiración” constitucional de la libertad de expresión (véase; y también libertad de creación de medios de comunicación, libertad de comunicación, libertad de información, libertad de cátedra y la Convención sobre el Derecho Internacional de Rectificación, adoptada en Nueva York el 31 de marzo de 1953), tal como lo articula la Corte Suprema en el New York Times y los casos conexos, probablemente impediría forzar a las plataformas en línea a imponer una censura global solo porque las falsificaciones están demasiado bien disfrazadas. Estos precedentes enseñan que cualquier regla de responsabilidad que conduzca a un “efecto escalofriante” sustancial en la libertad de expresión (véase; y también libertad de creación de medios de comunicación, libertad de comunicación, libertad de información, libertad de cátedra y la Convención sobre el Derecho Internacional de Rectificación, adoptada en Nueva York el 31 de marzo de 1953) sería inconstitucional. Disidente en el caso Zacchini, el juez Powell advirtió sobre las “implicaciones inquietantes” de la “autocensura mediática” a la sombra de la excesiva responsabilidad de derecho de publicidad. Esa distopía se convertiría en realidad si las plataformas se enfrentaran a una responsabilidad generalizada por violaciones de los derechos de publicidad sin una herramienta eficaz para identificar videos falsos.

Es cierto que el derecho a la publicidad es un dispositivo extraño y torpe con el que desarmar noticias falsas de la próxima generación. (Tal vez sea de interés más investigación sobre el concepto). Fue diseñado para evitar un mal totalmente distinto, y no está claro si realmente podría adaptarse a este nuevo propósito. Un enfoque discutiblemente mejor sería que el Congreso enmendara directamente la sección 230 al revocar de manera estricta la inmunidad de las plataformas en línea contra las reclamaciones por agravios en casos de falsificación profunda donde las plataformas no utilizan la mejor tecnología de autenticación disponible, o para pasar otras legislación que se ocupa de la cuestión. (Tal vez sea de interés más investigación sobre el concepto).Si, Pero: Pero a menos que y hasta que eso suceda, el derecho de publicidad puede ser el mejor recurso para las víctimas de la próxima ola de noticias falsas.

La cuestión más preocupante con el enfoque de derecho de publicidad es si realmente queremos convertir Facebook y Twitter en, como dijo Evelyn Douek, “los árbitros de la verdad”. Ese pensamiento dará vuelta a los estómagos.Si, Pero: Pero afortunadamente, el derecho de publicidad no empujaría tan lejos. Las plataformas en línea serían responsables de — y por lo tanto, la policía preventiva — solo la apropiación indebida comercial de la identidad, que no cubre el vasto ecosistema de mentiras de variedades de jardín que actualmente prosperan en línea. Por ejemplo, el derecho de publicidad no protege el uso “fugaz e incidental” de la imagen de uno y no puede ser aplicado de una manera que sofoca el generoso “espacio de respiración” de la primera enmienda. Los tribunales tendrán que averiguar cómo hacer que funcione.

El mejor enfoque sería que los tribunales reconocieran las excepciones de interés público y de gran amplitud para el contenido en línea, permitiendo a las plataformas hospedar información ordinaria no verificada sin temor a la responsabilidad, pero haciendo cumplir el derecho de publicidad contra suplantaciones tecnológicamente engañosas que generan ingresos para plataformas online, como falsificaciones profundas. Si se adoptara esta norma, no se requeriría que las plataformas en línea determinaran si los puestos establecen reclamaciones verdaderas o falsas, sino solo si el contenido es tecnológicamente genuino o falsificado, es decir, si el vídeo o el audio han sido artificialmente manipulado de alguna manera significativa que es fundamentalmente engañoso.

Por supuesto, este enfoque funcionará solo si las plataformas en línea desarrollan la capacidad de marcar las falsificaciones de manera eficiente, ya sea con herramientas forenses digitales que mantienen el ritmo suficiente para detectar las falsificaciones o, como ha argumentado Herb Lin, al depender de un sistema de “firmas digitales”. Es imposible saber si la tecnología de autenticación efectiva existirá.Si, Pero: Pero si y cuando esa tecnología está disponible, la ley debería obligar a las plataformas en línea a usarlas a su mejor capacidad.Entre las Líneas En última instancia, cualquier solución legal viable para la próxima generación de noticias falsas a través del derecho de publicidad dependerá tanto de la capacidad de las plataformas en línea para marcar eficazmente las falsificaciones y la capacidad de los tribunales para hacer cumplir el derecho de publicidad de una manera que protege libertad de expresión (véase; y también libertad de creación de medios de comunicación, libertad de comunicación, libertad de información, libertad de cátedra y la Convención sobre el Derecho Internacional de Rectificación, adoptada en Nueva York el 31 de marzo de 1953).

Autor: Williams

▷ Esperamos que haya sido de utilidad. Si conoces a alguien que pueda estar interesado en este tema, por favor comparte con él/ella este contenido. Es la mejor forma de ayudar al Proyecto Lawi.