Una nueva taxonomía del uso de la imagen en la conformación interesada del relato digital. Deep fakes e inteligencia artificial

Abstract

Cualquier confrontación pretende la imposición, siquiera parcial, de los criterios y la voluntad propios sobre los del adversario. En los últimos años, las tecnologías digitales y la ciencia de datos se han combinado para favorecer la aparición de nuevas formas de control del discurso y para establecer potentes campañas de desinformación que constituyen un nuevo tipo de conflicto con características digitales. Precisamente, a partir de la bibliografía disponible y del trabajo directo de los autores en diversos grupos de expertos, este artículo estudia el uso de las imágenes –reales, alteradas o generadas artificialmente por completo– estáticas o en movimiento como uno de los medios más eficientes para alterar las percepciones y, por lo tanto, los relatos dentro del denominado ámbito cognitivo. Para ello, el artículo recoge de forma ordenada y exhaustiva la más reciente doctrina del entorno militar y de inteligencia relativa a las llamadas “operaciones de influencia”, desde una doble perspectiva tecnológica y sociológica. A partir de aquí, determina las diferencias entre las técnicas de desinformación tradicionales y las que incorporan tecnologías digitales y de inteligencia artificial sobre imágenes. El artículo propone una nueva taxonomía de doble entrada que refleje el grado de manipulación de las imágenes y el objetivo que se persigue con la desinformación. Este puede ser un medio para identificar y priorizar los casos más relevantes y, de aquí, adoptar las correspondientes contramedidas. Éstas se examinan en detalle para concluir que sólo una combinación de transparencia, formación del consumidor, tecnología y legislación puede contrarrestar el creciente uso de imágenes con contenido falseado. Abstract Any confrontation seeks the (partial) imposition of one party’s will on an adversary. In recent years, digital technologies and data science have combined to create new ways of controlling the narrative and carrying out powerful information or disinformation campaigns that are part of a new type of warfare with digital characteristics. In particular, based on a literature review and the direct work of authors in different expert groups, this paper studies the use of either static or moving images (real, altered, or wholly artificially generated) as one of the most efficient means of altering perceptions and thereby narratives in the so-called cognitive domain. To this aim, this article collects in an orderly and exhaustive way the most recent military and intelligence doctrine related to such “influence operations,” from a dual technological–sociological perspective. Based on this, the paper determines the differences between traditional disinformation techniques and those incorporating digital and artificial intelligence technologies in the form of images and video. The paper proposes a new double-entry taxonomy that can display the degree of image faking and the objective of disinformation. This helps to identify and prioritize the most relevant cases and thus adopt the most appropriate countermeasures. These are also examined in detail, leading to the conclusion that only a combination of transparency, consumer education, technology, and regulation can counteract the increasing use of images and video with false content.