Ética del ecosistema híbrido cognitivo entre el espacio físico y el ciberespacio. Aproximación desde el caso de la inteligencia artificial

Gómez de Ágreda, Ángel (2021). Ética del ecosistema híbrido cognitivo entre el espacio físico y el ciberespacio. Aproximación desde el caso de la inteligencia artificial. Thesis (Doctoral), E.T.S.I. Industriales (UPM). https://doi.org/10.20868/UPM.thesis.67495.

Description

Title: Ética del ecosistema híbrido cognitivo entre el espacio físico y el ciberespacio. Aproximación desde el caso de la inteligencia artificial
Author/s:
  • Gómez de Ágreda, Ángel
Contributor/s:
  • Feijóo González, Claudio
Item Type: Thesis (Doctoral)
Date: 2021
Subjects:
Freetext Keywords: ética; inteligencia artificial; entorno cognitivo; desinformación; uso dual; percepción emocional; neurociencia; conflicto = ethics; artificial intelligence; cognitive environment; misinformation; dual use; emotional perception; neuroscience; conflict
Faculty: E.T.S.I. Industriales (UPM)
Department: Ingeniería de Organización, Administración de Empresas y Estadística
Creative Commons Licenses: Recognition - No derivative works - Non commercial

Full text

[img] PDF - Users in campus UPM only until 25 December 2021 - Requires a PDF viewer, such as GSview, Xpdf or Adobe Acrobat Reader
Download (3MB)

Abstract

La presencia constante de los sensores y dispositivos informáticos en la vida de las personas junto a la conectividad permanente suponen la aparición de un entorno de base digital que se fusiona con el material en la conformación del ecosistema en el que se produce la actividad humana contemporánea. Conceptos como el “entorno cognitivo”, la “infosfera” o la “noosfera” pretenden describir este escenario híbrido. Siendo así que la actividad social y política ha pasado a incluir esta nueva dimensión, los valores éticos y las normas jurídicas que la regulen deben también incorporar sus condicionantes. Disciplinas como la neurociencia o aquellas que configuran lo que se conoce como inteligencia artificial tienen la capacidad para alterar las percepciones y emociones que se basan en esta dimensión cognitiva. Dicha alteración afecta a derechos humanos fundamentales como la libertad o la autonomía y, por supuesto, a la dignidad humana. Todas ellas tienen aplicaciones de carácter dual, como herramientas en beneficio de la humanidad y como armas capaces de dañarla. La introducción de esta perspectiva resulta fundamental para establecer los límites que deben aplicarse a esas tecnologías desde su diseño hasta su desarrollo y empleo. Los códigos éticos desarrollados hasta el momento se centran en la identificación de los principios aplicables a cada una de las disciplinas, en lugar de hacerlo sobre aquellos que afectan a la sociedad resultante de su utilización. En el presente trabajo se parte del estudio de más de un centenar de códigos éticos elaborados en torno a la inteligencia artificial para extractar los principios comunes a todos ellos. Al objeto de introducir el elemento dual en su empleo se dedica también un capítulo a los principios identificados en el uso de los sistemas de armas autónomos letales como caso más extremo de aplicación de la inteligencia artificial. Sin embargo, más allá de los efectos cinéticos y letales que puedan tener los sistemas de armas, la manipulación de las percepciones y las emociones mediante el empleo de técnicas basadas en tecnologías digitales permite un condicionamiento de la libertad que también está siendo explotado comercial y políticamente. Estas técnicas publicitarias tienen una traslación directa al entorno militar y de inteligencia, y presentan una amenaza cierta al ejercicio de la libertad. La capacidad de manipulación discreta y ubicua está asociada a la creciente dependencia de los dispositivos vinculados al cuerpo. La generación de realidades sintéticas con la introducción de la realidad virtual o la aumentada no hará sino agravar esta tendencia. La adaptación de la ética y el derecho a esta nueva realidad es, por consiguiente, necesaria para que se adecúen al ecosistema híbrido en que realmente tiene lugar la actividad humana. ----------ABSTRACT---------- The continued presence of sensors and computing devices in people's lives, along with permanent connectivity, implies the emergence of a digital-based environment that merges with the material one in the shaping of the ecosystem in which contemporary human activity takes place. Concepts such as the "cognitive environment", the "infosphere" or the "noosphere" are intended to describe this hybrid scenario. Since social and political activity has come to include this new dimension, the ethical values and legal norms that regulate it must also incorporate its conditioning factors. Disciplines such as neuroscience or those that make up what is known as artificial intelligence have the capacity to alter perceptions and emotions based on this cognitive dimension. Such alteration affects fundamental human rights such as freedom or autonomy and, of course, human dignity. All of them have dual applications, both as tools for the benefit of humanity and as weapons capable of harming it. The introduction of this perspective is essential to establish the limits that must be applied to these technologies from their design to their development and use. The ethical codes developed so far have focused on identifying the principles applicable to each of the disciplines, rather than on those that affect society as a result of their use. This paper takes as its starting point the study of more than a hundred ethical codes developed in the field of artificial intelligence in order to extract the shared principles of all of them. In order to introduce the dual element in their use, a chapter is also devoted to the principles identified in the use of lethal autonomous weapons systems as the most extreme case of application of artificial intelligence. However, beyond the kinetic and lethal effects that weapon systems can have, the manipulation of perceptions and emotions through the use of techniques based on digital technologies enables a conditioning of freedom that is also being exploited commercially and politically. These advertising techniques have a direct translation to the military and intelligence environment, and present a certain threat to the exercise of freedom. The capacity for unobtrusive and ubiquitous manipulation is associated with the increasing reliance on body-linked devices. The generation of synthetic realities with the introduction of virtual or augmented reality will only exacerbate this trend. The adaptation of ethics and law to this new reality is therefore imperative for them to adapt to the hybrid ecosystem in which human activity actually takes place.

More information

Item ID: 67495
DC Identifier: https://oa.upm.es/67495/
OAI Identifier: oai:oa.upm.es:67495
DOI: 10.20868/UPM.thesis.67495
Deposited by: Archivo Digital UPM 2
Deposited on: 30 Jun 2021 05:10
Last Modified: 30 Jun 2021 05:10
  • Logo InvestigaM (UPM)
  • Logo GEOUP4
  • Logo Open Access
  • Open Access
  • Logo Sherpa/Romeo
    Check whether the anglo-saxon journal in which you have published an article allows you to also publish it under open access.
  • Logo Dulcinea
    Check whether the spanish journal in which you have published an article allows you to also publish it under open access.
  • Logo de Recolecta
  • Logo del Observatorio I+D+i UPM
  • Logo de OpenCourseWare UPM