Carbajo-Núñez Martín ,
IA y Ética, (9.04.2024), (28),
in
Blog: www.cssr.news, 28-ES (2024) p. 2
.
Las «entusiasmantes oportunidades y graves riesgos»[1] que ofrece la Inteligencia Artificial (IA) generativa, junto con su rápida adopción, han puesto en alerta a la comunidad internacional. ChatGPT salió al mercado el 30 de noviembre de 2022, y dos meses después ya había alcanzado los 100 millones de usuarios activos, «lo que la convierte en la aplicación de consumo de más rápido crecimiento de la historia»[2].
El 22 de marzo de 2023, más de 1.000 expertos en tecnología, investigadores e inversores firmaron una carta abierta[3] en la que advertían de los «profundos riesgos para la sociedad» que plantean los sistemas gigantes de IA. La carta pedía la suspensión de su desarrollo durante seis meses. Entre los firmantes destacan especialistas de alto nivel como Yoshua Bengio, y empresarios como Elon Musk, cofundador de OpenAI, y Steve Wozniak, cofundador de Apple[4].
La necesidad de la ética
El enfoque del Papa Francisco sobre la IA es crítico, pero no pesimista. Nos invita a «despejar el terreno de lecturas catastrofistas» y, al mismo tiempo, insta a la comunidad internacional «a trabajar unida para adoptar un tratado internacional vinculante, que regule» su desarrollo y uso[5].
Además, insiste en que «la sola reglamentación no es suficiente». Sin ética, podemos volvernos ricos en tecnología y pobres en humanidad. Por ello, insta a «instituir organismos encargados de examinar las cuestiones éticas emergentes» (JMP 2024, 2). Hay que proteger valores humanos fundamentales, como la inclusión, la responsabilidad, la transparencia, la equidad, la privacidad y la fiabilidad.
Los medios de comunicación y la IA son mucho más que «instrumentos inermes que requieren un uso adecuado»[6]. Su imparcialidad «es sólo aparente» (JCS 2014). Tienen una dimensión ética que está ligada a las decisiones tomadas por sus diseñadores y desarrolladores, así como a los objetivos e intereses de sus propietarios.
La encíclica Laudato si' ya afirmaba que los medios de comunicación responden a los intereses comerciales de las multinacionales que los controlan y, por tanto, promueven el mismo modelo capitalista de desarrollo que ha provocado la actual crisis socioambiental (cf. LS 47). No sólo condicionan nuestro estilo de vida, sino también el mundo en que vivimos y nuestro horizonte simbólico.
Muchos retos éticos
La IA tiende a reducir la realidad a lo que un ordenador puede procesar, dejando fuera dimensiones fundamentales de la experiencia humana. Según Jean Baudrillard, los nuevos medios de comunicación están creando sujetos autistas, que abandonan lo simbólico y lo sustituyen por signos e imágenes autorreferenciales. Peter Brooks añade que «la metáfora es un lenguaje que el ordenador no puede procesar, pero si faltaran las metáforas, quedarían reducidos al silencio los profetas, los sacerdotes, los teólogos».
«Grandes posibilidades de bien acompañan al riesgo de que todo se transforme en un cálculo abstracto, que reduzca las personas a meros datos, el pensamiento a un esquema, la experiencia a un caso, el bien a un beneficio, y sobre todo que acabemos negando la unicidad de cada persona y de su historia, disolviendo la concreción de la realidad en una serie de estadísticas» (JCS 2024).
El Papa Francisco afirma que la IA «está modificando radicalmente la información y la comunicación y, a través de ellas, algunos de los fundamentos de la convivencia civil» (JCS 2024), tanto para bien como para mal. Cuando se utiliza mal, puede poner en peligro la dignidad de la persona humana. En efecto, al procesar todo fríamente, como código binario, la IA puede poner en peligro nuestra admiración por el misterio personal, exacerbar el individualismo egoísta y dejar «a un lado los valores esenciales de la compasión, la misericordia y el perdón» (JMP 2024, 5).
Una vez perdido el respeto por la intimidad humana, los errores sistémicos pueden multiplicarse fácilmente, exponiendo a las personas a formas de parcialidad, discriminación y exclusión digital. Tras introducir los datos personales en sus gigantescas bases de datos, las tecnologías de IA pueden eliminar «la posibilidad de que un individuo cambie y deje atrás el pasado « (PDM 2024, 5).
A nivel social, la IA puede promover la sociedad de la vigilancia continua, que socava la libertad y el pluralismo. De hecho, sin nuestro conocimiento, las tecnologías de IA pueden extraer y estructurar datos con fines comerciales o políticos, limitando así nuestro «ejercicio consciente de la libertad de elección». También puede utilizarse «en campañas de desinformación» destinadas a condicionar la opinión pública e interferir en las elecciones (JMP 2024).
El Papa Francisco nos invita a reflexionar sobre cómo usar la IA para promover un ambiente en el que se preserve el pluralismo y se respete la complejidad de la realidad. El riesgo, dice, es que las fuentes se reduzcan a una sola, fomentando así un enfoque único, desarrollado sobre la base de un algoritmo. Además, la IA pone en peligro «la posesión de los datos y la propiedad intelectual» (JCS 2024).
Construyendo un futuro de esperanza
Entre tantos desafíos éticos, es importante recordar que la Iglesia «se sentiría culpable ante el Señor si no utilizara»[7] estos «maravillosos inventos de la técnica»[8] y si no tratara de evangelizar la cultura que crean.
De alguna manera, todos somos responsables de orientar la IA y los algoritmos para que la persona humana pueda tener una vida más plena. De hecho, «la finalidad y el sentido» de las operaciones de la IA dependen de nosotros (JMP 2024).
Debemos «leer e interpretar la novedad de nuestro tiempo y redescubrir el camino de una comunicación plenamente humana» (JCS 2024). Para ello, debemos cooperar «noblemente en esta empresa» y permanecer, «en el fondo de nuestro corazón incorruptible, sensibles al dolor que produce la destrucción y el proceder inhumano que se contiene en este mundo nuevo»[9].
Martín Carbajo-Núñez, ofm
[1] Francisco, «Mensaje para la 57 Jornada Mundial de la Paz» (JMP), 1.01.2024 (www.vatican.va. Acceso: 26.01.2024).
[2] https://www.reuters.com/technology/chatgpt-sets-record-fastest-growing-user-base-analyst-note-2023-02-01/
[5] Francisco, «Mensaje para la 58 Jornada Mundial de las Comunicaciones Sociales» (JCS), 24.01.2024 (www.vatican.va. Acceso: 26.01.2024).
[6] Pontificio Consejo para las Comunicaciones Sociales, «Un appello a tutti i religiosi contemplativi» (3.01.1973), in Internet: http://www.vatican.va/roman_curia/pontifical_councils/pccs/documents/rc_pc_pccs_doc_03061973_contemplative-religious_en.html.
[7] Pablo VI, « Evangelii nuntiandi. Exhortación apostólica» (8.12.1975), [ EN], n. 45, en AAS 58 (1976) 5-76.
[8] Concilio Vaticano II, « Inter mirifica. Decreto» (4.12.1963), n. 1, en AAS 56 (1964) 145-157.
[9] Guardini R., «Letters from Lake Como», quoted in JCS 2024.
(Fichero adjunto) |
