Por primera vez un Papa en la cumbre del G7: «La IA es una herramienta fascinante pero tremenda»

El Papa Francisco participó este viernes en la cumbre del G7, de dirigentes de los países más importantes de la Tierra, que se celebra en Borgo Egnazia, Apulia, al sur de Italia. Se trata de la primera vez que un Papa acude a un evento de esta importancia.

"Ninguna máquina debería elegir jamás quitar la vida a un ser humano", dijo Francisco sobre la Inteligencia Artificial, en la sesión conjunta de la cumbre del G7. Una "herramienta fascinante" pero al mismo tiempo "tremenda", dado que es capaz de aportar beneficios o causar daños como todas las "herramientas" creadas por el hombre desde el principio.

Meloni elimina el aborto 

Veinte minutos antes de lo previsto, el helicóptero del Papa aterrizó a las 12:10 en el campo de deportes de Borgo Egnazia. Dando la bienvenida a Francisco estaba la Presidenta del Consejo de Ministros de la República Italiana, Giorgia Meloni. Con ella hubo un apretón de manos y algunas bromas: "Todavía vivos", dijo la primer ministro. "Somos dos", respondió Francisco. Y Meloni contestó: "Será un día largo pero hermoso".

Precisamente, Meloni ha conseguido eliminar el aborto como supuesto "derecho" de los borradores previos de la declaración conjunta de esta cumbre. Algo que ha generado tensiones con países como Francia, por ejemplo, que lo incluyó en su Constitución hace unos meses, y que quería reforzar el apoyo. 

Juntos, en un coche de golf, se dirigieron a la residencia privada donde, pasadas las 12:30 horas, comenzaron los cuatro primeros encuentros bilaterales con Kristalina Georgieva, directora general del Fondo Monetario Internacional, y el presidente ucraniano Zelensky, el Presidente francés, Emmanuel Macron, y el Primer Ministro canadiense Justin Trudeau.

A las 14.00 horas, el Papa Francisco se trasladó a la Sala Arena, donde estrechó la mano de todos los sentados en la mesa circular. Meloni introdujo el discurso del Papa, explicando la elección de Apulia como tierra que "históricamente ha representado un puente entre Oriente y Occidente, un lugar de diálogo, un mar de por medio con África y Oriente Medio".

A continuación, dio las gracias a "Su Santidad", cuya participación, remarcó, "hace inevitablemente histórico este encuentro". Sentado a la mesa con los líderes mundiales, el Papa compartió sus reflexiones sobre la Inteligencia Artificial, tema al que ya había dedicado su Mensaje para la 58ª Jornada Mundial de las Comunicaciones Sociales.

"En un drama como el de los conflictos armados, es urgente replantearse el desarrollo y la utilización de dispositivos como las llamadas 'armas autónomas letales' para prohibir su uso, empezando desde ya por un compromiso efectivo y concreto para introducir un control humano cada vez mayor y significativo", dijo el Papa.

El Papa aclaró cómo no hay prejuicios sobre el progreso científico y tecnológico, sino miedo a una deriva: "La ciencia y la tecnología son, por lo tanto, producto extraordinario del potencial creativo que poseemos los seres humanos", manifestó.

Para Francisco, hay que distinguir bien entre una máquina que "puede, en algunas formas y con estos nuevos medios, elegir por medio de algoritmos" y, por tanto, "una elección técnica entre varias posibilidades". "El ser humano, en cambio, no solo elige, sino que en su corazón es capaz de decidir", matizó el Pontífice.

Puedes escuchar aquí la intervención completa del Papa.

Entre los diversos riesgos, el Papa teme también el de un paradigma tecnocrático. Es precisamente aquí, dijo, donde la "acción política" se hace "urgente". Política... para muchos hoy "una mala palabra" que recuerda "errores", "corrupción", "ineficiencia de algunos políticos" a la que se añaden "estrategias que buscan debilitarla, sustituirla con la economía o dominarla con alguna ideología". Sin embargo, "¿puede funcionar el mundo sin política? ¿Puede haber un camino eficaz hacia la fraternidad universal y la paz social sin una buena política?", se pregunta el Papa. "¡No! ¡La política sirve!", es la respuesta.

********

A continuación, el discurso completo del Papa Francisco sobre la Inteligencia Artificial:

Me dirijo hoy a ustedes, líderes del Foro Intergubernamental del G7, con una reflexión sobre los efectos de la inteligencia artificial en el futuro de la humanidad.

La Sagrada Escritura atestigua que Dios ha dado a los hombres su Espíritu para que tengan “habilidad, talento y experiencia en la ejecución de toda clase de trabajos” (Ex 35,31)”. La ciencia y la tecnología son, por lo tanto, producto extraordinario del potencial creativo que poseemos los seres humanos.

Ahora bien, la inteligencia artificial se origina precisamente a partir del uso de este potencial creativo que Dios nos ha dado.

Dicha inteligencia artificial, como sabemos, es un instrumento extremadamente poderoso, que se emplea en numerosas áreas de la actividad humana: de la medicina al mundo laboral, de la cultura al ámbito de la comunicación, de la educación a la política. Y es lícito suponer, entonces, que su uso influirá cada vez más en nuestro modo de vivir, en nuestras relaciones sociales y en el futuro, incluso en la manera en que concebimos nuestra identidad como seres humanos.

El tema de la inteligencia artificial, sin embargo, a menudo es percibido de modo ambivalente: por una parte, entusiasma por las posibilidades que ofrece; por otra, provoca temor ante las consecuencias que podrían llegar a producirse.

No podemos dudar, ciertamente, de que la llegada de la inteligencia artificial representa una auténtica revolución cognitiva-industrial, que contribuirá a la creación de un nuevo sistema social caracterizado por complejas transformaciones de época.

Por ejemplo, la inteligencia artificial podría permitir una democratización del acceso al saber, el progreso exponencial de la investigación científica, la posibilidad de delegar a las máquinas los trabajos desgastantes; pero, al mismo tiempo, podría traer consigo una mayor inequidad entre naciones avanzadas y naciones en vías de desarrollo, entre clases sociales dominantes y clases sociales oprimidas, poniendo así en peligro la posibilidad de una “cultura del encuentro” y favoreciendo una “cultura del descarte”. Este es el peligro.

La magnitud de estas complejas transformaciones está vinculada obviamente al rápido desarrollo tecnológico de la misma inteligencia artificial misma.

Es precisamente este poderoso avance tecnológico el que hace de la inteligencia artificial un instrumento fascinante y tremendo al mismo tiempo, y exige una reflexión a la altura de la situación. En esa dirección tal vez se podría partir de la constatación de que la inteligencia artificial es sobre todo un instrumento. Y resulta espontáneo afirmar que los beneficios o los daños que esta conlleve dependerán de su uso.

Esto es cierto, porque ha sido así con cada herramienta construida por el ser humano desde el principio de los tiempos.

Nuestra capacidad de construir herramientas, en una cantidad y complejidad que no tiene igual entre los seres vivos, nos habla de una condición tecno-humana. El ser humano siempre ha mantenido una relación con el ambiente mediada por los instrumentos que iba produciendo. Vivimos una condición de ulterioridad respecto a nuestro ser biológico; somos seres inclinados hacia el fuera-de-nosotros, es más, radicalmente abiertos al más allá. De aquí se origina nuestra apertura a los otros y a Dios; de aquí nace el potencial creativo de nuestra inteligencia en términos de cultura y de belleza; de aquí, por último, se origina nuestra capacidad técnica. La tecnología es así una huella de nuestra ulterioridad.

Sin embargo, el uso de nuestras herramientas no siempre está dirigido unívocamente al bien. Aun cuando el ser humano siente dentro de sí una vocación al más allá y al conocimiento vivido como instrumento de bien al servicio de los hermanos y hermanas, y de la casa común (cf. Gaudium et spes, 16), esto no siempre sucede. Es más, no pocas veces, precisamente gracias a su libertad radical, la humanidad ha pervertido los fines de su propio ser, transformándose en enemiga de sí misma y del planeta.

La misma suerte pueden correr los instrumentos tecnológicos. Solamente si se garantiza su vocación al servicio de lo humano, los instrumentos tecnológicos revelarán no sólo la grandeza y la dignidad única del ser humano, sino también el mandato que este último ha recibido de “cultivar y cuidar” el planeta y todos sus habitantes (cf. Gn 2,15). Hablar de tecnología es hablar de lo que significa ser humanos y, por tanto, de nuestra condición única entre libertad y responsabilidad, es decir, significa hablar de ética. No se puede separar una de la otra.

Pero la inteligencia artificial es una herramienta aún más compleja. Yo diría que es una herramienta sui generis. Conviene recordar siempre que la máquina puede, en algunas formas y con estos nuevos medios, elegir por medio de algoritmos. Lo que hace la máquina es una elección técnica entre varias posibilidades y se basa en criterios bien definidos o en inferencias estadísticas.

El ser humano, en cambio, no sólo elige, sino que en su corazón es capaz de decidir. La decisión es un elemento que podríamos definir el más estratégico de una elección y requiere una evaluación práctica. Por esta razón, frente a los prodigios de las máquinas, que parecen saber elegir de manera independiente, debemos tener bien claro que al ser humano le corresponde siempre la decisión, incluso con los tonos dramáticos y urgentes con que a veces ésta se presenta en nuestra vida.

Condenaríamos a la humanidad a un futuro sin esperanza si quitamos a las personas la capacidad de decidir por sí mismas y por sus vidas, condenándolas a depender de las elecciones de las máquinas. Necesitamos garantizar y proteger un espacio de control significativo del ser humano sobre el proceso de elección utilizado por los programas de inteligencia artificial. Está en juego la misma dignidad humana.

Precisamente sobre este tema, permítanme insistir en que, en un drama como el de los conflictos armados, es urgente replantearse el desarrollo y la utilización de dispositivos como las llamadas “armas autónomas letales” autónomas para prohibir su uso, empezando desde ya por un compromiso efectivo y concreto para introducir un control humano cada vez mayor y significativo. Ninguna máquina debería elegir jamás poner fin a la vida de un ser humano.

Poner de nuevo al centro la dignidad de la persona en vista de una propuesta ética compartida

A lo que ya hemos dicho se añade una observación más general. La época de innovación tecnológica que estamos atravesando, en efecto, se acompaña de una particular e inédita coyuntura social.

Se registra una pérdida o al menos un oscurecimiento del sentido de lo humano y una aparente insignificancia del concepto de dignidad humana. Y es así que en esta época en la que los programas de inteligencia artificial cuestionan al ser humano y su actuar, precisamente la debilidad del ethos vinculada a la percepción del valor y de la dignidad de la persona humana corre el riesgo de ser el mayor daño (vulnus) en la implementación y el desarrollo de estos sistemas.

No debemos olvidar que ninguna innovación es neutral. La tecnología nace con un propósito y, en su impacto en la sociedad humana, representa siempre una forma de orden en las relaciones sociales y una disposición de poder, que habilita a alguien a realizar determinadas acciones impidiéndoselo a otros. Esta dimensión de poder que es constitutiva de la tecnología incluye siempre, de una manera más o menos explícita, la visión del mundo de quien la ha realizado o desarrollado.

Esto vale también para los programas de inteligencia artificial. Con el fin de que estos instrumentos sean para la construcción del bien y de un futuro mejor, deben estar siempre ordenados al bien de todo ser humano. Deben contener una inspiración ética.

La decisión ética, de hecho, es aquella que tiene en cuenta no sólo los resultados de una acción, sino también los valores en juego y los deberes que se derivan de esos valores. Por esto he acogido con satisfacción la firma en Roma, en 2020, de la Rome Call for AI Ethics y su apoyo a esa forma de moderación ética de los algoritmos y de los programas de inteligencia artificial que he llamado “algorética”.

En un contexto plural y global, en el que también se muestran las distintas sensibilidades y plurales jerarquías en las escalas de valores, parecería difícil encontrar una única jerarquía de valores. Pero en el análisis ético podemos recurrir además a otros tipos de instrumentos. Si nos cuesta definir un solo conjunto de valores globales, podemos encontrar principios compartidos con los cuales afrontar y disminuir eventuales dilemas y conflictos de la vida.

La política que se necesita

No podemos ocultar el riesgo concreto, porque es inherente a su mecanismo fundamental, de que la inteligencia artificial limite la visión del mundo a realidades que pueden expresarse en números y encerradas en categorías preestablecidas, eliminando la aportación de otras formas.

El paradigma tecnológico encarnado por la inteligencia artificial corre el riesgo de dar paso a un paradigma mucho más peligroso, que ya he identificado con el nombre de “paradigma tecnocrático”.

Y es precisamente aquí donde urge la acción política, como recuerda la encíclica Fratelli tutti. Ciertamente “para muchos la política hoy es una mala palabra, y no se puede ignorar que detrás de este hecho están a menudo los errores, la corrupción, la ineficiencia de algunos políticos, no de todos, de algunos.

A esto se añaden las estrategias que buscan debilitarla, reemplazarla por la economía o dominarla con alguna ideología. Pero, ¿puede funcionar el mundo sin política? No. ¿Puede haber un camino eficaz hacia la fraternidad universal y la paz social sin una buena política?”.

Nuestra respuesta a estas últimas preguntas es: ¡no! ¡La política sirve! Me viene a la mente lo que un Papa dijo sobre la política: “Es la forma más elevada de la caridad, es la forma más elevada del amor”. La política sirve.

Quiero reiterar en esta ocasión que “ante tantas formas mezquinas e inmediatistas de política [...], la grandeza política se muestra cuando, en momentos difíciles, se obra por grandes principios y pensando en el bien común a largo plazo. Al poder político le cuesta mucho asumir este deber en un proyecto de nación y más aún en un proyecto común para la humanidad presente y futura”.

Siempre hay tentación de uniformar todo. Me viene a la mente un romance famoso del inicio de 1900, “The Lord of the World”, un romance inglés, futurista, que hace ver el futuro sin política, el futuro solamente uniforme. Es bonito leerlo, es interesante.

Estimadas señoras, distinguidos señores, mi reflexión sobre los efectos de la inteligencia artificial en el futuro de la humanidad nos lleva así a la consideración de la importancia de la “sana política” para mirar con esperanza y confianza nuestro futuro. Como he dicho en otra ocasión, “la sociedad mundial tiene serias fallas estructurales que no se resuelven con parches o soluciones rápidas meramente ocasionales. Debemos de ir a las raíces. Hay cosas que deben ser cambiadas con replanteos de fondo y transformaciones importantes. Sólo una sana política podría liderarlo, convocando a los más diversos sectores y a los saberes más variados.

De esa manera, una economía integrada en un proyecto político, social, cultural y popular que busque el bien común puede “abrir camino a oportunidades diferentes, que no implican detener la creatividad humana y su sueño de progreso, sino orientar esa energía con cauces nuevos” (Laudato si’, 191)”.

Este es precisamente el caso de la inteligencia artificial. Corresponde a cada uno hacer un buen uso, y corresponde a la política crear las condiciones para que ese buen uso sea posible y fructífero. Gracias.