Maquinas que aprenden solas, guerra, control social... los «temas candentes» de la IA para Francisco

Con el deseo de "aprovechar las oportunidades y afrontar los desafíos que plantea la revolución digital", el Papa Francisco ha publicado este jueves su mensaje de cara a la próxima Jornada Mundial de la Paz, que se celebrará el 1 de enero de 2024 y lo ha centrado en las "amenazas y retos" de la Inteligencia Artificial.

El mensaje, dirigido "al Pueblo de Dios, a las naciones, a los Jefes de Estado y de Gobierno y representantes de las distintas religiones y de la sociedad civil",  abunda en las oportunidades y especialmente en las amenazas y retos que plantea la Inteligencia Artificial y con ella "el progreso de la ciencia y de la técnica".

Ya desde las primeras líneas Francisco recuerda que este progreso de la ciencia y de la técnica, "en la medida en que contribuye a un mejor orden de la sociedad humana, lleva al perfeccionamiento del hombre".

Sin embargo, advierte también de que no pocos de esos "progresos" están ofreciendo "una vasta gama de posibilidades", de las  que algunas representan "un riesgo para la supervivencia humana".

La tecnología no es neutral

En este sentido, Francisco recuerda en el documento que la investigación científica y las innovaciones tecnológicas no son "neutrales", sino que son "actividades plenamente humanas" cuyas decisiones se encuentran "condicionadas por los valores personales, sociales y culturales de cada época".

Por ello, una de las principales advertencias respecto a la inteligencia artificial es que esta debe entenderse como "una galaxia de realidades distintas", no pudiéndose presumir "a priori que su desarrollo aporte una contribución benéfica al futuro de la humanidad". De hecho, previene de que no es suficiente siquiera suponer "un compromiso de actuar de forma ética y responsable" por quien "proyecta algoritmos y tecnologías digitales".

Que el resultado sea positivo, continúa, "solo será posible si somos capaces de actuar de forma responsable y de respetar los valores humanos fundamentales".

Así, subraya que los desarrollos tecnológicos que "agravan las desigualdades y conflictos" en lugar de llevar "a una mejora de la calidad de vida de toda la humanidad" no podrán considerarse un verdadero progreso. En el caso de la inteligencia artificial, esto supone que debe "estar al servicio de un mejor potencial humano y de nuestras más altas aspiraciones, no en competencia con ellos".

Desinformar con máquinas que aprenden solas

También habló de las "máquinas que aprenden solas", en referencia a los sistemas de machine learning o deep learning. Un aspecto que también se llama a abordar con prudencia, pues plantea "un serio problema" en el caso de campañas de desinformación y noticias falsas.

"La confidencialidad, la posesión de datos y la propiedad intelectual son otros ámbitos en los que las tecnologías en cuestión plantean graves riesgos, a los que se añaden ulteriores consecuencias negativas unidas a su uso impropio, como la discriminación, la interferencia en los procesos electorales, la implantación de una sociedad que vigila y controla a las personas, la exclusión digital y la intensificación de un individualismo cada vez más desvinculado de la colectividad", agrega Francisco.

A continuación, daba un paso más al mencionar no solo a las máquinas que aprenden solas, sino a las que incluso pueden efectuar las tareas que se les asignan y "cada vez con mayor eficiencia".

Sin embargo, "el fin y significado" de esas operaciones "continuarán siendo determinadas por seres humanos que tienen un propio universo de valores", lo que conlleva otra amenaza: El riesgo, dijo, "es que los criterios que están en la base de ciertas decisiones se vuelvan menos transparentes, que la responsabilidad decisional se oculte y que los productores puedan eludir la obligación de actuar por el bien de la comunidad".

La IA que quiere influir a los individuos

En el capítulo dedicado a los "temas candentes" para la ética, el Papa observa que la inteligencia artificial parece capaz de "influenciar las decisiones de los individuos" mediante "opciones predeterminadas asociadas a estímulos y persuasiones, o mediante sistemas de regulación de las elecciones personales basados en la organización de la información".

Francisco se refirió a estos procesos como "formas de manipulación o de control social" que requieren de "supervisión" e implican una clara responsabilidad legal por parte de los productores, de quienes las usan y de las autoridades gubernamentales".

"No debemos permitir que los algoritmos determinen el modo en el que entendemos los derechos humanos, que dejen a un lado los valores esenciales de la compasión, la misericordia y el perdón o que eliminen la posibilidad de que un individuo cambie y deje atrás el pasado", advierte el documento. 

También previene de un tema que está cada vez más en el debate público y es la amenaza que representan las nuevas tecnologías o la inteligencia artificial en el ámbito laboral.

Francisco se refirió a este debate al hablar de "trabajos que en un tiempo eran competencia exclusiva de la mano de obra humana" y que ahora "son rápidamente absorbidos por las aplicaciones industriales de la inteligencia artificial. También en este caso se corre el riesgo sustancial de un beneficio desproporcionado para unos pocos a costa del empobrecimiento de muchos".

Uno de los capítulos más relacionados con la paz es el titulado ¿Transformaremos las espadas en arados?, donde previene de que las nuevas tecnologías que contribuyan al mercado de las armas "promoviendo la locura de la guerra". Frente a la "resolución violenta de los conflictos", el Papa llama a que las aplicaciones técnicas "más avanzadas" se empleen "para pavimentar los caminos de la paz".

Desde una óptica "más positiva", Francisco llamó a que la inteligencia artificial promueva "el desarrollo humano integral", introduciendo "importantes innovaciones en la agricultura, la educación y la cultura", así como "un mejoramiento del nivel de vida de enteras naciones y pueblos".