Extracto del epílogo de A la sombra de la IA, de Madhumita Murgia
El 26 de febrero de 2022, dos días después de que la guerra estallara en Europa por primera vez en décadas, el padre Paolo Benanti atravesaba el centro de Roma a paso ligero. Su destino era el Palacio Apostólico, la residencia oficial del papa, donde lo habían invitado a una reunión importante. Paolo pertenece a la orden franciscana. Vive en unas austeras habitaciones que comparte con otros cuatro frailes, encaramadas sobre una pequeña iglesia romana. Paolo, el más joven del convento a sus cincuenta años, es experto en tecnología y en ética, dos ramas del conocimiento que le resultan tan cómodas y naturales como sus hábitos de sacerdote. Como profesor de ética de la Universidad Pontificia Gregoriana, una institución de casi quinientos años que se encuentra a un paseo de diez minutos escasos del monasterio, instruye a los estudiantes de teología y a los sacerdotes sobre cuestiones morales y éticas relacionadas con las tecnologías de vanguardia, como la bioaumentación, la neuroética y la inteligencia artificial.
Paolo iba de camino a ver al papa Francisco, el pontífice argentino que él compara con un apasionado tango, a diferencia de su predecesor, más parecido a un sobrio vals. En la reunión, Paolo debía actuar como intérprete, tanto de los idiomas, como de las disciplinas. El invitado del papa no era otro que Brad Smith, el presidente del gigante tecnológico estadounidense Microsoft, que había llegado el día anterior a bordo de un jet privado. La IA era uno de los temas del día; concretamente, cómo podía beneficiar a la humanidad una tecnología tan potente, en lugar de someterla a su merced. La reunión no podía llegar en un momento más oportuno. Al papa le preocupaba cómo se iba a utilizar la inteligencia artificial en la guerra de Ucrania, y también qué podía hacer él para evitar que la tecnología acabara destruyendo el tejido de la humanidad.
Entre la tecnología y la fe
Durante los últimos tres años, Paolo se había convertido en la guía del escalafón más alto de la Santa Sede. El fraile cursó parte de su doctorado sobre las tecnologías del perfeccionamiento humano en la Universidad de Georgetown, en los Estados Unidos, y ahora se encarga de informar sobre los posibles usos de la IA, que él describe como una tecnología de uso general, «igual que el acero o la electricidad», y sobre cómo cambiará nuestra forma de vida. También interpreta el papel de intermediario entre lo que Stephen Jay Gould describió como «los magisterios que no se superponen»: los líderes de la fe por un lado y los de la tecnología por el otro.
Paolo se ha reunido con el vicepresidente de IBM, John Kelly; con Mustafa Suleyman, antiguo cofundador de Google DeepMind (la empresa de desarrollo de inteligencia artificial propiedad de Alphabet) y con Norberto Andrade, el encargado de supervisar las cuestiones éticas en las políticas de IA de Meta. Su objetivo es facilitar el intercambio de ideas sobre lo que se considera «ético» en el diseño y desarrollo de las tecnologías emergentes.
También ha sido una pieza clave a la hora de asesorar al papa y a sus consejeros sobre los posibles peligros de la inteligencia artificial. Aunque Paolo creía que la IA tenía el potencial para provocar otra revolución tecnológica, le preocupaba que usurpara el poder de los trabajadores y la capacidad de decisión de los seres humanos. Sospechaba que, si se le dejaba seguir avanzando sin supervisión, la inteligencia artificial pondría en peligro la paz social y el bien común.
El interés de la Iglesia en la inteligencia artificial
Lo que más inquietaba a los líderes de la Iglesia era la idea de que la IA agravara las desigualdades. Sostenían que los niños y los ancianos ya fueron los que más sufrieron durante la primera revolución industrial, bien por la sobreexplotación o por ser excluidos de los cambios radicales que transformaron la sociedad. Temían que una posible redistribución del poder y la riqueza impulsada por la inteligencia artificial perjudicara a los miembros más frágiles de la sociedad.
La audiencia de Brad Smith con el papa en 2022 no fue la primera del ejecutivo de Microsoft. Tres años antes, Paolo facilitó su primera reunión como parte de un consejo multidisciplinar para debatir la ética de la IA. Su apoyo mutuo hacia los migrantes indocumentados y los refugiados ayudó a que ambas delegaciones estrecharan lazos y accedieran a colaborar en un proyecto más ambicioso y tangible: un pacto de valores éticos comunes que sirviera de guía para el desarrollo de la inteligencia artificial. La participación de Smith sentó a la industria tecnológica en la mesa de las negociaciones.
Es posible que el interés de la Iglesia en la IA resulte extraño. Sin embargo, la cuestión de cómo «alinear» el software con nuestros principios morales se ha convertido en una parte fundamental del debate actual, y con ella han surgido preguntas sobre cuáles son esos valores humanos universales. La cuestión de qué tipo de moral se ha integrado en el software ha adquirido un cariz mucho más urgente que nunca, y los líderes religiosos creen que es su deber pronunciarse al respecto.
Trabajar en pos del llamado «alineamiento de la IA» (es decir, conseguir que el software sea compatible con la sociedad) ya forma parte del ADN de empresas de inteligencia artificial como Anthropic, Google y OpenAI, esta última respaldada por la compañía del propio Brad Smith, Microsoft. Estas empresas han desarrollado modelos de IA generativa que funcionan de acuerdo con una especie de constitución, un conjunto de normas éticas compiladas internamente por las empresas, a las que su software de IA se supone que debe adherirse. Todas las empresas han advertido que esas normas éticas son un proyecto aún en fase de desarrollo y que no reflejan íntegramente los valores de la humanidad. De hecho, tampoco existe un único canon ético al que se adhieran todas las sociedades y culturas. Anthropic ha declarado que: «Obviamente, reconocemos que estas normas reflejan nuestras propias decisiones como desarrolladores, y en el futuro esperamos ampliar la participación en el diseño de nuestros estatutos».
El Llamamiento de Roma
Pero hasta que el método con el que se diseñan los valores de la inteligencia artificial no sea más democrático y tenga más matices, hasta que no sea capaz de reflejar las perspectivas y sesgos de todas las culturas que componen este mundo, Paolo creía que la labor de establecer los límites éticos de esta tecnología tan potente (y, por tanto, su impacto en la humanidad) no debería recaer exclusivamente en los ingenieros informáticos. Igual que muchas otras voces críticas con la IA, su opinión era que esta debía ser una misión colectiva tanto del sector público como del privado; de los ciudadanos y de las instituciones religiosas, educativas, gubernamentales y otros organismos multilaterales, además de las propias empresas.
Como parte de esta iniciativa, Paolo redactó el borrador de un acuerdo en 2020 conocido como el Llamamiento de Roma. El Llamamiento de Roma defendía una propuesta «algorética», un marco básico de los valores humanos que no solo deben acatar numerosas entidades a lo largo y ancho del mundo, sino que también debe ser comprendido y aplicado por las propias máquinas. El concepto de la algorética requiere que todo el software diseñado para asistir en la toma de decisiones muestre dudas y experimente incertidumbres de tipo ético.
Para que las empresas de inteligencia artificial asuman la responsabilidad de hacer frente a estos desafíos, como las consecuencias inesperadas de la IA, los sesgos implícitos en su diseño, los peligros y los efectos en cadena que acaban perjudicando a los usuarios, era imprescindible forjar una alianza global. La Iglesia católica sabía que no tenía el poder ni la autoridad para actuar por su cuenta. Por eso Paolo comenzó a contactar con los representantes de otras religiones abrahámicas, concretamente del islam y el judaísmo, para formar un pacto. Según el fraile, la parte más difícil de reunirse sería «preparar un menú que satisficiera las preferencias culturales y religiosas de todos los presentes». Pero lo dijo en broma, por supuesto; la realidad era mucho más complicada. Los primeros signatarios de febrero de 2020 fueron un grupo pequeño y variopinto: Microsoft, IBM, el Gobierno italiano y la Organización de las Naciones Unidas para la Alimentación y la Agricultura. En 2023 se sumaron representantes de las doctrinas judías e islámicas en una ceremonia decisiva celebrada en el Vaticano.
La preocupación de los líderes religiosos sobre la posibilidad de que la IA exacerbara las desigualdades estaba más que justificada. A lo largo de los años que llevo escribiendo sobre tecnología, el patrón que más he observado es el impacto de la IA en los colectivos marginados y discriminados: refugiados, migrantes, trabajadores precarios, minorías raciales y socioeconómicas y mujeres. Esos mismos grupos son también los más afectados por las limitaciones técnicas de la inteligencia artificial: alucinaciones y estereotipos negativos perpetuados a través del texto y las imágenes que produce el software. Y eso se debe a que estas personas rara vez tienen voz en las cámaras de eco donde se desarrollan estos sistemas.
Una reunión histórica
En enero de 2023, el día antes de que la delegación judía y la musulmana llegaran a la Santa Sede, una fuerte tormenta cayó sobre Roma y limpió a su paso las calles de la ciudad. Un grupo de rabinos, imanes y académicos musulmanes llegados desde Israel, los Emiratos Árabes Unidos y California subían por una serpenteante colina en el corazón del Vaticano. Se dirigían hacia la Casina de Pío IV, una villa aristocrática del siglo XVI que hoy en día alberga la Pontificia Academia de las Ciencias. Era la primera vez que los líderes mundiales de las tres religiones abrahámicas se reunían en el Vaticano unidos por el mismo espíritu de cooperación. Una vez dentro del edificio se sentaron frente a frente; arzobispos, rabinos e imanes, todos dispuestos a debatir sobre aquello que había despertado en ellos las mismas inquietudes.
El tema de día era la necesidad imperiosa de desarrollar una inteligencia artificial que respetara los derechos de los seres humanos y minimizara el daño a la sociedad. A la audiencia también acudieron los representantes de dos de las mayores empresas tecnológicas del mundo: Brad Smith, de Microsoft, y Darío Gil, director del área de investigación de IBM.
Todos estuvieron de acuerdo en que la IA era una de las invenciones más importantes de la humanidad. A aquellas alturas, ya nadie podía negar que se estaba introduciendo a pasos agigantados en la vida diaria de las personas. No obstante, lo que les preocupaba era el control de esta tecnología. Igual que ya ocurriera con las armas nucleares el siglo pasado, temían que los sistemas de inteligencia artificial sE estuvieran desarrollando sin tener en cuenta los principios éticos de la humanidad: el respeto mutuo, la solidaridad y la cooperación en pos del bien común, la honestidad, la justicia, la integridad y la transparencia; unos valores en los que todos los allí presentes coincidían. Intuían que el diseño irreflexivo de la IA moderna era vulnerable a abusos de todo tipo, lo que supondría unas consecuencias catastróficas para nuestra especie.
El jeque Abdullah bin Bayyah, miembro de la delegación de los EAU y considerado a sus 89 años como uno de los más importantes eruditos de su tiempo en materia de jurisprudencia islámica, declaró que la época actual evocaba las obras del poeta árabe Abu al-Fath al-Busti. En ellas vinculaba las innovaciones del ser humano con la autodestrucción del gusano de seda. «El hombre trabaja sin descanso igual que el gusano, que se pasa la vida tejiendo solo para perecer, desconcertado, entre los hilos de su propia creación».
El Llamamiento de Roma propuso seis principios éticos según los cuales deberían regirse los desarrolladores de la inteligencia artificial. Por ejemplo, los modelos debían ser comprensibles, inclusivos, imparciales y reproducibles. También era imprescindible que salvaguardaran la privacidad de los individuos y que pudieran exigírseles responsabilidades, es decir, que un ser humano se hiciera cargo de cualquier decisión facilitada por la inteligencia artificial.
Cuando los tres líderes religiosos (el erudito musulmán experto en leyes, el rabino de Jerusalén y el arzobispo católico) firmaron el pacto, todos los allí presentes contuvieron el aliento. El público miró a su alrededor, intentando grabar en la memoria quiénes eran los demás afortunados que estaban siendo testigos de esta unión extraña e histórica. Fueran cuales fueran los conflictos que azotaban el mundo exterior, en ese momento las tres religiones abrahámicas se habían unido para defender la humanidad.
