El algoritmo y la esperanza

Entre las personas que asistieron a la presentación de la histórica encíclica Magnifica Humanitas (Magnífica Humanidad) del papa León XIV, el pasado 25 de mayo, hubo una que no pasó desapercibida: Christopher Olah, el joven ateo canadiense de 33 años que se ha convertido en uno de los principales gurús de la inteligencia artificial por su entendimiento de los LLM (Large Language Models, por sus siglas en inglés).
Los LLM son el corazón de la inteligencia artificial tal como la conocemos hoy, pues permiten identificar relaciones entre palabras sin importar qué tan separadas estén en un texto. Esto es posible porque se entrenan con miles de millones de datos provenientes de múltiples fuentes como la web, libros, artículos o código, lo que ha hecho posible que hoy podamos interactuar con la IA y sea capaz de escribir, resumir, traducir, programar, responder preguntas e incluso “razonar”.
La presencia de Olah, cuyos conocimientos le permitieron participar en la estructuración de ChatGPT y fundar su propia empresa de inteligencia artificial, explica, en buena medida, la importancia de una encíclica que busca rebasar el marco filosófico-teológico propio de un documento religioso, para ofrecer herramientas que permitan abordar los permanentes retos éticos que el ser humano enfrenta con la irrupción de los avances tecnológicos, en especial los de la IA, cuyos desafíos crecerán de forma exponencial.
Estos retos provocaron la salida de Olah y de los hermanos Daniela y Darío Amodei de OpenAI, la compañía creadora de ChatGPT, al considerar que la firma se enfocó excesivamente en lo comercial y empezó a dejar de lado aspectos como la investigación y la seguridad de sus usuarios. Tras esa renuncia, fundaron Anthropic, cuyo marco de actuación se denomina “IA constitucional”, que busca que los modelos se comporten de forma útil, inofensiva y honesta, como explica Claude, el chatbot desarrollado por la misma compañía.
Anthropic se dio a conocer mundialmente por su postura frente al Departamento de Defensa de Estados Unidos, al negarse a que sus modelos de IA fueran utilizados sin restricciones éticas en operaciones militares. Esta decisión provocó la ira de Donald Trump, quien la vetó para contratos gubernamentales, al calificarla como un “peligro para la cadena de suministros”.
En un ecosistema dominado por la codicia y las ansias de poder, como lo ha demostrado Silicon Valley en el último tiempo, la postura de Anthropic llama la atención y abre una luz de esperanza sobre el futuro de la humanidad, constantemente bombardeada con mensajes apocalípticos sobre el desarrollo de la inteligencia artificial y su eventual desenlace en el exterminio de nuestra especie.
Con ese llamado a mantener la fe en lo que viene, León XIV cierra su encíclica en un colofón titulado “El canto de la esperanza: el Magníficat”, en el que, entre alusiones religiosas, invita a que la ética y el amor guíen nuestras actuaciones. Difícil, pero reflexiones como las que plantea Magnifica Humanitas y posturas como la de Olah nos invitan a creer que no todo está perdido, aunque permanentemente la realidad insista en hacernos dudar.