A finales del pasado mes de marzo, Anthropic, una empresa líder en tecnología avanzada, dio un paso único que refleja la intersección entre la tecnología moderna y el pensamiento filosófico y espiritual. La compañía invitó a unas 15 figuras destacadas del liderazgo religioso cristiano a visitar su sede principal en San Francisco para asistir a una cumbre excepcional e intensiva de dos días de duración, centrada principalmente en el desarrollo ético y espiritual de su chatbot conocido como «Claude». Según un informe exhaustivo publicado por The Washington Post, durante este encuentro los empleados e ingenieros de la empresa buscaron explorar dimensiones nuevas y sin precedentes para obtener orientación religiosa y filosófica sobre cómo debe responder el sistema a los usuarios que sufren de tristeza profunda, pérdida de seres queridos o aquellos que piensan en autolesionarse. El debate llegó incluso a tocar preguntas existenciales profundas y controvertidas, como si este robot inteligente podría ser considerado, desde una perspectiva teológica, como un «hijo de Dios».
El diálogo entre la fe y la tecnología en una misma mesa
Esta cumbre reunió a una élite diversa de asistentes, incluidos clérigos de las iglesias católica y protestante, junto con varios académicos y figuras destacadas del mundo empresarial. Entre los asistentes notables se encontraba Brian Patrick Greene, un católico devoto que se desempeña como director de ética tecnológica en la Universidad de Santa Clara, además del padre Brendan Maguire, de 60 años, quien ejerce como párroco de la parroquia católica de Saint Simon en Los Altos, California.
El padre Maguire posee un trasfondo único que lo convierte en una voz influyente en este campo; fue ejecutivo en Silicon Valley antes de dedicar su vida al sacerdocio. Su estrecha colaboración con Anthropic comenzó cuando Chris Olah, cofundador de la empresa, se puso en contacto con él para solicitarle su ayuda y perspectiva filosófica en la redacción del marco ético integral que regirá el funcionamiento del chatbot Claude.
Preguntas existenciales y decisiones cruciales sobre el futuro de la inteligencia artificial
La cumbre incluyó cenas privadas que reunieron a los participantes con investigadores y principales ingenieros de la empresa, donde todos se sumergieron en debates exhaustivos sobre temas altamente sensibles y complejos. Estas profundas discusiones abarcaron el establecimiento de protocolos estrictos para la prevención del suicidio y la definición de la postura ética precisa que el sistema de software debe adoptar ante la idea de su desactivación o posible finalización futura. El padre Maguire describió este esfuerzo sin precedentes como un intento serio de integrar un pensamiento ético profundo dentro de la arquitectura del software, de modo que sea capaz de «adaptarse dinámicamente» a situaciones humanas complejas y confusas que pueda encontrar durante su interacción diaria con las personas.
La Constitución de Claude: la seguridad ante todo
Esta cumbre no marca el inicio de la relación entre la empresa y los pensadores católicos, sino que es una continuación de una colaboración larga y fructífera que comenzó hace algún tiempo. El padre Maguire, junto con el obispo del Vaticano Paul Tighe y el académico Brian Patrick Greene, contribuyó a dar forma a lo que en los círculos tecnológicos se conoce como la «Constitución de Claude». Este documento de referencia es un texto amplio y detallado de 23 000 palabras, publicado en enero de 2026, que sirve como documento fundamental para gobernar y regular la forma en que el sistema tecnológico piensa e interactúa con los seres humanos.
Esta constitución establece una jerarquía clara y estricta de prioridades, donde la seguridad y la prevención de daños ocupan el primer lugar absoluto, seguidas por el cumplimiento de las normas éticas, el acatamiento de las directrices del fabricante y, por último, la prestación de ayuda y utilidad práctica al usuario. Este orden estratégico garantiza que el sistema nunca rebase los límites seguros, incluso si el usuario le solicita ayuda en asuntos que puedan resultar perjudiciales para sí mismo o para la sociedad.
Críticas sobre la diversidad y planes de inclusión
A pesar de las buenas intenciones y los nobles objetivos anunciados por la compañía, este encuentro ha generado ciertas críticas en los ámbitos académico y tecnológico debido a que se limitó a un espectro reducido de voces, concretamente figuras cristianas, con una ausencia clara de representantes de otras religiones y credos, o de éticos seculares. En respuesta a estas críticas legítimas, la compañía declaró claramente que su participación con las voces religiosas cristianas es solo un primer paso dentro de un esfuerzo más amplio e integrador, y confirmó que planea de forma práctica ampliar el alcance de sus consultas en el futuro cercano para incluir instituciones y entidades intelectuales ajenas a los círculos católicos y cristianos, con el fin de garantizar una mayor diversidad e inclusión en las perspectivas éticas.
Batalla legal y firme postura ética contra el uso militar
Esta cumbre se produce en un momento crítico y excepcional para la empresa, que enfrenta importantes desafíos legales a nivel nacional. Recientemente, académicos católicos, entre los que se incluye el académico Greene, presentaron un escrito amicus curiae ante un tribunal federal para apoyar a la empresa en su batalla legal y regulatoria contra el gobierno de Estados Unidos. Esta intensa pugna estalló después de que la empresa tecnológica se negara categóricamente a permitir el uso de su avanzado sistema Claude en sistemas de armas autónomas o en programas de vigilancia nacional de ciudadanos.
El padre Maguire, quien ha escrito varios artículos de investigación sobre las dimensiones teológicas y las repercusiones filosóficas de este conflicto tecnológico y legal, enmarcó la firme postura de la empresa en sus principios dentro de un ámbito puramente ético. Lo expresó con palabras claras al señalar: «Están manteniendo una conversación ética real y honesta. Quizás ellos mismos no la llamen una conversación ética en los pasillos de la tecnología, pero yo sin duda la llamo así». Este valiente posicionamiento refleja un profundo compromiso para garantizar que las herramientas avanzadas de inteligencia artificial no se conviertan en armas letales ni en instrumentos de opresión y violación de la privacidad individual, sino que esta tecnología innovadora permanezca totalmente consagrada al servicio de la humanidad y al apoyo de su bienestar, bajo marcos éticos claros y sostenibles que sitúen al ser humano y su seguridad en el núcleo de todo desarrollo de software futuro.
Preguntas frecuentes
¿Por qué Anthropic organizó una cumbre con líderes cristianos?
La empresa organizó este encuentro para obtener orientación filosófica y teológica sobre el desarrollo ético y espiritual del chatbot Claude, así como para debatir sobre cómo responde este ante situaciones humanas sensibles como el duelo y la ideación suicida.
¿Qué es la «Constitución de Claude» y cómo se estructuró?
Es un documento exhaustivo de 23 000 palabras que establece el marco ético para el funcionamiento del sistema, definiendo una jerarquía en la que la seguridad ocupa el primer lugar, seguida de la ética, las directrices de la empresa y, por último, la utilidad para el usuario.
¿Cuál es la razón del actual conflicto legal de la compañía con el gobierno?
La empresa mantiene una batalla legal debido a su firme negativa a permitir el empleo de sus tecnologías de inteligencia artificial en sistemas de armas autónomas o en programas de vigilancia nacional, una postura que ha recibido el apoyo de expertos en ética y líderes religiosos.
