Hoy veremos un caso singular. La Constitución para la IA de Claude: El experimento más ambicioso de Silicon Valley, cuando dos hermanos codifican la ética de la inteligencia artificial. En enero de 2026, Anthropic publicó un documento extraordinario. No era un manual técnico ni un comunicado de prensa. Era, por su propia denominación, una constitución: un texto de aproximadamente 23.000 palabras destinado a definir los valores, el carácter y el comportamiento de Claude, su modelo de inteligencia artificial.
Esta nueva constitución, publicada el 22 de enero de 2026, representa una ruptura radical con versiones anteriores, abandonando la lógica de las listas de reglas para proponer un marco filosófico de mayor profundidad. Lo que resulta igualmente significativo es quién está detrás de ese proyecto: Dario y Daniela Amodei, dos hermanos que en 2021 abandonaron OpenAI para fundar Anthropic con una premisa tan sencilla como ambiciosa: que la seguridad debía ser la primera prioridad, no un añadido posterior.
El origen: una disidencia fundacional. Dario Amodei, Doctor en física y exdirector de investigación de OpenAI, y su hermana Daniela Amodei, exvicepresidenta de operaciones en esa misma empresa, partieron con un grupo de investigadores que consideraban que la seguridad de la IA debía ser una prioridad de primer orden, no un proyecto secundario. Fundaron Anthropic como una public benefit corporation, una figura jurídica que en el derecho estadounidense obliga a considerar el interés público junto al beneficio económico. No es solo branding corporativo: es una apuesta estructural por la responsabilidad.
Daniela asumió la presidencia y la arquitectura organizativa de la empresa. Desde ese rol ha impulsado el concepto de IA Constitucional, un modelo que permite a Claude autorregularse a partir de principios éticos integrados durante su entrenamiento, reduciendo la dependencia de una supervisión humana continua. Dario, como CEO, ha sido el interlocutor público en debates técnicos y de política sobre riesgos existenciales. La división de roles entre los dos hermanos refleja, acaso involuntariamente, la propia estructura de la constitución que han diseñado: uno cuida el pensamiento, la otra cuida la organización.
Una jerarquía de valores, no una lista de prohibiciones. La diferencia fundamental entre la constitución de 2026 y sus predecesoras no es cuantitativa sino cualitativa. El documento establece cuatro valores ordenados jerárquicamente: ser ampliamente seguro —primera prioridad—, ser ampliamente ético —segunda—, cumplir las directrices de Anthropic —tercera— y ser genuinamente útil —cuarta. Nótese que la utilidad ocupa el último lugar. En el universo de los productos tecnológicos, donde la métrica de éxito suele medirse en número de usuarios activos y tiempo de pantalla, este orden resulta casi subversivo.
La constitución también aborda cómo Claude debe integrar el juicio contextual y los valores en sus decisiones, más allá de seguir reglas estrictas. El enfoque favorece el desarrollo de buen juicio y valores sólidos que permitan al modelo aplicar principios éticos de manera contextualizada. En términos filosóficos, la distinción es aristotélica: no se busca la obediencia mecánica a normas deontológicas, sino la cultivación de algo parecido a la phronesis, la prudencia práctica. Un agente que sabe qué hacer porque ha interiorizado el porqué.
Dario Amodei ha descrito la constitución con una metáfora reveladora: tiene “el ambiente de una carta de un padre fallecido, sellada hasta la madurez”. El objetivo declarado para 2026 es entrenar a Claude de forma que casi nunca actúe contra el espíritu de ese documento, lo que requerirá, según sus propias palabras, esfuerzos extraordinarios y rápidos.
En un movimiento pensado para influir en el ecosistema más amplio de desarrollo de IA, Anthropic publicó la constitución bajo una licencia Creative Commons CC0, colocándola efectivamente en el dominio público, de modo que otros desarrolladores, investigadores y competidores puedan usarla, modificarla o adoptarla sin restricciones.
Implicaciones para la educación y la gobernanza. Desde una perspectiva educativa, la constitución de Claude plantea preguntas que trascienden la ingeniería: ¿Qué valores queremos que transmitan los sistemas que van a mediar la educación de millones de personas? ¿Quién tiene legitimidad para codificar la ética de una IA de uso global? ¿Pueden dos hermanos de San Francisco escribir, aunque sea provisionalmente, la constitución moral de una herramienta utilizada en Bilbao, Nairobi o Seúl?
La arquitectura de cuatro niveles de la constitución se alinea estrechamente con los requisitos de la Ley de IA de la Unión Europea, posicionando favorablemente a Claude para su adopción en sectores regulados. Pero más allá del cumplimiento normativo, lo que este documento inaugura es un debate de fondo que apenas comienza: el de la gobernanza filosófica de la inteligencia artificial. El hecho de que ese debate lo hayan iniciado dos hermanos con un documento de dominio público no deja de tener, en sí mismo, algo de constituyente.
🤖📚 ¿Puede una IA actuar éticamente o solo obedecer instrucciones? https://t.co/d8ppplWPoS Cuando los robots "leen" a Kant surge una pregunta decisiva para nuestro futuro: ¿basta con que una máquina sea inteligente o debe también ser ética? Entre algoritmos, autonomía y… pic.twitter.com/7QkaJAlA7a
— Mikel Agirregabiria (@agirregabiria) June 3, 2026
@jonhernandezia 🤖 Anthropic publica una constitución de 84 páginas | 🤖 #ia #chatgpt #anthropic ♬ sonido original - Jon Hernández
0 comments:
Publicar un comentario