«Que una IA opere bajo reglas morales puede parecer un dilema nuevo, aunque en realidad es una pregunta antigua: cómo poner límites cuando surge una nueva forma de poder»
El punto de partida no es la confianza absoluta, sino la necesidad de fijar límites antes de que los efectos sean irreparables.
La idea de que una IA (inteligencia artificial) deba operar bajo reglas morales empieza a abrirse paso en el debate público. A primera vista puede parecer un desafío completamente nuevo. Sin embargo, la historia muestra otra cosa: cada vez que una sociedad ha generado una forma de poder capaz de desbordarla, ha reaccionado estableciendo límites y normas.
Desde que existen sociedades, la cuestión de fondo es siempre la misma: cómo organizar y contener el poder cuando este deja de depender de personas concretas y empieza a funcionar como una fuerza colectiva. El poder político, económico o tecnológico ha dado lugar una y otra vez a normas destinadas a evitar su descontrol. Constituciones, leyes o pactos sociales aparecen precisamente como respuesta a ese riesgo.
Las constituciones modernas surgen en ese contexto. No como declaraciones morales, sino como herramientas para limitar un poder que ya había demostrado su peligro. La separación de poderes, las garantías jurídicas o los derechos fundamentales no buscaban mejorar a quienes gobernaban, sino reducir la arbitrariedad y acotar su margen de decisión. Fracasan a menudo, pero, aun así, introducen frenos al abuso.
Esa misma lógica reaparece hoy con la IA. No porque la tecnología sea dañina, sino porque influye en la toma de decisiones. Estos sistemas no se limitan a ejecutar instrucciones: seleccionan información, priorizan unas opciones sobre otras y descartan alternativas antes de que intervenga una persona. Al hacerlo, determinan qué entra en juego y qué queda fuera. Ese filtrado previo acaba condicionando comportamientos individuales y colectivos, a menudo sin que seamos conscientes de ello.
En este contexto surge la Constitución de Claude, el conjunto de principios con los que Anthropic busca orientar el comportamiento de su modelo. No es un manual técnico ni una lista de prohibiciones, sino una respuesta a la influencia de estos sistemas en nuestros procesos de decisión. Como ocurre con las constituciones humanas, el punto de partida no es la confianza absoluta, sino la necesidad de fijar límites antes de que los efectos sean irreparables.
Hablar de “constituciones” para máquinas puede parecer excesivo si se piensa en ellas como simples herramientas. Deja de serlo cuando estos sistemas intervienen de forma continuada en procesos de decisión. En ese punto, las correcciones puntuales ya no bastan: los efectos se acumulan y algunas consecuencias pueden ser irreversibles.
Por eso la Constitución de Claude no es una curiosidad del sector, sino un síntoma. Un intento aún imperfecto de reconocer que el control de sistemas complejos no puede basarse solo en eficiencia o en dinámicas de mercado. Gobernar lo que tiende a desbordarse nunca ha sido cómodo, pero renunciar a hacerlo siempre ha tenido un coste. Y ese dilema es el que vuelve a plantearse hoy, con herramientas nuevas y preguntas muy antiguas.