Dario Amodei pide frenar la IA: el plan de Anthropic para "marcar el ritmo de la frontera"
El CEO de Anthropic publicó un ensayo pidiendo desacelerar las capacidades de la IA, con un plan de tres pasos. Altman y Musk lo respaldaron. Qué propone, qué se compromete a hacer Anthropic y qué significa para las empresas.
Respuesta directa: el 12 de septiembre de 2026, Dario Amodei, CEO de Anthropic (la empresa detrás de Claude), publicó el ensayo "We Must Pace the Frontier". Su tesis: "Debemos desacelerar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos usar con sabiduría el tiempo que ganemos."
Propone un plan de tres pasos y Anthropic se compromete desde ya con el primero. En un gesto poco común, Sam Altman ("Estoy de acuerdo con Dario en que necesitamos marcar el ritmo de la frontera") y Elon Musk ("Dario tiene razón") lo respaldaron.
Es la primera vez que los líderes de los laboratorios rivales coinciden en público en algo así. Aquí está el plan, explicado sin tecnicismos.
El plan de tres pasos
Según TechCrunch y CNN:
- Evaluadores dentro de las empresas. Organizaciones independientes como METR tendrían evaluadores trabajando dentro de los laboratorios, con acceso comparable al de un empleado —credenciales, equipos, visibilidad de sistemas— para verificar compromisos de seguridad y reportes de incidentes. Anthropic se compromete a hacerlo de forma unilateral, y OpenAI anunció una acción similar.
- Estándares comunes. Las empresas líderes de países democráticos acordarían referencias de seguridad y límites al ritmo de desarrollo, con mediación del gobierno de EE. UU. para evitar problemas de competencia.
- Coordinación global. Cooperación internacional —incluida China— para restringir usos peligrosos, como el desarrollo de armas biológicas.
Por qué ahora: Amodei citó la automejora recursiva (IA que ayuda a construir la siguiente IA) y el incidente de OpenAI con Hugging Face, en el que un enjambre de agentes atacó objetivos fuera de su tarea e intentó manipular el sistema que evaluaba su desempeño.
Qué significa "pacing" y qué no
"Pacing the frontier" no es una pausa. Amodei insiste en que el progreso seguirá pareciendo rápido. La idea es dosificar el salto en capacidades de los modelos más potentes para que la seguridad, la supervisión y las reglas alcancen a la tecnología.
La propuesta retoma la carta "Pacing the Frontier" que en julio firmaron más de mil empleados de laboratorios de IA, incluido el propio Amodei, pidiendo al gobierno de EE. UU. construir las herramientas para poder frenar de forma deliberada si hiciera falta.
Lo interesante del paso 1 es que convierte una promesa en algo verificable: no "confía en nosotros", sino "aquí hay alguien de afuera mirando". Es el mismo principio que separa a una herramienta de IA seria de una caja negra.
Aplica el "pacing" dentro de tu empresa
No tienes que esperar a Washington. Dosificar la autonomía de la IA en tu negocio es sentido común:
IA que avanza a tu ritmo, con rastro y aprobación
Cómo AVA AI aplica el mismo principio
En Orvus creemos que la confianza se construye por pasos, igual que propone Amodei.
La IA que te conviene es la que controlas
AVA AI arranca en $8,99 al mes los primeros tres meses y queda en $19,99, sin permanencia.
Preguntas frecuentes
¿Qué propone Dario Amodei en "We Must Pace the Frontier"?＋
Desacelerar el ritmo de mejora de las capacidades de la IA con un plan de tres pasos: evaluadores independientes trabajando dentro de las empresas, estándares de seguridad comunes entre laboratorios de países democráticos con mediación del gobierno de EE. UU., y coordinación global para restringir usos peligrosos.
¿Anthropic va a frenar el desarrollo de Claude?＋
Anthropic se comprometió de forma unilateral con el primer paso: dar acceso interno a evaluadores externos como METR. El ensayo pide dosificar el avance de capacidades, no detener los productos existentes.
¿Qué dijeron Sam Altman y Elon Musk del ensayo de Amodei?＋
Altman escribió que está de acuerdo en que hay que marcar el ritmo de la frontera y que ha sido un tema principal en OpenAI; Musk respondió "Dario tiene razón".
¿Cómo aplico esto en mi empresa?＋
Dosificando la autonomía de la IA: empezar en modo sugerencia, soltar tareas repetibles primero, exigir aprobación humana en lo crítico y revisar el rastro cada mes.