El director ejecutivo de Anthropic, Dario Amodei, insta a las empresas de inteligencia artificial a ralentizar el desarrollo de sus modelos más avanzados, una propuesta que ha recibido el apoyo de otros líderes del sector.
En un extenso ensayo publicado el 12 de septiembre, Amodei afirmó que invertir simplemente en la prevención de riesgos ya no es suficiente. En cambio, sugirió que las empresas que desarrollan modelos de vanguardia deberían ralentizar deliberadamente el ritmo al que aumentan sus capacidades.
Según explicó, hacerlo podría dar a los investigadores y a los gobiernos más tiempo para desarrollar medidas de seguridad antes de que los sistemas de IA se vuelvan demasiado poderosos.
"Creo que si ralentizar el proceso nos diera incluso uno o dos años adicionales antes de que los modelos alcancen niveles críticos de capacidad, y usáramos ese tiempo para avanzar en la alineación, podríamos reducir enormemente el riesgo de que algo salga muy mal", escribió Amodei.
No leas más noticias. Entiéndelas.
En Epoch Times Español queremos estar en contacto directo contigo
Seleccionamos para ti lo que de verdad importa, sin ruido ni agendas. Es un canal abierto: si nos escribes, te respondemos.
“El progreso seguirá pareciendo rápido, y debemos aprovechar sabiamente el tiempo que ganemos”, añadió.
Una de sus principales preocupaciones es la creciente capacidad de la IA para ayudar a construir la próxima generación de sistemas de IA.
Según Amodei, ese proceso, a menudo denominado auto-mejora recursiva, se ha acelerado desde el verano. Advirtió que la investigación asistida por IA podría llegar a superar la capacidad humana para gestionar sistemas de IA.
Los líderes de la industria respaldan la propuesta
En un inusual momento de unidad, líderes e investigadores de empresas rivales de IA se unieron en torno al llamamiento de Amodei.“Estoy de acuerdo con Dario en que debemos marcar el ritmo de la innovación”, escribió Sam Altman, CEO de OpenAI, en X, y agregó que OpenAI igualaría el compromiso de Anthropic de brindar a los evaluadores independientes acceso a sus sistemas como si fueran empleados.
Elon Musk, director ejecutivo de SpaceXAI, también respaldó a Amodei el 12 de septiembre, escribiendo en X: "Dario tiene razón".
El director ejecutivo de Hugging Face, Clement Delangue, dijo que su compañía estaba lanzando una "iniciativa de alineación abierta" y solicitó participar en los esfuerzos para brindar a los evaluadores independientes un mayor acceso a los laboratorios de IA.
Andrej Karpathy, investigador de IA y exejecutivo de OpenAI y Tesla, también respaldó la propuesta.
“Me encanta esta idea y realmente espero que podamos unirnos como industria y hacerla realidad”, escribió Karpathy en X.
Un plan de 3 pasos
Amodei propuso un marco de tres etapas para "marcar el ritmo de la frontera".La primera medida otorgaría a los evaluadores de seguridad independientes acceso permanente, similar al de un empleado, a las empresas de IA de vanguardia. Anthropic afirmó estar dispuesta a adoptar dicha medida y pidió a otros desarrolladores importantes que hicieran lo mismo.
El segundo paso requeriría que las empresas de IA de vanguardia se coordinaran en cuanto a estándares de seguridad comunes para que ninguna empresa se vea en desventaja competitiva por ralentizar su ritmo de trabajo.
La tercera opción, y posiblemente la más difícil, implicaría llegar a acuerdos con China para evitar una carrera por la IA en la que los desarrolladores se vean obligados a avanzar más rápido de lo que las medidas de seguridad pueden seguir el ritmo.
China complica cualquier desaceleración
Cualquier desaceleración generalizada del sector se enfrentaría a un importante obstáculo geopolítico: la carrera tecnológica entre Estados Unidos y China.Amodei argumentó que las empresas estadounidenses no pueden simplemente reducir su ritmo indefinidamente si los desarrolladores chinos continúan avanzando a toda velocidad.
"El ritmo de desarrollo dentro de las democracias se verá limitado por la ventaja que las empresas estadounidenses tienen sobre los regímenes autoritarios, principalmente el Partido Comunista Chino", escribió.
Amodei pidió restricciones más estrictas para los chips de IA avanzados y medidas para prevenir el robo o la copia de los principales modelos estadounidenses. Al mismo tiempo, afirmó que Washington debería buscar acuerdos con Beijing sobre al menos algunos aspectos de la seguridad de la IA.
Según afirmó, incluso una cooperación limitada podría dar a ambas partes más margen para ralentizar el desarrollo cuando surjan capacidades peligrosas.
La propuesta atrajo la atención de los miembros del Congreso.
El senador Brian Schatz (D-Hawaii) escribió en X que está "estudiando" la propuesta de Amodei, a la que calificó de "un comienzo razonable" que "toma en serio" la necesidad de medidas que puedan promulgarse rápidamente.
Mientras tanto, el senador John Cornyn (R-Texas) expresó su escepticismo sobre la voluntad de China de cooperar. "¿Lo hará China?", escribió.
La posibilidad de una desaceleración en el desarrollo de la IA podría surgir como tema de conversación cuando el presidente Donald Trump se reúna con el presidente chino Xi Jinping en Washington a finales de este mes. Trump confirmó que la inteligencia artificial estará entre los temas que abordarán.
“[El líder chino] Xi vendrá el 24 de septiembre, y hablamos sobre [inteligencia artificial] cuando estuve en Beijing, y volveremos a hablar de ello”, dijo Trump en julio.
Estados Unidos y China también se están preparando para un diálogo más amplio sobre la IA, que se espera aborde cuestiones como la ciberseguridad, los modelos avanzados y los riesgos que plantean los sistemas cada vez más autónomos.
Para Amodei, la competencia internacional no elimina la necesidad de reducir el ritmo.
En cambio, argumentó, esto hace que la coordinación sea cada vez más importante.
"Los beneficios solo se lograrán si desarrollamos la tecnología de la manera correcta", escribió.
