El CEO de Anthropic, Dario Amodei, sorprendía a todos el fin de semana con un mensaje contundente: ralentizar el desarrollo de modelos de IA avanzados. Eso, explica, nos daría tiempo para entender los riesgos. Sam Altman y Elon Musk han respaldado la idea, y Demis Hassabis y Satya Nadella también se han pronunciado a favor de la reflexión. Pero una cosa es decirlo y otra muy distinta hacerlo.
Amodei y un problema llamado China. El propio CEO de Anthropic reconoce que el «dilema más difícil» de su propuesta está en China. Si las empresas estadounidenses de IA ralentizan su desarrollo de modelos pero las chinas continúan avanzando, EEUU podría perder su ventaja en una tecnología que cada vez es más estratégica y potencialmente militar. Amodei cree que a largo plazo harán falta acuerdos entre países para frenar el ritmo, pero reconoce que hay demasiados incentivos para que unos rivales traten de adelantar a los otros.
Trump no está dispuesto a correr ese riesgo. El presidente de EEUU ha rechazado esa posibilidad, y su razonamiento es mucho más sencillo. Según él, frenar no es posible porque «quien gane la IA, gana». Aunque no descarta diseñar algún tipo de salvaguarda, sí se niega a frenar el desarrollo de modelos avanzados porque eso permitiría a China reducir la ventaja o incluso superar a EEUU en este ámbito. Es como si el comentario de Amodei le hubiera dado «gasolina» al argumento gubernamental: si la IA puede llegar a ser tan poderosa como dice Anthropic, EEUU no se puede permitir frenar su desarrollo.
Curiosamente, China también quiere reglas. Xi Jinping se ha metido de lleno en el debate y pide un marco global de gobernanza de la IA «basado en el consenso». Hasta ha presentado dicha propuesta a los países de BRICS (Brasil, Rusia, India y China) para fortalecer esa alianza. China plantea además la creación de una comunidad de IA Open Source dentro de ese bloque. O lo que es lo mismo: el discurso es muy parecido al de EEUU, aunque no lo digan de forma clara. Un periódico estatal chino ha calificado el discurso de Amodei de una táctica de la Guerra Fría. Otros hablan de que lo que está haciendo Amodei es usar la misma técnica que las instituciones religiosas han usado durante siglos enteros.
Quizás frenar sea más bien cerrar. Una de las críticas a las propuestas de Amodei es que los grandes laboratorios de IA no dejarán necesariamente de desarrollar modelos cada vez más avanzados: simplemente limitarán quién puede utilizarlos. El conocido analista Ben Bajarin cree que habrá modelos frontera de ciberseguridad reservados para gobiernos y grandes empresas —Mythos es el ejemplo perfecto—. Así pues la carrera por la IA seguirá existiendo, pero una parte cada vez mayor estaría desarrollándose tras las bambalinas, a puerta cerrada.
Hola, dilema del prisionero. EEUU y China pueden tener un interés común en evitar que aparezca una IA que nadie pueda controlar, y eso debería hacer que ambas potencias frenaran el ritmo de desarrollo. El problema es el que hemos comentado: la decisión clara para cada «jugador» es seguir corriendo mientras no haya garantías de que el rival va a detenerse. Es el viejo dilema del prisionero: dos personas pueden no cooperar incluso si ello va en contra del interés de ambas.
Las empresas tienen el mismo problema. La reflexión de Amodei y Anthropic es justo lo que el público necesita oir, pero hay una realidad: si quisieran retrasar su próximo Claude, podrían hacerlo: nadie se lo impide. El conocido emprendedor e inversor David Sacks precisamente critica esa postura de Amodei o Altman: si realmente quieren ir más despacio, pueden hacerlo sin esperar una regulación. Sin embargo Anthropic tendría que asumir que OpenAI, Google, xAI, Meta o los laboratorios chinos aprovecharían ese tiempo para alcanzarla y superarla. Y si varias empresas deciden conjuntamente no competir, quizás aparecerían preguntas regulatorias antimonopolio. El resultado: todos quieren ser prudentes, pero ninguno quiere comprometerse.
El problema también está en saber si está frenando de verdad. Durante la Guerra Fría, EEUU y la Unión Soviética podían negociar límites sobre misiles, bombarderos o cabezas nucleares y establecer mecanismos de inspección y vigilancia para que se cumplieran esos límites. Con la IA controlar el ritmo de entrenamiento es mucho más complicado. El acceso a recursos como chips o energía permite plantear puntos de control, pero el software mejora, los algoritmos son cada vez más eficientes y los modelos pueden entrenarse en sistemas distribuidos. Que EEUU confíe sin más en China y viceversa parece realmente difícil.
Fuente: www.xataka.com
