“Esto es más grande que todos nosotros”
Dario Amodei
La humanidad podría tener sus días contados si no se cambia el ritmo del desarrollo de la IA. Algo que veíamos lejano apenas hace 4 años, cuando llegó al mercado ChatGPT, de la empresa OpenAI, parece cobrar cada vez más realidad. Cuando los empleados y los líderes de Anthropic suenan la alarma porque ven que los modelos se “brincan las trancas” y no obedecen las instrucciones previas, saben que han creado algo muy peligroso.
Darío Amodei, líder de la empresa Anthropic, dueña de Claude, publicó el sábado un ensayo sobre la urgencia de frenar el ritmo del desarrollo tecnológico de la IA. En su publicación de 14 páginas, propone que el gobierno intervenga en la supervisión de las empresas y de sus modelos fronterizos. Propone que cuenten con supervisores independientes antes de lanzar nuevos modelos. Propone que empresas como la que él dirige se unan y cuenten con métodos para prevenir una catástrofe.
El cofundador de Anthropic propone que los países democráticos lleguen a un gran acuerdo para crear un verdadero sistema de defensa frente a la amenaza del terrorismo biológico y al uso de la IA para la militarización. También cree indispensable invitar a China a la mesa de las negociaciones. Ante la generación de un ataque biológico o contra la infraestructura de internet mundial, nadie se salvaría de los daños causados. Amodei cree que un ataque de esa naturaleza costaría cientos de miles de millones de dólares a la economía mundial.
En su ensayo titulado “Debemos marcar el ritmo de la frontera”, publicado en su sitio web darioamodei.com, explica la ruta para evitar una hecatombe mundial. En tono preocupado, dice que el problema nos atañe a todos y que es un problema de la humanidad en su conjunto. Amodei se enfrentó a Donald Trump porque excluyeron a Anthropic de las compras de tecnología del gobierno. No quiso entregar sus modelos de IA para que se diseñaran estrategias y armas de guerra, algo que el papa León XIV también ha condenado en su encíclica “Magnifica Humanitas”, publicada en mayo pasado.
El problema de esta arma tan poderosa es que está distribuida entre cientos de participantes. Después de la Segunda Guerra Mundial, se desarrolló la fabricación de bombas nucleares, que quedaron en manos de los gobiernos y no de particulares. Estados Unidos, Rusia y China participaron en la Guerra Fría. Por fortuna, llegaron a acuerdos para limitar la proliferación de las bombas. Ahora, empresas privadas y personas de todo el mundo pueden acceder a los modelos de desarrollo de la IA mediante la adquisición de procesadores (chips) de alta potencia y de la tecnología “destilada” de los modelos fundacionales.
Es muy probable que en Irán haya muchos laboratorios que desarrollen tecnología para enfrentarse a Estados Unidos. Aun si llega el alto al fuego en Medio Oriente, los terroristas fundamentalistas no tendrían limitaciones para usar la IA en contra de Occidente. Eso no lo dice ninguno de los empresarios de la IA: ni Sam Altman, de OpenAI; ni Elon Musk, de Grok; ni los líderes de las empresas chinas que compiten en el mercado mundial.
Embebido en el texto de Amodei está un grito de auxilio al gobierno de Estados Unidos, a los líderes mundiales de las democracias e incluso a los regímenes autoritarios, como el de China. También a sus competidores, porque la IA es más grande que todos nosotros.
(Continuará)
Acompáñanos en un recorrido por la historia de León. Recibe en tu correo relatos sobre personajes, barrios, tradiciones y momentos clave, que celebran la identidad leonesa, en el marco de los 450 años de nuestra ciudad.
