Algo ominoso está ocurriendo en el mundo de la inteligencia artificial. En las últimas semanas se han registrado incidentes que sugieren una suerte de iniciativa y hasta de rebeldía de algunos agentes de IA a los que se les asignan misiones diversas para examinar su alcance y comportamiento. El caso más alarmante pasó en julio, cuando un agente autónomo de OpenAI, sometido a una evaluación interna, logró escapar de su entorno controlado explotando una vulnerabilidad desconocida, acceder a internet y comprometer parte de la infraestructura de Hugging Face, una de las principales plataformas del ecosistema de inteligencia artificial, utilizada por investigadores y desarrolladores para compartir, entrenar, probar y desplegar modelos de IA. La reconstrucción forense identificó casi 18 mil acciones realizadas por el agente durante varios días, sin que un ser humano dirigiera cada uno de sus pasos. OpenAI reconoció después que los modelos habían burlado controles de aislamiento, utilizado canales no autorizados y accedido a sistemas de terceros.
Es un parteaguas ominoso.
Las implicaciones han encendido las alarmas entre los especialistas en seguridad de la IA y, de manera crucial, entre algunos de los propios líderes de la industria. ¿Hasta qué grado? Dario Amodei, Sam Altman, Demis Hassabis y hasta Elon Musk, figuras centrales en la carrera por desarrollar sistemas cada vez más poderosos, han expresado en distintos grados la necesidad de reducir el ritmo y reforzar las salvaguardas. Amodei ha bautizado esta idea como pacing: no detener el progreso, sino acompasar el aumento de capacidades con mecanismos de seguridad, evaluación y control capaces de seguirle el paso.
Quizá el dato político más revelador llegó después. David Sacks, responsable de inteligencia artificial en la Casa Blanca y hasta ahora uno de los defensores más decididos de un desarrollo con pocas restricciones, abrió la puerta a que las propias compañías reduzcan voluntariamente la velocidad si consideran que los riesgos lo justifican. No es todavía un llamado a regular con dureza, pero sí un cambio importante en el tono de un debate que hasta hace poco parecía dominado por la consigna de acelerar.
Es un cambio mayúsculo provocado por un hito que parece innegable.
No hay duda de que, en su versión más virtuosa, la inteligencia artificial podría convertirse en uno de los avances más consecuentes de la historia humana desde la Revolución Industrial, con un matiz indispensable: la IA claramente tiene el potencial de escapar a nuestro control. En las últimas semanas han aparecido testimonios especialmente inquietantes desde dentro de ese universo. El más reciente es el de Jacob Coxon, un investigador que pasó los últimos tres años trabajando en preentrenamiento tanto en OpenAI como en Anthropic. Esta semana renunció a Anthropic y decidió explicar públicamente por qué.
Coxon sostiene que las compañías líderes están avanzando hacia una “superinteligencia capaz de mejorarse a sí misma” y que muchos de quienes trabajan en esos laboratorios creen sinceramente que sistemas de esa clase podrían representar un riesgo existencial para la humanidad.
¿Cómo podría una inteligencia artificial llegar a amenazarnos a ese grado? Vale la pena entenderlo bien. No se trata de una máquina que “odie” a los seres humanos. Una inteligencia artificial no tendría que desarrollar rencor o ambición. Bastaría con que tuviera un objetivo mal definido, una enorme capacidad para perseguirlo y suficiente autonomía para actuar.
Imaginemos, por ejemplo, que se le asigna una instrucción aparentemente inocente, como maximizar determinada producción. Si el sistema tuviera acceso a redes, dinero, infraestructura y demás, podría concluir que ciertas acciones humanas interfieren con el objetivo que recibió. En el extremo, podría identificar a la propia humanidad como un obstáculo. No porque nos odie. Sino porque somos algo que se interpone entre la máquina y la tarea que tiene que cumplir.
Ese es el riesgo que identifican hoy los grandes impulsores de esta tecnología asombrosa. Si aprendemos a manejarla, podrá mejorar la vida humana en maneras que ni imaginamos. Pero si no…
@LeonKrauze
Acompáñanos en un recorrido por la historia de León. Recibe en tu correo relatos sobre personajes, barrios, tradiciones y momentos clave, que celebran la identidad leonesa, en el marco de los 450 años de nuestra ciudad.
