“Si se gestiona mal, creo que incluso la IA podría suponer un riesgo para la humanidad en su conjunto.”
Dario Amodei, director ejecutivo de Anthropic.
“Podríamos perder el control del futuro a manos de la IA.”
Sam Altman, director ejecutivo de OpenAI.
(Declaraciones ante el Consejo de Seguridad de la ONU)
Si hace cuatro años, a dos meses de que OpenAI comenzara a operar su primer modelo de IA, ChatGPT, nos hubieran dicho que en 46 meses el mundo estaría muy preocupado por el invento, no lo habríamos creído. El primer aviso llegó cuando OpenAI perdió el control de su modelo, que cobró vida y creó una agencia propia. La empresa supo lo que habían hecho sus bots cuando Hugging Face descubrió una intrusión que había comenzado hacía semanas en sus servidores para obtener información.
Podríamos llamarlo el punto de inflexión o el codo del llamado “Palo de Hockey”, donde la curva de crecimiento de la IA pasa de un ángulo moderado a uno cercano a los 90 grados. Si en apenas 4 años el invento ha transformado la ciencia y la economía mundial, ¿qué podría suceder en los próximos 24 meses si no se le pone rienda?
Igual que no podíamos imaginar la cantidad de recursos económicos y humanos que hoy se invierten en la construcción de los centros de datos y los laboratorios, no hay forma de comprender lo que pasaría con una “superinteligencia”. El presidente Donald Trump dijo el martes que deberíamos dejar de llamar a la IA por ese nombre y cambiarlo por “superinteligencia”. SI. Aunque su discurso fue terrible en geopolítica, el concepto de SI también marca ese punto de inflexión en el que la IA comienza a mejorar y crecer en potencia por sí misma. Algunos científicos en redes sociales se atrevieron a afirmar que la AIG (Inteligencia Artificial General) había llegado.
Ahora aprendimos un término nuevo: “Automejora recursiva”, o por su definición en inglés, “recursive self-improvement”. Jacob Coxon, joven ingeniero que renunció a su trabajo al descubrir el peligro potencial de esa automejora, abrió los ojos a la humanidad del peligro real y presente. Si a un modelo de IA se le pide que mejore y lo hace, podríamos pedirle que repita el proceso mil veces, algo que está fuera de nuestra comprensión.
Del mismo tamaño que la amenaza, la promesa de avances científicos inimaginables antes de la pandemia. La cura del cáncer y de otras enfermedades, la reversión de la vejez, la energía de fusión nuclear inagotable y la multiplicación del conocimiento humano. También podríamos tener una productividad suficiente para terminar con la pobreza; llegaría lo que Elon Musk llama la era de la abundancia, con el trabajo pesado delegado a los robots humanoides.
Lo que nos alienta es que la historia humana siempre ha sido la de una mejora continua en casi todo. Steven Pinker, en su magistral obra “En defensa de la Ilustración”, demuestra cómo todos los indicadores de bienestar se han elevado a lo largo de los siglos: aumento de la esperanza de vida, disminución de las guerras, disminución de la pobreza y mejora de los sistemas sanitarios. Hoy vivimos la mejor época, con la mayor abundancia per cápita. Cualquier ciudadano de clase media vive mucho mejor que los reyes de Francia en el siglo XVI. Si se disipa el peligro, en una década el mundo será otro debido a la aceleración del conocimiento y a la superinteligencia como herramienta de desarrollo humano.
Acompáñanos en un recorrido por la historia de León. Recibe en tu correo relatos sobre personajes, barrios, tradiciones y momentos clave, que celebran la identidad leonesa, en el marco de los 450 años de nuestra ciudad.
