¿Quién es Emmett Shear, el nuevo jefe de OpenAI?
Shear cree que hay un riesgo alto de que la inteligencia artificial tome conciencia de sí misma, inicie un proceso de automejora continua y acabe destruyendo a la humanidad.
Por Miguel Jiménez, de El País, para AM Guanajuato
¿Quién es la persona adecuada para dirigir una empresa puntera en inteligencia artificial (IA) con Microsoft como principal socio? Tras el despido de Sam Altman, los consejeros independientes de OpenAI han pensado que el ideal es Emmett Shear, una persona que ve la inteligencia artificial como una amenaza para la humanidad y que odiaba a Microsoft. A ChatGPT nunca se le habría ocurrido.
Shear, de 40 años, se ha definido a sí mismo como un doomer, un fatalista o apocalíptico. Pertenece al grupo de los que creen que hay un riesgo alto de que la inteligencia artificial tome conciencia de sí misma, inicie un proceso de automejora continua y acabe destruyendo a la humanidad. Algo así como Terminator, pero sin viajes en el tiempo. Se ha mostrado partidario de frenar el desarrollo de la inteligencia artificial para minimizar los riesgos.
“Tengo una preocupación muy específica con la IA”. Shear explicaba que la inteligencia artificial puede ser capaz de programar, diseñar microprocesadores, materiales, energía y todo lo necesario para construir más inteligencia artificial, entrando en un ciclo en que cada IA mejorará a la siguiente de forma cada vez más rápida.
“Ese tipo de inteligencia es algo intrínsecamente muy peligroso”, indicaba, antes de referirse a la secuencia de argumentos y condicionantes que acaba de explicar: “Sé que Eliezer (Yudkowsky, un activista de la seguridad en la inteligencia artificial) piensa que estamos todos condenados con seguridad. Compro su argumento de la destrucción, compro la cadena lógica, pero mi probabilidad de destrucción es como entre el 5% y el 50%, un rango muy amplio”, indicaba.
Aun así, lo consideraba aterrador: “Eso debería hacer que te cagues en los pantalones. Y no es solo la extinción a nivel humano. Extinguir humanos ya es bastante malo. Es como, la destrucción potencial de todo valor en el cono de luz. No solo para nosotros, sino para cualquier especie alienígena atrapada en la estela de la explosión. Es como una bomba destructora del universo”, añadía, comparando el riesgo de la inteligencia artificial con que alguien inventara una forma de hacer bombas nucleares 10 veces más potentes solo con arena y lejía.
Exitoso y emprendedor
¿Por qué eligieron a Shear?
“Hacía poco que había dimitido de mi cargo de CEO de Twitch debido al nacimiento de mi hijo, que ahora tiene nueve meses. Pasar tiempo con él ha sido tan gratificante como pensé que sería, y estaba evitando felizmente un empleo a tiempo completo. He aceptado este trabajo porque creo que OpenAI es una de las empresas más importantes que existen en la actualidad. Cuando el consejo compartió la situación y me pidió que aceptara el puesto, no tomé la decisión a la ligera. En última instancia, sentí que tenía el deber de ayudar si podía”, explicó este lunes como parte de un largo mensaje.
Futuro en el aire
Como curiosidad, cuando se pregunta a ChatGPT quién sería un buen consejero delegado para OpenAI, su lista de cinco es la siguiente: el fundador de Tesla y SpaceX, Elon Musk; el jefe de Microsoft, Satya Nadella; el cofundador de DeepMind Demis Hassabis; la anterior directora de operaciones de Facebook, Sheryl Sandberg, y el cofundador de Coursera Andrew Ng.
Una alternativa para la mayor parte de las tareas sería poner al frente una inteligencia artificial, pero eso es idea de Emmett: “Sin ironías. La mayor parte del trabajo de director general (y la mayoría de los puestos ejecutivos) es muy automatizable. Por supuesto, hay decisiones clave que no se pueden sustituir”, tuiteó la víspera del despido de Sam Altman.
RSV
Las 8AM
Recibe gratis por email las 8 noticias esenciales de AM, antes de las 8:00 a.m.