Sam Altman, el PT Barnum de la industria de la IA, tiene un mensaje para aquellos que están preocupados por la tecnología a cuyo avance dedicó su vida: no se preocupen, los nerds están al tanto.
Retrocedamos un poco.
Altman, el capitalista de riesgo de 39 años y CEO de OpenAI, habló con el periodista Andrew Ross Sorkin en la Dealbook Summit del New York Times este miércoles. Altman se mostró tranquilo, pero encantadoramente amable, como siempre, y casi hizo olvidar que es un multimillonario que se prepara para el fin del mundo y que también ha advertido repetidamente sobre los riesgos de la inteligencia artificial.
En un momento dado, Sorkin preguntó: “¿Tiene usted alguna fe en que el gobierno, o alguien, vaya a descubrir cómo evitar” las amenazas existenciales que plantean los sistemas de IA ‘superinteligentes’”?
El tipo tímido se desvía.
“Tengo fe en que los investigadores encontrarán la manera de evitarlo”, respondió Altman. “Creo que hay una serie de problemas técnicos en los que trabajarán las personas más inteligentes del mundo. Y, ya sabe, soy un poco demasiado optimista por naturaleza, pero supongo que lo resolverán”.
Continúa sugiriendo, sin dar más detalles, que tal vez la propia IA será tan inteligente que simplemente descubrirá cómo controlarse.
“Tenemos esta magia”, dijo Altman, antes de corregirse. “No es magia. Tenemos esta increíble pieza de ciencia llamada aprendizaje profundo que puede ayudarnos a resolver estos problemas tan difíciles”.
Ah, sí. Y ExxonMobil resolverá la crisis climática…
Es difícil no sentirse encantado con Altman, que no respondió a una solicitud de comentarios. Se comporta con la tranquilidad de saber que, incluso si su tecnología destruye la economía global, estará a salvo en su búnker costero de California. (“Tengo armas, oro, yoduro de potasio, antibióticos, baterías, agua, máscaras de gas de la Fuerza de Defensa de Israel y una gran extensión de tierra en Big Sur a la que puedo volar”, le dijo a The New Yorker en 2016).
Los ejecutivos que se hacen los favores de Trump ahora tienen que tener en cuenta al “primer amigo”
Pero para el resto de nosotros, sería bueno escuchar a Altman, o a cualquiera de sus colegas promotores de IA, explicar exactamente qué quieren decir cuando dicen cosas como “lo resolveremos”.
Incluso los investigadores de IA admiten que aún no comprenden con precisión cómo funciona realmente la tecnología. Los sistemas de IA son, en esencia, cajas negras que plantean “una amenaza de extinción para la especie humana”, según un informe encargado por el Departamento de Estado de Estados Unidos.
Incluso si los investigadores pudieran resolver la jerga técnica y resolver lo que ellos llaman el “problema de alineación” (asegurarse de que los modelos de IA no se conviertan en robots monstruosos que destruyan el mundo), Altman admite que todavía habría problemas que alguien , o algún gobierno, tendría que solucionar.
En la cumbre Dealbook, Altman volvió a dejar la responsabilidad de regular la tecnología en manos de un organismo internacional inventado de adultos racionales que no quieren matarse entre sí. Le dijo a Sorkin que incluso si “podemos hacer que ese (modelo superinteligente) sea técnicamente seguro, lo cual supongo que lograremos, tendremos que tener cierta fe en nuestros gobiernos… Tendrá que haber una coordinación global… Supongo que estaremos a la altura de las circunstancias, pero parece un desafío”.
Eso es dar muchas suposiciones y refleja una comprensión miope de cómo funcionan realmente la formulación de políticas y la coordinación global: es decir, de manera lenta, ineficiente y a menudo no funcionan en absoluto.
Es una ingenuidad que hay que admitir en el agua de los que son el uno por ciento de Silicon Valley, que están muy interesados en introducir la IA en todos los dispositivos que utilizamos a pesar de las deficiencias de la tecnología. ¡Lo que no quiere decir que sea inútil! La IA se está utilizando para hacer todo tipo de cosas interesantes, como ayudar a personas discapacitadas o mayores, como informó mi colega Clare Duffy . Y algunos modelos de IA están haciendo cosas interesantes con la bioquímica (que, francamente, están más allá de mi entendimiento, pero confío en los científicos honestos que se llevaron a casa el Premio Nobel por ello a principios de este año).
Aun así, las estrellas más brillantes en IA, que entienden el espectro del potencial de la tecnología mejor que nadie, parecen sorprendentemente indiferentes a la falta de regulaciones en torno a ella.
Tal vez el espectáculo de la ingenuidad sea parte de la imagen de Altman. En la misma entrevista del miércoles, el CEO de OpenAI hizo otras declaraciones difíciles de creer, como cuando sugirió que no está motivado por los miles de millones de dólares en acciones que podría obtener de la empresa, sino que simplemente ama su trabajo.
Y más tarde, Altman también intentó acallar las especulaciones sobre su dramática pelea con su cofundador de OpenAI, Elon Musk, quien desde entonces fundó su propia compañía de inteligencia artificial, xAI, y ascendió al círculo íntimo del presidente electo Donald Trump.
Cuando se le preguntó si le preocupaba que Musk abusara de su nueva influencia y potencialmente excluyera a los competidores de xAI y sus otros negocios tecnológicos, Altman respondió, curiosamente, que eso no le quitaba el sueño.
“Creo firmemente que Elon hará lo correcto”, afirmó. “Sería profundamente antiestadounidense utilizar el poder político, en la medida en que lo tiene Elon, para perjudicar a sus competidores y favorecer a sus propios negocios”.