El 1 de noviembre se informó que Sam Altman, CEO de OpenAI, participó recientemente en el podcast «Cheeky Pint» de Patrick Collison, cofundador y CEO de Stripe. En una conversación informal, Altman hizo una valoración controvertida sobre los problemas más delicados de la industria de la IA: la escasez de capacidad de procesamiento y memoria. Argumentó que ejecutar IA localmente en ordenadores personales con memoria DRAM limitada representa una pésima asignación global de recursos.

¿Ejecutar la IA localmente supone un desperdicio de memoria DRAM?.

Al hablar sobre la escasez de memoria en el programa, Altman señaló con el dedo a la «inferencia local». Dijo: «Mucha gente quiere inferencia local y, de alguna manera, creen que el problema está resuelto, porque tenemos modelos de código abierto que podemos ejecutar en nuestros propios ordenadores, así que no necesitamos esas cosas en el centro de datos».

Pero luego señaló: «Desde la perspectiva de la asignación global de recursos, es bastante perjudicial que todos tengan sus hogares repletos de memoria DRAM, un recurso escaso a nivel mundial, que solo se utiliza el 5% del tiempo». Altman recalcó que, en un entorno de suministro extremadamente limitado, «lo que se necesita es maximizar la utilización en la nube. Sin embargo, la intuición de muchas personas es precisamente la contraria».

Los comentarios de Altman sobre que la inferencia local es un «desperdicio de memoria» inevitablemente reflejan un interés personal. Esto se debe a que el modelo de negocio de OpenAI se basa en el acceso de pago a modelos de código cerrado en la nube; Si los modelos de código abierto pudieran funcionar correctamente en dispositivos locales, la demanda de suscripciones podría disminuir. Los críticos podrían señalar fácilmente que el director ejecutivo está defendiendo los requisitos de memoria de su propio centro de datos.

Dejando de lado las motivaciones, el problema de asignación de recursos que señala Altman no carece de fundamento. Con la escasez de DRAM y el continuo aumento de los precios, la cuestión de si la memoria, globalmente escasa, debe priorizarse para clústeres de inferencia en la nube que operan las 24 horas del día, los 7 días de la semana, o distribuirse entre millones de PC que en su mayoría están inactivas, es sin duda una cuestión de eficiencia crucial. El verdadero problema radica en que esta decisión no debería recaer en el director ejecutivo de una empresa de IA en la nube, y no todas las empresas ni los usuarios individuales están dispuestos a enviar su información privada a la nube.

La «mano invisible» está fallando.

Altman no ocultó la gravedad de la escasez de memoria. Cuando se le preguntó sobre el progreso de la solución, su respuesta fue simplemente: «Mal».

Señaló con el dedo el trauma histórico de los fabricantes de memorias. Altman explicó que los fabricantes de DRAM habían experimentado un ciclo brutal de «invertir 20.000 millones de dólares en aumento de capacidad para recuperar solo 19.000 millones», tambaleándose repetidamente al borde de la quiebra debido a la sobreexpansión. Por lo tanto, incluso con el aumento actual de la demanda de IA, estos fabricantes siguen siendo inusualmente conservadores en sus gastos de capital. Utilizó un concepto económico clásico para describir esta situación: «Creo que la ‘mano invisible’ está fallando».

Esta evaluación se ve respaldada por datos reales. SK Hynix anunció esta semana un beneficio operativo trimestral récord y advirtió que la escasez de memoria podría prolongarse hasta 2030; el beneficio trimestral de Samsung también alcanzó un nuevo máximo por cuarto trimestre consecutivo. Los fabricantes de memoria se benefician de un mercado favorable para los vendedores, mientras que los fabricantes de PC, teléfonos móviles y consolas de videojuegos sufren el vertiginoso aumento de los costes.

La superinteligencia no es rival para los «equipos de agentes inteligentes».

Otro punto destacable que Altman mencionó en su entrevista fue su oposición específica al concepto de una «superinteligencia única». Le disgusta el término «enjambres de agentes» y prefiere llamarlos «equipos de agentes».

Su razonamiento fue: «Intuitivamente, prefiero tener un billón de IA con una inteligencia ligeramente superior a la de los humanos en la sociedad que una IA con un coeficiente intelectual de un billón». Altman cree que un gran número de IA con capacidades ligeramente superiores a las humanas, que compiten y se equilibran entre sí, se acerca más a la forma en que la sociedad humana mantiene su vitalidad que concentrar todas las capacidades en un solo sistema.

Esta postura también se ha extendido a los debates sobre seguridad. Cuando se le preguntó si era posible crear entornos aislados (sandboxes) para modelos que superaran con creces las capacidades humanas, Altman respondió: «Los entornos aislados funcionan hasta cierto punto, la vigilancia funciona en mayor medida, pero, en última instancia, se necesita una enorme confianza en la precisión del modelo». Admitió con franqueza: «Si te enfrentas a una IA un millón de veces más inteligente que el investigador de seguridad humano más brillante, ¿estás realmente dispuesto a confiar en ese entorno aislado?».

Avances matemáticos y la convergencia de los tiempos.

Respecto a los recientes avances de OpenAI en matemáticas, Altman reveló que la compañía redujo deliberadamente sus límites de capacidad de cálculo durante una semana, lo que permitió al modelo abordar problemas de gran complejidad a plena capacidad. Resolver las ecuaciones de Navier-Stokes costó entre 10 y 20 millones de dólares. Predice que la misma demostración podrá repetirse un año después con solo el 1% de ese costo.

Pero en medio de la euforia, Altman describió una emoción inesperada: «Estuve despierto casi todas las noches siguientes porque estaba demasiado emocionada para dormir. Estaba sumamente emocionado y feliz, pero también sentí más tristeza y melancolía de lo esperado, y la sensación de que algo estaba llegando a su fin». Comparó esta sensación con presenciar el fin de una era: los problemas que los antropólogos habían intentado resolver durante décadas se desmoronaron uno tras otro ante el nuevo modelo.

También reveló inadvertidamente el nombre en clave del modelo interno: «Nombre del modelo: Sujétame la cerveza». Comentó que ver a este modelo aborda uno de los problemas más difíciles en la trayectoria académica de investigadores de diversos campos era «increíble».

Fijación de precios mediante tokens: una unidad de negocio “ficticia”.

En el ámbito empresarial, Altman ofreció una crítica sincera del mecanismo de facturación basado en tokens, tan extendida en la industria de la IA. En el podcast, calificó los tokens como «una unidad ficticia»: «En cierto modo, son reales, pero no son una buena unidad. Desde la perspectiva del valor empresarial, son falsos».

Sin embargo, también admitió que la demanda de los consumidores por un «consumo transparente» es tan fuerte que la industria ha tenido que mantener este mecanismo. En una ocasión, preguntó a los usuarios si estarían dispuestos a pagar un precio más alto por el mismo producto, pero con una cantidad de tokens más consistente: «Aunque inflamos los tokens, dirían: ‘Prefiero que inflen los tokens para pagar más, porque sé que hay algo real ahí fuera'».