Si has intentado comprar electrónica nueva últimamente, desde consolas de videojuegos hasta iPhones, habrás tenido precios cientos de veces más altos que hace incluso un año. Esto se debe a que el precio de la RAM sigue subiendo mientras las empresas de IA compiten por construir centros de datos que satisfagan las insaciables demandas de cómputo de los modelos LLM vanguardistas. Mucha gente piensa que no poder comprar RAM para productos de consumo a un precio razonable es algo malo. Sam Altman, de O penAI, no está de acuerdo.
«Mucha gente quiere una inferencia local», dijo recientemente el ejecutivo cuya empresa se espera que salga a bolsa en algún momento del próximo año al podcast Cheeky Pint. «Y de alguna manera, asumen que el problema ya está resuelto porque vamos a tener modelos de código abierto, vamos a poder ejecutarlos en nuestros ordenadores, y así no vamos a necesitar todo lo que hay en el centro de datos.»
Actualmente hay un debate en el mundo de la IA sobre si el futuro serán personas ejecutando modelos «ligeros» de código abierto en dispositivos locales, como teléfonos y portátiles, o si todos los modelos de IA significativos se ejecutarán desde la nube, es decir, centros de datos masivos controlados exclusivamente por gigantes tecnológicos. Altman está tomando firmemente el lado de los centros de datos, y por tanto las empresas que actualmente compran toda la memoria disponible, haciendo que los precios se disparen durante años en el proceso.
«Pero desde la perspectiva de la asignación global, en realidad, es bastante terrible que todo el mundo tenga una gran parte del limitado suministro mundial de DRAM en su propio ordenador y que se use el cinco por ciento del tiempo», continuó Altman. «Quieres la máxima utilización en la nube si intentas lidiar con este entorno tan limitado de suministro. Y de alguna manera, la intuición de todos—de mucha gente es lo contrario de eso.»
Estas proclamaciones de «toda tu RAM nos pertenece» se pronunciaron entre sorbos de una IPA que se va calentando poco a poco (todos los CEOs de la tecnología ahora se ven obligados a hablar de momentos históricos mundiales mientras se toman cervezas torpemente en podcasts), pero tendrán consecuencias de gran alcance si realmente se cumplen. No es difícil imaginar un futuro en el que todo se alquile, no solo películas y hojas de cálculo de Google, sino también los modelos de IA que estas empresas esperan que microgestionen y, en última instancia, moneticen cada momento libre de tu vida.
Poder jugar a Grand Theft Auto 6 localmente una vez que se adapta a PC es un desperdicio para Altman. Transmite desde la nube entre centros de datos quemando tokens para extraer la web y recomplátelo por resúmenes generados por IA. Mejor aún, haz que los agentes de ChatGPT pujen en tu nombre contra otros agentes por cuánto te vale la pena el cálculo extra para dar una vuelta nocturna por Vice City. Por favor, aplaudan.
Este artículo ha sido traducido de Kotaku US por Agustín Azcarate. Aquí podrás encontrar la versión original.