Esta publicación nace de una idea de Javier Escribano que me parece especialmente acertada: la historia del precio de los tokens se entiende mucho mejor si se mira como una repetición de la historia de la computación. Primero hubo mainframes carísimos en manos de muy pocos. Después llegó el time-sharing, es decir, pagar por minutos de cómputo. Más tarde las empresas pudieron tener sus propios servidores. Luego llegó el PC. Y finalmente el ordenador terminó en el bolsillo.
El paralelismo con la IA es bastante evidente. Hoy los grandes laboratorios funcionan como aquellos mainframes: infraestructura muy cara, concentrada en pocas manos y alquilada por uso.La unidad ya no es el minuto de CPU, sino el token. OpenAI, Anthropic, Mistral AI, OpenRouter, Google y otros proveedores venden acceso a modelos frontera de una forma muy parecida a como se alquilaba capacidad de cómputo cuando comprar un ordenador era imposible para casi cualquier empresa.
La pregunta es si vamos a depender siempre de ese esquema. Desde la parte de infraestructura, mi respuesta cada vez es más clara: no para todo. Veremos un modelo híbrido en el que los modelos frontera seguirán siendo necesarios para tareas complejas, pero una parte creciente del trabajo diario se ejecutará sobre modelos open source, modelos ligeros o modelos especializados desplegados en infraestructura propia, cloud privado o bare-metal gestionado.
Del pago por token al servidor propio de IA
Javier apunta que el precio de los tokens ya está cayendo con rapidez y recuerda que GPT-4 salió en 2023 a 30 dólares por millón de tokens de entrada, mientras que modelos actuales equivalentes o más baratos se sitúan muy por debajo de esa cifra en muchos casos. Su lectura es que el mercado se está comoditizando con la misma lógica que antes siguió el hardware.
Esa caída de precio cambia la conversación, pero no elimina el problema. Cuando una empresa empieza con IA, el gasto por token suele parecer asumible. Un piloto, unos cuantos usuarios, algunos flujos internos. El problema aparece cuando la adopción crece. Agentes que iteran durante minutos, asistentes que leen documentos largos, herramientas que resumen llamadas, copilotos internos, procesos de backoffice, soporte, análisis de logs, generación de informes. El token deja de ser una curiosidad y se convierte en una línea seria del presupuesto.
Ahí empieza el salto que ya estamos viendo en clientes y conversaciones de infraestructura: “¿por qué tengo que pagar al modelo más caro para tareas que no lo necesitan?”. Muchas organizaciones no quieren ejecutar en local todo su stack de Inteligencia Artificial. Lo que quieren es dejar de enviar a modelos frontera aquello que puede resolver un modelo más pequeño, más barato y bajo su control.
No se trata de una postura romántica a favor del open source. Es una decisión económica y operativa. Si una tarea es repetitiva, interna, predecible y no exige el mejor razonamiento del mercado, tiene sentido estudiar si puede correr en infraestructura propia. Si además maneja datos sensibles, documentación interna o requisitos de cumplimiento, el argumento se refuerza.
Zylon es un buen ejemplo de esta dirección. La compañía presenta su infraestructura como una solución de IA generativa privada y on-premise para sectores regulados, con despliegue dentro de la infraestructura empresarial y sin dependencia de nube externa. Además, su PrivateGPT 1.0 se define como una capa API open source para construir aplicaciones privadas de IA sobre servidores de inferencia locales o autoalojados.
Pero este movimiento no va solo de Zylon. Va de una transición más amplia: pasar de usar siempre APIs externas a diseñar una arquitectura de IA con varios niveles de cómputo.
La arquitectura ganadora será híbrida
Creo que la arquitectura razonable para muchas empresas no será “todo cloud” ni “todo local”. Será una mezcla.
Los modelos frontera seguirán teniendo sentido para tareas de alto valor: razonamiento complejo, planificación, revisión crítica, generación avanzada, problemas ambiguos o flujos donde la calidad adicional compensa claramente el coste. Pero una gran parte de los usos empresariales no necesita el modelo más potente en cada llamada.
Ahí entran modelos open source, modelos pequeños, cuantizados, especializados o ejecutados en servidores propios. También entran estrategias como separar ejecución y criterio: un modelo barato ejecuta la mayor parte del trabajo y un modelo superior entra solo como asesor cuando hay una decisión difícil. Anthropic ya ha formalizado patrones de este tipo con su enfoque de advisor, donde un modelo executor puede consultar a un modelo más capaz sin cederle el control completo del flujo.
La cuestión no es elegir un modelo. Es diseñar una política de uso de modelos.
En Stackscale ya vemos ese “salto al servidor propio” desde la infraestructura. No siempre significa comprar una caja física para ponerla en una oficina. Puede ser un entorno de cloud privado, bare-metal, GPU dedicada, plataforma gestionada, almacenamiento aislado, red privada y políticas de seguridad adaptadas. Lo importante es que la empresa deja de depender de facturar cada interacción contra un proveedor externo para todo lo que hace.
Ese cambio también obliga a ser honestos. Autoalojar IA no siempre es más barato. Depende de la utilización, de la concurrencia, del hardware, de la operación, del modelo elegido y del perfil de carga. Un trabajo reciente sobre estimación de costes en infraestructura LLM advierte precisamente de que asumir utilización fija de GPU lleva a errores grandes: con baja o media carga, el coste efectivo por millón de tokens puede variar mucho por infrautilización.
Esto es importante porque evita caer en el discurso fácil. Montar tus propios modelos puede ahorrar mucho dinero si hay volumen, estabilidad de carga y equipo para operarlo. Pero puede salir caro si se compra hardware que pasa la mayor parte del tiempo parado. El cálculo no es “API cara frente a servidor gratis”. El cálculo real es coste por tarea útil, con seguridad, latencia, mantenimiento, disponibilidad y evolución de modelos incluidos.
Dónde quedará el valor
Si el patrón histórico se cumple, los modelos generalistas tenderán a comoditizarse. No desaparecerán. Al contrario, serán más potentes y más accesibles. Pero cada vez será más difícil construir una ventaja sostenible únicamente sobre “tener acceso a un modelo generalista”. Ese acceso lo tendrán todos.
El valor se moverá a las capas superiores.
Estará en los datos propios, en la integración con procesos reales, en la experiencia de usuario, en los flujos verticales, en la seguridad, en el cumplimiento, en la trazabilidad, en la capacidad de medir resultados y en saber qué modelo usar en cada momento. Igual que el valor no se quedó para siempre en “tener un servidor”, sino en lo que las empresas construyeron encima de esa infraestructura.
Una empresa no necesita “IA” en abstracto. Necesita reducir tiempos de soporte, revisar contratos, automatizar reporting, acelerar desarrollo, auditar configuraciones, asistir a comerciales, ayudar a técnicos de campo, analizar incidencias o mejorar decisiones. Para eso, el modelo es solo una pieza. La parte difícil es convertirlo en producto, proceso y ventaja operativa.
Por eso me interesa tanto el paralelismo de Javier. La historia no dice que los grandes proveedores vayan a dejar de importar. IBM no dejó de importar de golpe cuando aparecieron servidores más pequeños. Los cloud públicos no dejaron de importar cuando las empresas siguieron usando infraestructura propia. Lo que cambia es el reparto.
Mi apuesta es que entre 2027 y 2030 muchas organizaciones descubrirán que no necesitan enviar todo a un modelo frontera. Usarán los mejores modelos cuando compense y ejecutarán mucho más trabajo sobre modelos propios o privados. La decisión de modelo pasará de ser una elección individual de cada usuario a una decisión de arquitectura.
Ahí es donde las empresas deberían empezar ya: inventariar usos, medir consumo, clasificar tareas, separar datos sensibles, probar modelos locales, evaluar costes reales y construir una capa de gobierno. No para salir mañana de las APIs de OpenAI, Anthropic, Mistral AI o Google, sino para no depender de ellas en todo.
El futuro no será dejar de pagar tokens. Será pagar tokens solo donde tengan sentido.
Preguntas frecuentes
¿Significa esto que las empresas dejarán de usar modelos frontera?
No. Los modelos frontera seguirán siendo útiles para tareas complejas, razonamiento avanzado y casos donde la calidad compense el coste.
¿Cuándo tiene sentido ejecutar modelos en infraestructura propia?
Cuando hay volumen suficiente, datos sensibles, tareas repetitivas, necesidad de control o costes por token difíciles de justificar a escala.
¿Autoalojar IA siempre es más barato?
No. Depende de la utilización del hardware, concurrencia, mantenimiento, soporte, energía, seguridad y operación. Hay que medir coste por tarea, no solo precio por token.
¿Qué papel tendrán los modelos open source?
Serán cada vez más importantes para cargas internas, RAG privado, automatizaciones, asistentes especializados y tareas que no requieren el modelo más avanzado.
¿Dónde estará el valor si los modelos se comoditizan?
En las capas verticales: datos propios, integración con procesos, seguridad, experiencia de usuario, gobierno, métricas y productos concretos para sectores concretos.
Fuentes:
Javier Escribano, La historia nos enseña cuál será el precio de los tokens.
Zylon, infraestructura privada de IA para sectores regulados.
PrivateGPT, documentación sobre su capa API local para aplicaciones privadas de IA.
Anthropic/Zylon, lanzamiento de PrivateGPT 1.0 y enfoque de backend privado de IA.
Chitral Patil, Beyond Per-Token Pricing: A Concurrency-Aware Methodology for LLM Infrastructure Cost Estimation.
No hay comentarios:
Publicar un comentario