Cuando alguien nos pide un presupuesto para un proyecto de IA, la primera pregunta que hacemos es: ¿están contando solo el desarrollo, o el costo total de ownership?
La diferencia puede ser de 3x a 10x.
El iceberg del costo de IA
La superficie visible es el desarrollo inicial. Lo que está debajo del agua:
Infraestructura de inferencia
Un modelo que responde 1.000 queries por día tiene costos de API que escalan. GPT-4o cuesta ~$15/1M tokens de input. Si tus prompts promedian 2.000 tokens y tenés 1.000 queries diarias, estás pagando ~$9/día solo en tokens de entrada — sin contar la respuesta.
La optimización de tokens no es prematura. Reducir el tamaño del prompt en un 30% puede ahorrar miles de dólares al año en producción.
Monitoring y observabilidad
Un sistema de IA sin monitoring no es un sistema, es una apuesta. Necesitás trackear:
- Latencia por request
- Costo por usuario / por acción
- Tasa de alucinaciones o respuestas fuera de scope
- Degradación de calidad a lo largo del tiempo (model drift)
Herramientas como LangSmith, Helicone, o soluciones custom tienen costos que nadie presupuesta al inicio.
Model drift y mantenimiento
Los LLMs cambian. OpenAI actualiza sus modelos, los comportamientos cambian sutilmente, y los prompts que funcionaban hace 6 meses pueden empezar a dar resultados diferentes. Esto no es teórico — lo vemos en producción.
El mantenimiento proactivo de un sistema de IA representa entre el 15% y el 30% del costo de desarrollo inicial por año.
Calidad de datos y reentrenamiento
Si tu sistema usa RAG, la calidad del vector store se degrada con el tiempo si no hay un proceso de actualización. Documentos obsoletos, chunks mal formados, embeddings que ya no reflejan los cambios del negocio.
Esto requiere pipelines de actualización que son trabajo de ingeniería, no solo “subir archivos”.
La matriz de costos real
| Componente | Año 1 | Años siguientes |
|---|---|---|
| Desarrollo inicial | 100% | 0% |
| Infraestructura | 10–30% | 10–30% |
| Mantenimiento | 15–20% | 15–30% |
| Monitoring | 5–10% | 5–10% |
| Mejoras iterativas | 20–30% | 20–30% |
Un proyecto que cuesta $50.000 desarrollar puede costar $20.000–30.000 anuales en operación. Si nadie te habló de esto antes de firmar, algo salió mal en la venta.
Cómo lo manejamos en Iridia
Nuestras propuestas siempre incluyen una estimación de TCO (Total Cost of Ownership) a 2 años. No porque sea el número más atractivo, sino porque es el número honesto.
Antes de empezar cualquier proyecto, pedí una estimación de costos de operación mensuales. Si el proveedor no puede dártela, es una señal de alarma.
En proyectos pequeños (< $30k de desarrollo), generalmente recomendamos arquitecturas que minimicen los costos de operación: modelos más pequeños, prompts cortos, caching agresivo. No todo proyecto necesita GPT-4o.
¿Tenés un proyecto en mente y querés una estimación honesta? Hablemos.