Cuánto cuesta de verdad la IA en una empresa: el 79 % de lo que le pagábamos a Gemini era pensamiento invisible

En una de nuestras aplicaciones, por cada respuesta útil de 505 tokens, Gemini cobraba 1.955 tokens de pensamiento que nadie veía: el 79 % de los tokens de salida que pagábamos. Con una línea de configuración, el costo de esa llamada bajó 82 % y la calidad se mantuvo. En la factura, la aplicación pasó de USD 93,83 en agosto a USD 6,57 en septiembre.

Publico este dato, y el gasto real de la nube de btodigital mes a mes, porque casi todo lo que se escribe sobre el costo de la IA habla de precios por millón de tokens. Nadie cuenta lo que pasa cuando la conectas a productos reales: la factura no sube por lo que usas, sube por lo que no ves.

Este artículo es para ti si eres gerente o líder técnico y tu empresa paga IA en la nube, aunque sea poca. Te llevas nuestras cifras, las causas verificadas de cada salto y cinco fugas que puedes revisar mañana con instrucciones para detectarlas.

¿Cuánto gastamos de verdad en la nube?

Esta es la cuenta de Google Cloud de la agencia, con 22 proyectos: productos propios, herramientas internas y desarrollos para clientes. Las cifras salen de la consola de facturación, no de estimaciones.

Mes de 2026	Gasto (USD)	Lo que más pesó
Marzo	163,47
Abril	152,08
Mayo	396,90
Junio	292,51
Julio	826,96	Un producto de software alojado en la cuenta, sobre Gemini 3 Pro: USD 540
Agosto	351,74	Pensamiento invisible en una aplicación y servidores siempre encendidos
Septiembre	501,58	Videos con IA para un cliente (≈ USD 138,6) y una caché perdida

Dos lecturas rápidas. Julio fue, sobre todo, un solo producto: corría sobre Gemini 3 Pro, el modelo más caro de la familia, y gastó USD 540; al ponerle control, su gasto bajó 97 %, a USD 14,87 al mes siguiente. Y septiembre sin los videos habría quedado cerca de agosto: 501,58 menos 138,6 da unos 363 dólares.

En otra cuenta, la base de datos que usa el sitio de la agencia pasó de unos COP 6.900 en julio a COP 23.900 en agosto y COP 98.100 en septiembre. Poca plata en absoluto, pero catorce veces más en dos meses. Te explico abajo por qué.

¿Por qué el pensamiento invisible cuesta tanto?

Desde la versión 2.5, Gemini razona antes de responder, y lo hace por defecto. Esos tokens de razonamiento se cobran como tokens de salida, que son los caros (USD 2,50 por millón en Gemini 2.5 Flash cuando lo medimos). Si tu código llama al modelo sin configurar el razonamiento, ese costo no aparece en la respuesta. Solo aparece en la factura.

Lo medimos con el prompt real de la aplicación, dos llamadas seguidas a Vertex AI, leyendo el campo que reporta los tokens de pensamiento:

Configuración	Salida útil	Pensamiento	Tokens facturados
Por defecto	505	1.955	2.460
Razonamiento apagado (thinkingBudget: 0)	455	0	455

−82 % de costo en esa llamada, y la calidad se mantuvo. La tarea era generar textos con límites estrictos de caracteres (50 a 60 y 140 a 160) y los cumplió con las tildes correctas.

Hay un agravante que vale oro: el prompt decía algo como «cuenta cada carácter con cuidado antes de responder». Ese tipo de instrucción dispara el razonamiento. Para tareas de formato o de generación estructurada, pensar más no mejora el resultado: solo lo encarece.

Y no es solo plata. El razonamiento también se come el límite de salida: nos ha pasado que un JSON llega cortado o vacío porque el modelo gastó su presupuesto pensando. Lo conté con detalle en el artículo sobre el retiro de Gemini 2.5, junto con lo que cambia en Gemini 3, donde el control pasa a ser por niveles y no existe un cero exacto.

¿Qué más se estaba yendo por el desagüe?

Un blog releído cada cinco minutos. El sitio de la agencia guardaba en memoria unos 482 documentos, incluido el blog completo (cerca de 25 MB), y los volvía a leer desde la base de datos cada cinco minutos en cada instancia del servidor. Eso solo eran unos 7,2 GB diarios de tráfico desde la base de datos. Ahora cada instancia consulta una marca de versión cada cinco minutos y solo recarga todo si algo cambió, con una recarga completa de respaldo cada hora.

Una caché de tokens perdida por poner la hora en el prompt. Nuestro producto de agentes de WhatsApp procesó en septiembre 163,6 millones de tokens de entrada con 0 % de caché, y pagó USD 49,09 por ellos. La causa: el prompt ponía la hora (hora y minuto) a unos 470 tokens del inicio. La caché implícita de Gemini reutiliza el comienzo idéntico de los prompts, con un mínimo de 1.024 tokens; si la hora cambia cada minuto, el comienzo nunca se repite. Otro proyecto que ponía solo la fecha lograba cerca del 47 %. Movimos la fecha, la hora y el nombre del contacto al final del prompt. En ocho llamadas seguidas por marca medimos 20 %, 36 % y 45 % de tokens en caché: mejor que cero, pero la caché implícita es de mejor esfuerzo y no acierta siempre.

Servidores encendidos para nadie. En julio, un servicio de Cloud Run configurado para tener entre una y tres instancias corría seis, fijas, las 24 horas. Cinco revisiones antiguas tenían una etiqueta y cada una heredaba el mínimo de una instancia encendida, aunque no recibieran tráfico. Cerca del 80 % de ese cómputo era desperdicio. En agosto, ocho servicios con una instancia mínima siempre activa sumaron USD 48,33 en 23 días; uno de ellos no recibió ni una petición en ese tiempo.

Una base de datos que subió por un sincronizador. Un proceso que sincroniza documentos cada hora tardaba de 6 a 10 minutos por corrida y el 1 de octubre se cortó por tiempo en 12 de 24 corridas. Sumaba entre 2,5 y 3 GB diarios desde mediados de septiembre. Además, el módulo de comunidad reescribía imágenes sin comparar si habían cambiado, y la base de datos cobra igual una escritura que no cambia nada. Ahora el sincronizador tiene un tope de tiempo, lee solo los campos que necesita (240 KB en lugar de 3,1 MB) y las imágenes solo se escriben si cambiaron.

Videos con IA. Unos USD 138,6 en septiembre y otros 39 el 1 de octubre, para un proyecto de videos generados con IA. Esto no es una fuga: es trabajo para un cliente. Pero mis notas decían unos 133 dólares y el costo real fue mayor, porque la clave de API era compartida con otros proyectos y no se veía quién gastaba qué.

¿Cuánto ahorramos?

Arreglo	Antes	Después	Estado
Razonamiento apagado en una aplicación	USD 93,83 (ago)	USD 6,57 (sep)	Medido en factura
Producto sobre Gemini 3 Pro	USD 540 (jul)	USD 14,87 (ago)	Medido en factura
Caché del agente de WhatsApp	0 % de caché	20 a 45 %	Medido en pruebas; ~USD 13 al mes estimados
Base de datos del sitio (3 arreglos del 2-oct)	COP 98.100 (sep)	Pendiente	Se mide desde el 5-oct
Imágenes de contenedores acumuladas	Política de 30 días	Política de 14 días	~USD 8 a 9 al mes estimados

Los arreglos de la base de datos se desplegaron el 2 de octubre y la medición empieza el 5 de octubre, cuando haya días completos sin el comportamiento anterior. Al escribir esto no tengo el resultado y no voy a adelantarlo: la expectativa es que esa cuenta baje a la mitad, pero es una expectativa. Actualizaré este artículo con la cifra de octubre completo.

Lo que aprendimos

Los estimados de ahorro suelen ser optimistas. Calculamos que arreglar la caché del agente de WhatsApp ahorraría de 20 a 35 dólares al mes. Medido, son unos 13. Y el costo de los videos fue mayor que el anotado. Si vas a justificar un arreglo con un ahorro, mídelo después; el estimado casi siempre es generoso.

Una alerta que suena todos los meses deja de ser alerta. El presupuesto de la cuenta quedó desfasado desde mayo, así que la alerta del 150 % se volvió rutina y no avisó a tiempo de nada.

Medir mal es fácil. La herramienta de línea de comandos de Google Cloud no da dólares: la fuente confiable es la consola de facturación agrupada por SKU. Y una métrica que parece obvia, el conteo de instancias, infla el resultado unas cien veces si la promedias, porque no reporta los momentos en que vale cero. Para costos de Cloud Run, la métrica correcta es el tiempo de CPU y memoria asignado.

Antes de optimizar, revisa de dónde vienen las llamadas. El 29 de septiembre un proyecto consumió 22,9 millones de tokens en un día, unos USD 7. Parecía el bot de WhatsApp. Eran 3.417 llamadas de un script que corría en un computador. Sin revisar el origen de las llamadas, habríamos «optimizado» el bot equivocado.

¿Qué 5 fugas de costo puedes revisar mañana?

1. Pensamiento invisible. Cómo detectarlo: haz una llamada de prueba y lee usageMetadata.thoughtsTokenCount; en la consola de facturación, agrupa por SKU y compara los tokens de salida con y sin razonamiento. Si la tarea es de formato, extracción o clasificación, apaga el razonamiento o usa el nivel más bajo, y mide la calidad.
2. Caché de prompt perdida. Cómo detectarla: lee usageMetadata.cachedContentTokenCount en llamadas seguidas con el mismo prompt. Si da cero, busca fecha, hora, nombre del usuario o cualquier dato variable al comienzo del prompt y muévelo al final.
3. Servidores encendidos sin tráfico. Cómo detectarlos: en Cloud Monitoring, el tiempo facturable de instancias por día; una línea plana es capacidad reservada, no tráfico. Revisa también las etiquetas de tráfico de cada servicio: una revisión etiquetada con 0 % de tráfico y mínimo de una instancia es una fuga. Como referencia: uno de nuestros servicios atendió 770.640 peticiones en 23 días por USD 2,02, con mínimo cero.
4. Lecturas repetidas en la base de datos. Cómo detectarlas: compara las lecturas y el tráfico de salida de la base de datos con el tráfico real de tu aplicación. Cachés que recargan todo cada pocos minutos y pantallas que consultan cada 15 segundos son los sospechosos habituales. En una de nuestras bandejas de mensajes, una sola pestaña abierta y sin uso hizo 94.000 de las 102.000 lecturas de una hora.
5. IA disparada por tráfico basura. Cómo detectarla: cuenta las llamadas al modelo por ruta o por evento. Nuestro sitio llamaba a Gemini en cada página no encontrada para sugerir contenido: 1.688 llamadas en un día, casi todas de escáneres automáticos. Con un filtro de rutas, el mismo día habría tenido 53.

Y una regla de fondo: cada gasto de IA debe poder asignarse a un proyecto o a un cliente. Una clave compartida esconde quién gasta, y lo que no se puede asignar no se puede discutir.

Si quieres ver cómo convertimos esa disciplina en informes que se arman solos, lo conté en el informe que se arma solo. Y si prefieres que revisemos juntos tu factura de IA, así trabajo como consultor de inteligencia artificial.

Preguntas frecuentes

¿Qué son los tokens de pensamiento de Gemini? Son los tokens que el modelo genera al razonar antes de responder. No aparecen en la respuesta, pero se cobran como tokens de salida. En Gemini 2.5 el razonamiento está activo por defecto.

¿Apagar el razonamiento empeora las respuestas? Depende de la tarea. En nuestra prueba, para generar textos con límites de caracteres, la calidad se mantuvo y el costo bajó 82 %. En tareas que de verdad requieren razonar, puede empeorar. Por eso hay que medir con casos reales antes de decidir.

¿Cómo sé cuánto pago en pensamiento invisible? Lee el campo thoughtsTokenCount en la respuesta de una llamada de prueba, o agrupa la facturación por SKU y compara los tokens de salida con y sin razonamiento.

¿Qué es la caché implícita y por qué la perdíamos? Es un descuento automático cuando varios prompts comparten el mismo comienzo, de al menos 1.024 tokens. La perdíamos porque poníamos la hora cerca del inicio del prompt, así que el comienzo nunca era igual.

¿Cuánto debería gastar una empresa en IA en la nube? No hay una cifra universal. Nuestra cuenta, con 22 proyectos, osciló entre USD 152 y USD 827 al mes entre marzo y septiembre de 2026. Más útil que la cifra es saber qué explica cada salto: en nuestro caso, casi siempre fue una configuración, no el uso.

¿Cuándo publicarán el ahorro de la base de datos? La medición empieza el 5 de octubre de 2026. Actualizaré este artículo cuando tenga octubre completo, con la cifra medida en la factura.