4 millones de mensajes con IA al mes: la infraestructura detrás
Superamos los 4 millones de mensajes con IA al mes. Detrás hay una decisión de ingeniería: tratar la IA conversacional como infraestructura crítica y observable, para empresas que no pueden parar.

Marlos Carmo
Fundador de Tolky
Actualizado el 15 de noviembre de 2026

Compartir
Superamos la marca de 4 millones de mensajes con IA procesados por mes (dato interno de Tolky, medido en junio de 2026, cuando se publicó este hito). Son conversaciones reales, con clientes reales, en operaciones que no pueden parar: atención, ventas, cobranza, soporte y relaciones funcionando en lenguaje natural, de día y de noche, en empresas que dependen de ello para facturar.
Es un número que nos gusta celebrar. Pero, internamente, significa otra cosa: 4 millones de oportunidades al mes de romper la confianza de alguien. Cada mensaje es un cliente esperando una respuesta, un pago en juego, una queja que puede convertirse en demanda, un lead que decide comprar o desistir. En IA conversacional, el volumen no es un trofeo: es una responsabilidad.
Y aquí está la tesis de este artículo, la misma que guía nuestra ingeniería: la IA relacional solo funciona a escala si hay infraestructura de verdad por debajo. No basta con un buen modelo y un prompt astuto. Lo que sostiene millones de conversaciones con calidad es lo que nadie ve. Es exactamente eso lo que separa un piloto que deslumbra en la demo de una operación que aguanta todo el año.
Lo que "4 millones de mensajes" realmente exige
Cuando una empresa decide poner la IA en el centro de sus relaciones, no está pidiendo un chatbot. Está pidiendo que la conversación se convierta en un canal crítico de negocio, al mismo nivel que el ERP, la pasarela de pago o el core bancario. Y un canal crítico tiene requisitos que no son negociables:
- Disponibilidad. Si la IA se cae en un Black Friday, en un cierre de mes de cobranza o en una crisis de imagen, no es "un bug": es ingresos perdidos y clientes furiosos en tiempo real.
- Latencia estable bajo carga. Responder rápido con volumen bajo es fácil. Mantener esa velocidad cuando el volumen se multiplica varias veces en una campaña (una acción de marketing o un cierre de cobranza, por ejemplo) es un problema de arquitectura, no de modelo.
- Consistencia. La misma pregunta no puede tener una respuesta segura hoy y una alucinación mañana porque algo en la cadena se degradó en silencio.
- Aislamiento de datos. Cada cliente opera sobre sus propios datos, sin filtraciones entre cuentas, con una traza de quién vio y modificó qué.
- Recuperación. Cuando algo falla (y a escala, algo siempre falla), el sistema debe degradarse con elegancia y volver por sí solo, sin arrastrar a la operación con él.
Ninguno de estos requisitos aparece en una demostración de 15 minutos. Todos ellos aparecen meses después de la puesta en marcha, a las 3 de la madrugada, con un pico inesperado. Para ese momento se construye la infraestructura.
Por qué "un buen modelo" no es suficiente
Existe una ilusión cómoda en el mercado: la de que la IA conversacional es, en el fondo, una llamada de API a un modelo de lenguaje. Te conectas al proveedor, escribes un prompt, listo.
Esa visión funciona hasta el primer contacto con la realidad de una operación seria. El modelo es la parte más visible y, paradójicamente, la más sustituible del sistema. Lo que realmente determina si 4 millones de mensajes llegan a destino con calidad es la ingeniería que lo rodea:
- La capa de contexto que decide, en cada mensaje, qué necesita saber el modelo (historial, datos del CRM, regla de negocio, política de marca) sin disparar el costo ni la ventana.
- La orquestación que coordina múltiples agentes, herramientas e integraciones sin convertirse en un enredo frágil.
- La capa de datos que registra cada interacción de forma íntegra, consultable y auditable.
- El enrutamiento y el failover que mantienen la operación en pie cuando un proveedor se degrada o llega un pico.
- La observabilidad que muestra, en tiempo real, lo que está pasando, antes de que el cliente se queje.
Cambiar de modelo es una decisión de una tarde. Construir la infraestructura que hace que millones de mensajes fluyan con seguridad es el trabajo de años. En esa infraestructura reside la seriedad de una plataforma.
La infraestructura invisible detrás de cada conversación
Vale la pena abrir lo que sostiene este volumen. No para exhibir ingeniería, sino porque es exactamente lo que una gran empresa necesita ver antes de confiar su operación a la conversación.
Escala horizontal, no heroísmo
Aguantar volumen no puede depender de una máquina más grande ni de un técnico de guardia atento. Nuestra arquitectura escala horizontalmente: cuando el tráfico crece, el sistema añade capacidad de forma elástica y la retira cuando el pico pasa. Picos de campaña, estacionalidad de cobranza y crisis de atención se tratan como el estado normal de las cosas, porque a escala lo son.
Latencia como requisito, no como suerte
La conversación es tiempo real. Un retraso de pocos segundos convierte una buena respuesta en una mala experiencia. Por eso la latencia es, para nosotros, un presupuesto que se mide y se defiende: cada etapa de la cadena (recuperación de contexto, llamada al modelo, persistencia, integración) tiene un costo de tiempo monitoreado, y las regresiones se tratan como bug de producción, no como detalle.
Aislamiento de los datos
Para empresas de sector público, salud, financiero e industria, dónde vive el dato y quién lo accede no es una preferencia: es un requisito legal. Operamos con aislamiento por cliente, cifrado y trazas de auditoría pensados para cumplir los requisitos de protección de datos (LGPD). La IA puede leer y escribir en los sistemas del cliente cuando es necesario para resolver, pero siempre dentro de fronteras explícitas y registradas.
Observabilidad: ver antes de que duela
No se pueden operar 4 millones de mensajes a ciegas. Cada conversación deja rastro: métricas de calidad de respuesta, sentimiento, tiempo de primera respuesta, tasa de resolución, escalaciones. Cuando algo empieza a degradarse, lo vemos en el gráfico antes de que se convierta en queja. Operar a ciegas a escala no es valentía: es negligencia.
Degradación elegante y recuperación
A escala, el fallo no es una hipótesis: es estadística. Un proveedor lento, una integración que cae, una cola que se llena. La pregunta correcta no es "cómo evitar todo fallo" (imposible), sino "cómo fallar sin tumbar la operación". Trabajamos con redundancia, colas resilientes y rutas de fallback para que una parte degradada no contamine al todo, y para que el sistema vuelva a la normalidad sin intervención manual.
La robustez es una decisión de producto, no un detalle técnico
Es tentador tratar la fiabilidad como un asunto de bastidores, como si fuera algo que el equipo de ingeniería resuelve mientras el producto "de verdad" son las features. Estamos profundamente en desacuerdo.
Para una empresa que pone atención, ventas y cobranza en la conversación, la robustez es la feature. ¿De qué sirve el agente más inteligente del mercado si queda no disponible en el pico, responde lento bajo carga o pierde el contexto a mitad de la atención? La inteligencia solo tiene valor si llega, a tiempo, todas las veces.
Por eso tratamos disponibilidad, latencia e integridad de datos como requisitos de producto de primera clase, con la misma seriedad que damos a una nueva capacidad de IA. Cuando una gran empresa evalúa una plataforma conversacional, no está comprando una demo bonita. Está comprando la tranquilidad de que la operación seguirá en pie dentro de dos años, con el doble de volumen, sin convertirse en un dolor de cabeza.
Qué significa esto para las grandes empresas
Si lideras operación, tecnología o atención en una empresa de alto volumen, la marca de 4 millones de mensajes dice tres cosas prácticas:
- Ya pasamos la etapa de experimento. No estamos validando si la IA conversacional funciona: la operamos en producción, a escala, todos los días. El riesgo de "ser el primero en probar" es menor: el producto ya opera con volumen real.
- La escala es el ambiente nativo, no la excepción. Tu operación no va a "estresar" la plataforma; entra en un ambiente diseñado para volumen desde el primer día. Crecer, en general, significa usar más de la misma base, sin cambiar de plataforma.
- La conversación puede convertirse en canal crítico con seguridad. Disponibilidad, aislamiento de datos, auditoría y observabilidad forman parte de la fundación, no del roadmap. Para necesidades corporativas como SSO SAML, baja latencia y entorno dedicado, consulta el plan Enterprise en /precos. Eso es lo que permite mover atención, ventas y cobranza a la IA sin tercerizar el sueño del gestor.
En otras palabras: el volumen no sustituye la evidencia. Cualquier proveedor puede prometer escala en una diapositiva; lo que importa es mostrar cómo la arquitectura maneja picos, fallas de proveedor y degradación. Pide siempre métricas de disponibilidad y latencia (por ejemplo, p95 de la primera respuesta) en tu evaluación.
La madurez que viene con el volumen
Hay una ganancia silenciosa al operar en este nivel: aprendizaje compuesto. Cada millón de mensajes nos muestra patrones que ninguna teoría entrega: dónde la IA acierta sola, dónde necesita un handoff, dónde el contexto marca la diferencia, dónde la latencia pesa. Ese aprendizaje vuelve al producto en forma de mejores respuestas, flujos más ágiles y decisiones de arquitectura más acertadas.
Es un ciclo que se retroalimenta: el volumen exige infraestructura robusta; la infraestructura robusta sostiene más volumen; más volumen genera más aprendizaje; el aprendizaje mejora el producto y atrae más volumen. Llegar a 4 millones de mensajes con calidad no ocurre por suerte: ocurre por haber construido la base correcta, en el orden correcto.
Preguntas frecuentes
¿Qué significan los "4 millones de mensajes con IA al mes"?
Es el volumen de mensajes procesados por la IA de Tolky cada mes en operaciones reales de clientes: atención, ventas, cobranza, soporte y relaciones en los canales activos hoy, WhatsApp, webchat, Microsoft Teams y voz (Instagram y otros canales llegan pronto). El período, los canales y la definición exacta de "mensaje procesado" pueden variar según la operación; consulta al equipo. Son interacciones en producción, no pruebas internas.
¿Por qué hablan tanto de infraestructura y no solo de IA?
Porque, a escala, la calidad de la experiencia depende más de la ingeniería alrededor del modelo que del modelo en sí. Disponibilidad, latencia bajo carga, aislamiento de datos, observabilidad y recuperación ante fallos son lo que mantiene millones de conversaciones confiables. Sin esa base, un buen modelo entrega una buena demo y una operación frágil.
¿La plataforma aguanta picos de campaña y estacionalidad?
Sí. La arquitectura escala horizontalmente y fue diseñada tratando los picos como el estado normal. La capacidad se añade de forma elástica en el pico y se retira después, manteniendo la latencia estable bajo carga.
¿Cómo quedan la seguridad y el cumplimiento?
Operamos con aislamiento de datos por cliente, cifrado y trazas de auditoría pensados para cumplir la ley de protección de datos (LGPD). La IA accede y escribe en los sistemas del cliente solo dentro de fronteras explícitas y registradas. El plan Enterprise incluye SSO SAML; para certificaciones y residencia de datos, consulta al equipo (no declaramos SOC 2, ISO 27001 ni residencia en Brasil).
Mi operación es grande. ¿Voy a necesitar replataformar a medida que crezca?
No es lo esperado. El ambiente fue diseñado para volumen desde el inicio; crecer significa usar más de la misma fundación, no cambiar de base.
Próximos pasos
4 millones de mensajes al mes es un hito, y para nosotros sobre todo un compromiso: el de tratar la IA relacional como la infraestructura crítica en que se ha convertido para nuestros clientes.
- Mira cómo cuidamos la seguridad y privacidad de datos
- Mira los planes y precios, del Individual gratuito al Enterprise, y nuestras soluciones
- Habla con el equipo sobre el plan Enterprise
Compartir
Etiquetas
- tolky
- infraestructura
- #ia conversacional
- #enterprise
- escala
- fiabilidad
- #ingeniería
- milestone
Sobre el autor

Marlos Carmo
Fundador de Tolky
Marlos Carmo es un emprendedor en IA y fundador de Tolky, la infraestructura y AI CRM de la era conversacional que unifica el servicio inteligente, la omnicanalidad (como WhatsApp y voz), el CRM en vivo y la inteligencia operativa en un único ecosistema. Es finalista del SXSW Innovation Awards e integrante de la Francesco's Economy, una red global de jóvenes emprendedores enfocados en la innovación y el impacto social. Trabaja conectando la Inteligencia Artificial y la transformación digital en proyectos para grandes organizaciones.
Siguiente paso
¿Quieres llevar esto a tu operación?
Tati, la asistente de IA de Tolky, entiende tu escenario en pocas preguntas, sugiere el mejor camino y te conecta con una persona del equipo con todo el contexto.


