CTOs y responsables de TI
Un prototipo impresionó a todos y luego se rompió en producción.
Evaluaciones, enrutamiento y barreras de protección para que el sistema resista bajo carga, ataque y cambio.
Ingeniería de IA en producción
Más allá de RAG: IA que sobrevive a la producción
RAG es el punto de partida. La IA en producción es ingeniería de software alrededor de un modelo probabilístico.
La mayoría de los equipos puede construir una demo de RAG. Muy pocos pueden determinar si un cambio mejoró o empeoró el sistema, redirigir el tráfico ante un modelo que falla o detener una inyección de prompts antes de que alcance el núcleo. Nosotros diseñamos el sistema completo: bucles agénticos, evaluación, optimización de modelos, LLMOps y barreras de protección, alojado en la EU, con su código y sin dependencia de un proveedor.
Qué separa una demo de un sistema en producción
Una demo de recuperación busca en una carpeta de PDFs y devuelve lo que parece similar. Un sistema de IA en producción sincroniza datos de grafos, vectores y SQL con APIs en vivo, enruta cada solicitud a través de un bucle adaptativo, puntúa la calidad con evaluaciones automatizadas en cada despliegue y recurre a un modelo más económico o a otra fuente cuando algo falla. La ingeniería de IA en producción es la disciplina de construir software fiable alrededor de un componente poco fiable, costoso y no determinista. Ese es el trabajo que hacemos.
- Evaluaciones automatizadas que detectan regresiones antes que los usuarios
- Barreras de protección frente a inyección de prompts y fugas de PII
- Pasarelas de modelos con enrutamiento, caché y mecanismos de respaldo
- Alojado en la EU, neutral respecto al modelo, su código, sin dependencia de un proveedor
Constructor de demos frente a ingeniero de IA en producción
La distancia entre un prototipo que lucía bien y un sistema que resiste bajo carga, ataque y cambio.
| Constructor de demos (solo RAG) | Ingeniero de IA en producción | |
|---|---|---|
| Alcance de los datos | Busca en una carpeta de PDFs de texto estático. | Sincroniza almacenes de grafos y vectores, tablas SQL y APIs SaaS en vivo. |
| Flujo del sistema | Prompt, búsqueda, respuesta. | Enrutador adaptativo, bucle multiagente, revisión por barreras de protección. |
| Pruebas | Probó unos cuantos prompts y se veía bien. | Una suite de CI de casos de prueba semánticos puntuada en cada despliegue. |
| Modo de fallo | Se rompe en silencio o alucina sin control. | Respaldo automatizado a un modelo más económico o a una segunda fuente. |
RAG es lo mínimo indispensable. Las columnas de la derecha son donde se gana o se pierde la fiabilidad en producción.
Los agentes deciden, actúan, observan
RAG es una tubería lineal. Un agente ejecuta un bucle: planifica un paso, llama a una herramienta real, observa el resultado y vuelve a decidir, con estado y una verificación humana sobre las acciones de mayor impacto.
El estado y la memoria mantienen el contexto a lo largo de los pasos. Una verificación de aprobación humana actúa sobre las acciones de mayor impacto, y cada llamada a una herramienta está acotada y auditada.
Los cinco pilares
Qué abarca la ingeniería de IA en producción
Más allá de los prompts y la recuperación, cinco disciplinas convierten una demo en un sistema que puede operar, en el que puede confiar y que puede cambiar.
IA agéntica y llamada a herramientas
Bucles de decisión que llaman a herramientas reales, no una tubería de un solo paso.
- Llamadas fiables a herramientas en JSON hacia APIs reales
- Roles multiagente, estado y transferencias
- Uso de herramientas acotado y auditado
- Sin bucles infinitos ni deriva del contexto
Evaluación y pruebas
Pruebas deterministas para sistemas no deterministas. La mayor brecha de competencias.
- Evaluaciones automatizadas con Ragas o TruLens
- Fidelidad, relevancia de la respuesta, precisión del contexto
- LLM-as-a-judge frente a la verdad de referencia
- Verificaciones de CI en cada cambio
Optimización de modelos
Cuando los prompts y RAG no logran acertar con el tono o la lógica de dominio, cambie el modelo.
- Ajuste fino con LoRA y QLoRA
- Cuantización para latencia y coste
- Modelos abiertos como Llama y Mistral
- Tono y comportamiento de dominio
LLMOps e infraestructura de producción
Trate el modelo como un servicio de backend volátil y costoso.
- Pasarelas de modelos y enrutamiento (LiteLLM, Portkey)
- Caché semántica y mecanismos de respaldo
- Salida estructurada con Pydantic
- Barreras de protección para PII e inyección de prompts
Gestión avanzada del contexto
Estructure la información para que el modelo siempre vea el contexto correcto.
- Optimización programática de prompts (DSPy)
- Recuperación contextual
- Presupuesto de la ventana de contexto
- Fragmentos enriquecidos con metadatos
El conjunto de herramientas
El stack de AI en producción con el que desarrollamos
Neutral en cuanto a modelos y abierto por defecto. Elegimos la herramienta adecuada para cada capa y la entregamos como su propio código.
Orquestación
- LangGraph
- CrewAI
- Mastra
- Vercel AI SDK
Evaluación
- Ragas
- TruLens
- LangSmith
- promptfoo
Servicio y operaciones
- LiteLLM
- Portkey
- vLLM
- Ray
Salvaguardas y estructura
- Pydantic
- NeMo Guardrails
- Llama Guard
- DSPy
El bucle de producción
Cada cambio ejecuta el mismo bucle: construir, evaluar, enrutar, proteger, observar, y luego retroalimentar lo aprendido.
La evaluación condiciona el despliegue, la pasarela gestiona el enrutamiento, la caché y los mecanismos de respaldo, las barreras de protección filtran entradas y salidas, y la observabilidad alimenta la siguiente iteración.
Qué significa para usted el grado de producción
El mismo sistema se lee de forma distinta desde cada puesto. Esto es lo que la ingeniería de IA en producción aporta según cada rol.
Empresa y compras
Seguridad y auditoría necesitan saber cómo falla el sistema, no solo cómo funciona.
Rutas de respaldo documentadas, barreras de protección, registros de auditoría y preparación para AVV y TOM.
CTOs y fundadores de startups
Lanzó rápido y ahora la calidad y el coste están a la deriva.
Un marco de evaluación y una pasarela de modelos que reducen el coste y detienen las regresiones a medida que escala.
Agencias y socios
Su cliente necesita IA de grado de producción bajo su marca.
Ingeniería sénior de LLMOps y evaluación, entregada en marca blanca con la misma disciplina que nuestro trabajo de código abierto.
Ingeniería pública que puede inspeccionar
En producción en este sitio
En vivoEl asistente de este sitio es un sistema agéntico que usa herramientas, construido por nosotros y en producción, no una demo tras un inicio de sesión.
Vendure Data Hub
Open sourceUn plugin de comercio Vendure que construimos y publicamos, público en GitHub. Dos de nuestros once bundles desarrollados son públicos.
Ver en GitHubPimcore Asset Pilot
Open sourceUn bundle de assets de Pimcore que construimos y publicamos, público en GitHub e inspeccionable de extremo a extremo.
Ver en GitHubCuándo esta profundidad es excesiva
- Un prototipo interno puntual que nunca verá usuarios ni carga reales.
- Una función simple de un solo prompt sin herramientas, recuperación ni exigencia de calidad.
- Una prueba de concepto desechable cuyo objetivo es aprender, no lanzar.
- Un equipo que aún no ha definido cómo es una buena respuesta.
Preguntas que hacen los equipos sobre la IA en producción
RAG es el punto de partida. La producción también necesita evaluación, barreras de protección, enrutamiento de modelos, salida estructurada y observabilidad. Diseñamos el sistema completo para que siga siendo fiable a medida que cambian los datos, los modelos y la carga.
Los prompts y RAG anclan el modelo en datos actuales. El ajuste fino (LoRA, QLoRA) cambia su tono, estilo o lógica de dominio. Resuelven problemas distintos y a menudo se ejecutan juntos; asesoramos cuál encaja en cada caso en lugar de optar por defecto por el más costoso.
Las evaluaciones son pruebas automatizadas para sistemas no deterministas. Marcos como Ragas y TruLens puntúan las respuestas en fidelidad, relevancia y precisión del contexto, a menudo con un modelo mayor como juez, de modo que un cambio de código se mide, no se adivina.
LLMOps es la infraestructura para operar modelos de lenguaje a escala: pasarelas para enrutamiento y respaldo, caché semántica para reducir coste, aplicación de salida estructurada, barreras de protección para la seguridad y observabilidad. Trata el modelo como un backend volátil y costoso.
Las barreras de protección envuelven el modelo: filtros de entrada y salida, enmascaramiento de PII y comprobaciones de políticas interceptan la inyección de prompts y los datos sensibles antes de que alcancen o salgan del núcleo. Las acciones de mayor impacto también pasan por una verificación de aprobación humana.
A menudo no. Los prompts y RAG resuelven la mayoría de los casos. El ajuste fino justifica su coste cuando necesita un tono específico, un comportamiento de dominio o un modelo abierto pequeño y económico ejecutándose en su propio entorno. Tomamos esa decisión con usted con base en evidencia, no en exageraciones.
Explore el stack de IA
Lleve su IA a estar lista para producción
Cuéntenos dónde está hoy su prototipo de IA. Trazaremos las evaluaciones, las barreras de protección y la infraestructura para llevarlo a producción.
Con quién trabaja
HRB 288224
Registrada en Múnich
15+
Años, dirigida por el fundador
DE · EN · AR
Idiomas de trabajo
2
Código abierto en GitHub
EU
Residencia de datos, Fráncfort
AVV/DPA
Listo para firmar, art. 28
Niveles de compromiso
Oronts trabaja con equipos serios que necesitan entrega senior, no externalización de bajo coste.
- Production Pilot
- desde 25k EUR
- Proyectos de software e IA a medida
- desde 50k EUR
- Retainers técnicos continuos
- desde 15k EUR/mes
El precio exacto depende del alcance, la responsabilidad, la velocidad de entrega, el tamaño del equipo, las integraciones, las expectativas de soporte y el riesgo de producción.