Prefill y decode: por qué un LLM tiene dos velocidades
El mismo modelo procesa mil tokens de golpe y luego sufre para escupir uno a uno. Entender por qué cambia cómo lo sirves.
llminferenciarendimiento
notas de campo
Blog
Pensamientos, tutoriales y experiencias sobre desarrollo web, arquitectura e ingeniería.
Atención agrupada: el truco que encoge el KV cache
Por qué los modelos modernos hacen que varias cabezas de atención compartan memoria, y qué ganas tú en latencia cuando entiendes el porqué.
llmatencioninferencia
Mixture of experts: por qué un modelo enorme apenas usa sus parámetros
Un modelo anuncia cientos de miles de millones de parámetros y activa una fracción por token. No es marketing: es cómo separa capacidad de coste.
llmarquitecturamoe
Batching continuo: cómo una GPU sirve a cien peticiones a la vez
Si tu motor de inferencia agrupa peticiones por lotes fijos, estás pagando GPU que se queda mirando. El batching continuo llena esos huecos.
llminferenciathroughput
El KV cache: por qué el primer token tarda y los demás vuelan
Si entiendes por qué la primera palabra cuesta y el resto es gratis, dejas de pelearte con la latencia de tu LLM.
llmkv-cachelatencia
Enrutado de modelos: no todo merece el modelo grande
La mitad de tus peticiones no necesitan el modelo caro. El truco está en saber cuáles antes de gastar.
iallmcostearquitectura
Por qué alucinan los LLM (y qué hacer al respecto)
Una alucinación no es un fallo que parchear: es el comportamiento por defecto de un modelo entrenado para continuar, no para saber.
llmalucinacionesrag
Ventana de contexto: por qué llenarla no te hace más listo
Meter más tokens en el prompt parece gratis y suele salir caro: el modelo se distrae justo donde no mira.
llmcontextorag
LoRA: afinar un modelo sin pagar el precio de reentrenarlo entero
Congelas el modelo, entrenas un parche diminuto de rango bajo y obtienes casi el mismo resultado por una fracción del coste.
fine-tuninglorallmeficiencia
Decodificación especulativa: acelerar la inferencia sin tocar el modelo
Un modelo pequeño arriesga varios tokens de golpe y el grande solo verifica: misma salida, menos espera.
llminferencialatenciaoptimizacion
Tool calling: cómo un LLM decide llamar a tu código
El modelo no ejecuta nada; solo rellena un formulario y te pide que lo hagas tú. Notas de campo sobre por qué esa distinción lo cambia todo.
llmagentestool-calling
Búsqueda híbrida en RAG: cuando el vector no basta
La búsqueda semántica entiende el sentido pero se pierde con un código de error o un nombre propio. Notas de campo sobre juntar BM25 y vectores sin montar un frankenstein.
ragbúsquedaembeddings
Temperatura, top-p y top-k: domar la aleatoriedad del modelo
El mismo prompt da respuestas distintas cada vez. No es magia: son tres perillas que casi nadie toca con criterio.
llmsamplinginferencia
Cuantización: correr modelos grandes sin fundir la GPU
Un modelo de 70B no cabe en tu tarjeta. Cuantizarlo lo mete dentro casi sin que se note. Casi.
llmcuantizacióninferencia
Prompt caching: recortar coste y latencia en producción
El descuento más fácil de tu factura de LLM está en dejar de reenviar el mismo contexto una y otra vez.
llmprompt-cachingcosteproduccion
Tokenización: por qué tu LLM no sabe contar letras
El modelo no lee letras ni palabras: lee trozos. Y ese detalle explica la mitad de sus rarezas.
llmtokenizacionpython
Fine-tuning o RAG: cómo elegir sin quemar presupuesto
No compiten por el mismo trabajo. Uno cambia lo que el modelo sabe; el otro, cómo se comporta. Confundirlos sale caro.
llmfine-tuningrag
Inyección de prompts: el agujero que tu RAG no ve
No es un bug que se parchea con más instrucciones. Es la consecuencia de mezclar datos e instrucciones en el mismo canal.
seguridadllmragagentes
Memoria en agentes: qué recuerda tu LLM y cómo
Una ventana de contexto grande no es memoria. Distinguirlas es la diferencia entre un agente y un chat con amnesia.
agentesllmmemoriaarquitectura
Reranking en RAG: el segundo filtro que casi nadie pone
El vector te trae diez candidatos, pero el orden en que llegan casi nunca es el bueno. Notas de campo sobre añadir un reranker sin arruinar la latencia.
ragia-generativareranking
Chunking para RAG: dónde cortar los documentos
Casi todos los fallos de recuperación no son culpa del embedding, sino de cómo troceaste el texto. Notas de campo para partir documentos sin romper el sentido.
ragia-generativaembeddings
Salidas estructuradas: deja de parsear texto de un LLM
Sacar datos de un LLM con expresiones regulares es una bomba de relojería. Notas de campo para obtener JSON que valida a la primera y no te revienta en producción.
llmia-generativapython
De dato a decisión: dashboards que la gente sí mira
Un panel que nadie abre no es neutro: cuesta tiempo, atención y credibilidad. Notas de campo para construir dashboards que cambian una decisión.
datosvisualizaciónproducto
Caché en RAG: cómo recortar la factura de tokens a la mitad
El mismo contexto, viajando una y otra vez. Ahí está tu factura, y ahí está la palanca.
iaragrendimiento
Retrospectivas que no dan vergüenza ajena
La retro no es un ritual de quejas ni una terapia de grupo: es la única reunión que existe para cambiar algo.
agileequipos de trabajo
Streaming de respuestas de un LLM: la UX que cambia todo
El modelo tarda lo mismo, pero la espera se siente la mitad. Ese es todo el truco.
iallmux
MQTT vs Modbus: cuándo usar cada uno en industria
No compiten por el mismo puesto: uno lee registros en la planta, el otro los lleva a la nube.
comunicación-industrialmqttmodbus
CI/CD para proyectos pequeños: lo justo para dormir tranquilo
No necesitas una plataforma de despliegue para un proyecto de una persona. Necesitas veinte líneas que corran los tests y suban el build sin que tú mires.
devopsci-cd
Vector databases: cuándo las necesitas de verdad
La respuesta honesta casi nunca es 'ya'. Aquí está la línea que sí la cruza.
iaragbases-de-datos
Type hints en Python: el contrato que tu código necesitaba
No son decoración ni burocracia: son el contrato que convierte errores de producción en errores de tu editor.
pythontipadobuenas-prácticas
El coste oculto de los microservicios que nadie te factura
Partir el monolito no es gratis: pagas en latencia, deuda operativa y reuniones. Cuándo merece la pena y cuándo te estás complicando la vida.
arquitecturamicroserviciosbackend
Loop engineering: dejar de escribir prompts y empezar a diseñar bucles
Boris Cherny dice que ya no hace prompts, sino bucles que los hacen por él. Qué significa eso en la práctica y por qué diseñar el bucle es más difícil, no más fácil.
ia-generativaagentesloop-engineering
SOLID sin dogma: cuándo aplicarlo y cuándo te está estorbando
Cinco principios pensados como heurísticas, no como mandamientos. Aplicarlos a ciegas también es deuda técnica.
arquitecturasolid
FastAPI para servir modelos: del notebook a un endpoint que aguanta
Tu modelo funciona en el notebook. El problema empieza cuando lo llaman mil personas a la vez.
pythonfastapimlops
Evaluar un LLM en serio: por qué 'a mí me funciona' no basta
Sin un conjunto de evaluación, cada cambio de prompt es una apuesta a ciegas.
iallmevaluación
Prompt engineering que sí escala: del prompt mágico al sistema
Un prompt que funciona en tu pantalla no es un sistema. Es un accidente que aún no se ha roto.
iallmprompting
8 agentes para que Claude Code no se pierda entre sesiones
Lo que me llevé del harness de Anthropic y cómo lo aterricé en mi propio pipeline.
iaagentesclaude-code
Embeddings explicados sin matemáticas (pero con criterio)
Si entiendes esto, entiendes por qué tu buscador semántico acierta o falla.
iaembeddingsnlp
RAG en producción: por qué tu chatbot alucina y cómo evitarlo
El problema casi nunca es el modelo. Es lo que le das de comer.
iaragllm
El Caos de Agile
Por qué si no duele, probablemente no lo estés haciendo bien
agilecaosequipos de trabajo
Comunicación industrial: Modbus
En este post hago una exploración sobre la comunicación industrial, específicamente sobre Modbus.
comunicación-industrialmodbus
Visualización de Datos en Tiempo Real
Este post describe las librerías más utilizadas para la visualización de datos en tiempo real
chartjsd3jsamcharts
Introducción a Stimulus.js
Este post introduce al desarrollo con Stimulus.js
javascriptstimulusjs
Introducción al desarrollo con Python
Este post introduce al desarrollo con Python
pythonprogramación
Introducción a la arquitectura de software
En este post voy a explicar la arquitectura de software y los principios SOLID.
arquitecturasolid
