La actualidad tecnológica
6 lecturas
Recorre el viaje de una petición a un LLM, desde la tokenización y el context window hasta el prefill, el decode y la caché KV, para explicar de dónde salen la latencia y el gasto. Con eso puedes decidir cuándo recortar contexto, cuándo reutilizar prompt caching y por qué dos prompts parecidos no cuestan lo mismo.
Medium: Software EngineeringProgramación
Un análisis de cómo la sensación de velocidad al programar con asistentes de IA choca con las métricas objetivas: los desarrolladores se sintieron un 20 % más productivos y resultaron un 19 % más lentos. Aprenderás por qué la fluidez percibida engaña y qué señales conviene medir, como el tiempo de ciclo, el retrabajo o las revisiones, antes de dar por bueno un cambio de herramientas.
Towards Data ScienceCarrera
Repasa las decisiones de ingeniería que permiten llevar un modelo de lenguaje a un móvil: recorte y cuantización del modelo, gestión de memoria y reparto del trabajo entre CPU, GPU y Neural Engine. Sirve para entender los compromisos reales entre tamaño, latencia y calidad cuando la inferencia ocurre en el dispositivo y no en la nube.
ByteByteGoIA
Explica por qué una caché ingenua de rangos HTTP malgasta gigabytes de ancho de banda del origin con peticiones pequeñas y cómo coordinaron las lecturas parciales dentro de Pingora. Útil si mantienes una CDN o una capa de caché propia y quieres bajar la latencia p99 sin multiplicar el tráfico al servidor de origen.
Cloudflare BlogArquitectura
Un repaso histórico a las colas gruesas que Mandelbrot documentó en los precios del algodón en 1963 y a cómo los modelos de riesgo siguieron apoyándose en la campana de Gauss décadas después. Sirve para entender por qué dar por supuesta la normalidad de los datos subestima los eventos extremos, algo que afecta a cualquier modelo de riesgo o de predicción.
Medium: Data ScienceDatos
Un caso real de build en Docker que funciona en local y rompe en CI, con el proceso paso a paso para localizar si el problema está en las dependencias, en las variables de entorno o en la propia imagen. Te queda un método reutilizable para depurar builds de Node en contenedores en lugar de ir probando cambios a ciegas.
freeCodeCampWeb