LLM ejecutando código dentro del modelo & AWS y Cerebras aceleran inferencia - Noticias de IA (17 mar 2026)

Empezamos por esa propuesta llamativa: un artículo de Percepta sostiene que, aunque los LLM se lucen en matemáticas avanzadas, siguen fallando en algo más básico y práctico: cálculos largos y exactos. Su demostración va por un camino distinto al típico “llama a una herramienta externa”: incrustan un intérprete de WebAssembly dentro del propio modelo, de modo que el modelo puede ejecutar código compilado y generar una traza de ejecución paso a paso. ¿Por qué importa? Porque apunta a una combinación potente: lenguaje flexible con cómputo fiable, sin depender de servicios externos, lo que podría reducir errores tontos en tareas donde la exactitud no es negociable.

Pasamos a infraestructura, donde el cuello de botella ya no es solo “tener GPUs”, sino servir tokens a gran velocidad. Amazon Web Services está desplegando sistemas de inferencia Cerebras CS-3 dentro de sus centros de datos y planea ofrecerlos vía AWS Bedrock, tanto para modelos open-source como para los Nova de Amazon. El foco es claro: herramientas agentic —sobre todo las de programación— generan muchísimos más tokens por petición que un chat típico, y si la salida es lenta, el flujo de trabajo se vuelve torpe. Además, AWS y Cerebras empujan una arquitectura de “inferencia desagregada”, separando el tramo de preparación del de generación, para especializar hardware y aumentar capacidad efectiva en el mismo espacio. Señal: el rendimiento en tokens por segundo se está convirtiendo en métrica de producto.

En la misma línea de eficiencia, Tsinghua y Z.ai publicaron IndexCache, un parche open-source para SGLang y vLLM pensado para modelos con DeepSeek Sparse Attention, como DeepSeek-V3.2 y GLM-5. El problema que atacan es muy mundano pero caro: en contextos larguísimos, parte del tiempo se va en elegir qué tokens mirar en cada capa. Ellos observan que capas vecinas suelen escoger casi lo mismo, así que cachean ese trabajo y lo reutilizan. ¿La gracia? Acelerar prefill y decode sin pedir más memoria de GPU, o sea: más throughput y menos coste de servir contexto largo.

Y si hablamos de contexto largo, Anthropic movió ficha fuerte: Claude Opus 4.6 y Sonnet 4.6 ya ofrecen una ventana de 1 millón de tokens de forma general, sin headers raros ni configuración especial, y además eliminan el “peaje” extra por long context. Esto cambia hábitos: menos compacción, menos resúmenes agresivos y más posibilidad de meter un repositorio grande, un expediente legal entero o una cronología completa de incidentes sin perder detalle. En 2026, la memoria del modelo no es solo comodidad: es menos fricción operativa y menos riesgo de que el agente “olvide” piezas críticas.

Para aterrizar el tema de costes y visibilidad, apareció claudetop, una herramienta open-source tipo “htop” para sesiones de Claude Code. La idea es simple pero útil: mostrar en tiempo real tokens, coste estimado, ritmo de gasto, uso de ventana de contexto y señales de ineficiencia como compacción inminente. ¿Por qué es noticia? Porque, con agentes generando tokens a lo loco, el control de gasto y la observabilidad dejan de ser “finanzas” y pasan a ser parte de la experiencia de desarrollo.

Ahora, el debate del día en diseño de agentes: ¿MCP o CLI? Un artículo critica que muchos servidores MCP “se comen” la ventana de contexto al inyectar una y otra vez definiciones de herramientas y esquemas JSON; eso roba espacio a historial, documentos recuperados y razonamiento. Propone interfaces tipo CLI, donde el agente descubre capacidades progresivamente con ayuda y comandos, gastando menos tokens y, de paso, evitando algunos problemas de fiabilidad de servidores remotos. Pero otro texto pone freno a la conclusión fácil de “MCP ha muerto”: dice que se mezcla todo en el mismo saco. Una cosa es MCP local por stdio —que puede ser sobrecarga— y otra muy distinta son servidores MCP centralizados por HTTP, que encajan mejor en empresas por autenticación, gestión de secretos, telemetría y control. Lectura práctica: en 2026 no gana una herramienta única; gana la arquitectura que equilibra coste de tokens, latencia y gobernanza.

En desarrollo de software, llega un recordatorio incómodo: un estudio sobre el impacto causal de adoptar Cursor en proyectos open-source de GitHub encuentra un patrón de “subidón y resaca”. Tras adoptarlo, los proyectos aceleran al principio, pero aumentan de forma persistente las advertencias de análisis estático y la complejidad del código. Con el tiempo, esa pérdida de calidad se convierte en lastre y frena la velocidad. Relevancia: si tu organización mide éxito por volumen de commits o PRs, puede estar comprando deuda técnica sin verlo.

De hecho, otra pieza —desde Codestrap— insiste en esa idea: muchas empresas están metiendo IA sin arquitectura de referencia ni métricas correctas. Proponen mirar indicadores de entrega y fiabilidad, no “cantidad de código”, y alertan de exposición legal cuando la IA se equivoca en entregables reales. No es alarmismo gratuito: es un choque cultural entre herramientas probabilísticas y expectativas de responsabilidad en producción.

Saltamos a investigación de modelos. El equipo Kimi de Moonshot AI presentó “Attention Residuals”, una variante de conexiones residuales donde, en vez de acumular capa tras capa de forma fija, el modelo aprende a “consultar” representaciones previas según el input. La promesa es reducir la dilución de información en redes profundas y mantener señales más útiles a lo largo de la profundidad, con un coste extra pequeño. ¿Por qué nos importa? Porque gran parte del progreso reciente no viene de magia nueva, sino de exprimir eficiencia y estabilidad para escalar sin que el entrenamiento se vuelva un caos.

Y siguiendo con visión y vídeo, Tsinghua y colaboradores publicaron Spatial-TTT para mejorar inteligencia espacial en streaming: vídeo largo, potencialmente sin fin. La idea: mantener un estado espacial compacto que se actualiza online, en lugar de confiar únicamente en ampliar contextos. Para agentes que entienden el mundo —robótica, navegación, análisis de escenas— el reto no es solo “ver”, sino sostener evidencia espacial con el paso del tiempo.

En el plano de negocio, Moonshot AI —la startup china detrás de Kimi— estaría buscando levantar hasta 1.000 millones de dólares, con valoración alrededor de 18.000 millones. La cifra llama la atención por el salto en pocos meses y por el contexto: competencia feroz entre laboratorios chinos, y a la vez escrutinio por prácticas de desarrollo. En particular, siguen resonando acusaciones públicas de Anthropic sobre uso fraudulento de cuentas para generar salidas de Claude y destilarlas. Lo relevante aquí es doble: apetito inversor todavía alto, pero con más fricción por propiedad intelectual y reputación técnica.

Y esa fricción es todavía más visible en vídeo generativo. Según reportes, ByteDance pausó el lanzamiento global de Seedance 2.0 tras hacerse viral con clips hiperrealistas y provocar una reacción dura de Hollywood, incluyendo cartas legales. ByteDance dice que reforzará salvaguardas de IP, pero el mensaje es claro: la limitación ya no es solo la calidad del modelo; es el marco legal y la gestión de riesgos de distribución fuera de un mercado doméstico.

En hardware y gráficos, NVIDIA anunció DLSS 5, con un enfoque de rendering neural en tiempo real orientado a ser determinista y controlable por desarrolladores, no un “modelo de vídeo” impredecible. Si esto cuaja, veremos un salto en realismo sin exigir tiempos de render imposibles para juegos. Y, en el centro de datos, NVIDIA también presentó la CPU Vera, vendiéndola como diseñada para cargas agentic y refuerzo, con la tesis de que la CPU se está convirtiendo en cuello de botella cuando hay agentes coordinando herramientas, datos y validaciones. Traducción: la guerra ya no es solo por la mejor GPU; es por integrar CPU, red y aceleradores para reducir latencia end-to-end.

Para cerrar con perspectiva, dos recursos para orientarse en un panorama cada vez más confuso. Primero, un análisis sobre el boom de “world models” aclara que el término se usa para cosas distintas: desde predicción latente tipo JEPA, hasta representación 3D editable, simulación para entrenar agentes, infraestructura de datos y enfoques teóricos alternativos. Poner nombres precisos ayuda a no comparar peras con manzanas. Y segundo, Sebastian Raschka actualizó su LLM Architecture Gallery, una página que reúne diagramas y fichas de arquitecturas, útil para ver tendencias: más MoE, más trucos de atención eficiente y más híbridos buscando rendimiento sin disparar costes.

Terminamos con empleo y sociedad. Un nuevo “US Job Market Visualizer” mapea cientos de ocupaciones del BLS en un treemap que permite explorar tamaño del empleo, proyecciones, salario y educación. La capa más discutible —y por eso interesante— es un indicador generado con LLM de “exposición digital a IA”: estima cuánto podría cambiar un trabajo según si su output es principalmente digital. El autor insiste en que no es una bola de cristal ni predice desapariciones, porque faltan factores como regulación o preferencias de consumidores. Aun así, como herramienta exploratoria sirve para plantear preguntas mejores: qué tareas se transforman antes, y dónde conviene reentrenar o rediseñar procesos.