Error judicial por reconocimiento facial & RAG envenenado y datos falsos - Noticias de IA (13 mar 2026)

Empezamos con el caso que más ruido está haciendo: Angela Lipps, una abuela de Tennessee, asegura que estuvo casi seis meses encarcelada después de que la policía de Fargo la señalara usando reconocimiento facial por un fraude bancario organizado. Según los documentos, la investigación se apoyó fuerte en ese “match”, revisiones de fotos y redes sociales, y la entrevista formal llegó cuando ella ya llevaba meses detenida. Al final, el caso se desestimó cuando aparecieron registros bancarios y de actividad que la ubicaban en Tennessee. ¿Por qué importa? Porque confirma un patrón peligroso: cuando la IA se usa como atajo para identificar, los errores no son “bugs”, son detenciones, pérdidas económicas y daños irreparables. La lección no es “prohibir todo”, sino exigir salvaguardas reales: corroboración independiente, trazabilidad y estándares claros antes de privar a alguien de libertad.

Pasamos a un bloque de seguridad, porque hoy hay varias piezas que encajan. Un investigador, Amine Raji, mostró cómo un sistema RAG —de esos que consultan una base documental para responder— puede ser manipulado no tocando el prompt, sino “envenenando” la biblioteca: basta con introducir documentos falsos con aspecto corporativo para que el sistema los recupere primero y el modelo los trate como autoridad. En su prueba, el asistente terminó informando resultados financieros inventados aunque el dato correcto existía en la base. Esto es clave para empresas: el riesgo se mueve hacia la cadena de ingestión de información, conectores de sincronización, permisos de edición y auditorías. Si alguien puede escribir en tu repositorio de conocimiento, puede reescribir tu realidad operativa.

Y enlazado con eso, OpenAI publicó una advertencia práctica: los agentes que navegan la web y ejecutan acciones están cada vez más expuestos al prompt injection, pero en forma de ingeniería social camuflada. La idea central: filtrar texto malicioso no basta. Lo que funciona mejor es diseñar el sistema como si asumieras que, tarde o temprano, el agente será manipulado… y aun así el daño debe quedar limitado. En cristiano: permisos acotados, confirmaciones visibles cuando hay acciones sensibles, y barreras cuando algo intenta sacar datos privados hacia un destino externo. Es una postura más parecida a seguridad en organizaciones: no confías solo en “buena conducta”, pones controles.

Ahora, una noticia más académica pero con consecuencias muy concretas: un paper nuevo en arXiv investiga por qué el modo “razonamiento” en LLMs mejora incluso preguntas simples, de esas de un solo salto factual. La explicación que proponen es doble: por un lado, al generar más texto, el modelo se “da tiempo” de hacer más cómputo interno; por otro, al mencionar hechos relacionados, se auto-crea un puente semántico hacia el dato buscado. Lo interesante es el reverso: ese mismo proceso incrementa la probabilidad de inventar pasos intermedios, y si los pasos se contaminan, la respuesta final también. La implicación es práctica para producto: no se trata solo de “haz chain-of-thought y listo”, sino de seleccionar trayectorias donde los intermedios no alucinen, o al menos se controlen con señales de verificación.

En infraestructura, Meta dijo que quiere desplegar cuatro nuevas generaciones de aceleradores propios de IA antes de que termine 2027, ampliando su familia MTIA. El subtexto es el de siempre, pero cada vez más evidente: quien controle el silicio y el suministro controla coste, capacidad y ritmo de despliegue. Meta no abandona GPUs de terceros —hablan de seguir comprando mucho a socios como Nvidia y AMD—, pero refuerza la estrategia mixta de “comprar y construir”. Esto es una señal de mercado: desarrollar chips es caro y lento, pero el incentivo es enorme cuando tu factura de cómputo es de escala planetaria.

Y hablando de Nvidia, publicó un informe técnico de Nemotron 3 Super, un modelo abierto grande, orientado a contexto largo y a comportamientos tipo agente, y además con recetas de cuantización y checkpoints listos para desplegar. Más allá del nombre, lo relevante es la dirección: la competencia ya no es solo “quién tiene más IQ de benchmark”, sino quién consigue modelos que sirvan en producción con latencias razonables, memoria manejable y ventanas de contexto gigantes sin derrumbarse. Para equipos que apuestan por pesos abiertos, este tipo de releases acelera la ingeniería… y también sube el nivel de expectativas.

En el mundo de desarrollo con IA, la noticia financiera del día: Cursor estaría en conversaciones preliminares para una ronda que podría valorarla alrededor de los 50 mil millones de dólares, según fuentes citadas por Bloomberg, y con ingresos anualizados que habrían superado los 2 mil millones. Si se confirma, es otro recordatorio de que el “AI coding” dejó de ser una curiosidad y se convirtió en una categoría que mueve presupuestos serios. La parte interesante no es el número por sí mismo, sino lo que dispara: más presión competitiva, más integración en flujos corporativos, y una carrera por diferenciarse cuando muchas herramientas empiezan a parecerse en lo básico.

En paralelo, apareció una reflexión más humana: la programación asistida por IA está sacando a la luz una división vieja entre quienes aman el oficio de escribir código y quienes priorizan el resultado: que el sistema funcione y se entregue. El autor plantea que el duelo no siempre es por “teclear menos”, sino por el contexto que cambia: centralización, amenaza al open web, y una sensación de que el terreno profesional se reordena. Es útil porque pone palabras a algo que muchos sienten: tu valor se desplaza de la escritura al criterio—arquitectura, revisión, composición y decisiones de producto. Y eso no es menos trabajo; es otro tipo de trabajo.

Otro concepto que suma a esa tendencia: “autoresearch”, descrito por Philipp Schmid. La idea es poner a un agente a iterar sobre un script de entrenamiento, correr experimentos cortos, y aceptar solo cambios que mejoran una métrica bajo restricciones claras. Se cita un caso con cientos de pruebas para arañar mejoras transferibles. ¿Por qué importa? Porque convierte la experimentación en una cinta transportadora. Pero también hace que el cuello de botella sea la evaluación: si tu métrica se puede engañar o se filtra información, el sistema optimiza humo. En un mundo de agentes que experimentan solos, una evaluación robusta y aislada es casi tu última línea de defensa.

Cerramos con dos movimientos de Anthropic que apuntan a empresa y a política a la vez. Primero, Claude en Excel y PowerPoint ahora puede mantener contexto compartido entre ambas apps, para que el análisis en una hoja y la presentación en slides formen una sola conversación. Esto reduce fricción y, en entornos corporativos, puede ser el tipo de mejora que por fin se traduce en horas ahorradas sin cambiar de herramienta. Segundo, Anthropic anunció The Anthropic Institute para estudiar impactos sociales y preparar evidencia sobre empleo, seguridad y gobernanza. Y, como telón de fondo, sigue creciendo el debate sobre cómo gobiernos presionan a proveedores de IA cuando hay contratos, defensa y “seguridad nacional” de por medio. La pregunta de fondo—incómoda pero necesaria—es: cuando la IA tenga poder real, ¿a quién debe alinearse: al usuario, a la ley, a la empresa, o a límites morales codificados por el proveedor?