Sesgos al pedir números a IA & El Papa y la ética digital - Noticias de Hacker News (25 may 2026)

Empezamos con una historia que pone los pies en la tierra a cualquiera que use modelos de lenguaje para tareas “neutrales”. Un proyecto de investigación en GitHub probó si gpt-4.1 se comporta como un generador uniforme cuando le pides un número aleatorio del 1 al 100. El resultado: nada de uniforme. En miles de llamadas a la API aparecieron picos clarísimos en números como 37 y 42, y una evitación casi total de números redondos. ¿Por qué es relevante? Porque mucha gente usa modelos como si fueran una fuente de azar para juegos, sorteos, simulaciones o decisiones que exigen imparcialidad. Y esto sugiere que, incluso con temperatura alta, el modelo tiende a patrones “culturales”: reproduce gustos y hábitos que aprendió del lenguaje humano. La lección práctica es sencilla: los LLM son buenos generando texto plausible, pero no son una base fiable para “randomness” cuando hay equidad o seguridad en juego.

Siguiendo con IA pero desde un ángulo totalmente distinto, hoy destaca una intervención de alto voltaje institucional: la encíclica “Magnifica Humanitas”, publicada el 15 de mayo de 2026 por el Papa León XIV. El documento trata la revolución digital —y en especial la IA— como una “cosa nueva” que obliga a actualizar la doctrina social de la Iglesia. El marco que propone es potente: contrasta la Torre de Babel con la reconstrucción de Jerusalén para decir, en esencia, que la tecnología puede usarse para crear comunión y bien común… o para dominar, homogeneizar y deshumanizar. Y subraya algo que conecta con debates muy actuales: la IA no es moralmente neutra, así que no basta con decir “es solo una herramienta”. En lo concreto, insiste en gobernanza con dignidad humana, solidaridad, subsidiariedad y justicia social, y añade un punto llamativo: extiende la idea del “destino universal de los bienes” al mundo digital, mencionando datos, algoritmos y plataformas. También advierte sobre la desinformación y el deterioro de la verdad como bien compartido; y pide una alianza educativa renovada para proteger a niños y formar criterio en alfabetización digital. Y hay dos áreas donde el texto pisa fuerte: trabajo y guerra. Por un lado, alerta sobre automatización que destruye empleo digno, intensifica vigilancia y amplía desigualdades; por otro, cuestiona una lectura demasiado permisiva de la “guerra justa” y pide límites estrictos a armamento habilitado por IA, remarcando que decisiones letales deben permanecer bajo control humano significativo. Te guste o no el enfoque, es una señal de que la discusión ética sobre IA ya no es solo de laboratorios y reguladores: es cultural y transversal.

De la ética pasamos a la carrera industrial. IBM y el Departamento de Comercio de Estados Unidos firmaron el 21 de mayo una carta de intención para crear Anderon, descrita como la primera fundición estadounidense dedicada específicamente a chips cuánticos, con sede en Albany, Nueva York. Aquí lo interesante no es solo el dinero —aunque es muchísimo— sino lo que revela la estrategia. El plan combina incentivos de la CHIPS Act con inversión de IBM, y sugiere una preferencia clara por una ruta tecnológica: qubits superconductores fabricados con infraestructura de producción avanzada, con la idea de escalar más rápido gracias a ciclos de iteración propios de una “fab” de alto rendimiento. ¿Por qué importa? Porque en computación cuántica no basta con prototipos espectaculares: ganar suele significar fabricar de manera repetible, depurar rápido y construir un ecosistema alrededor, incluido el hardware clásico de control. Esta apuesta puede acelerar liderazgo… pero también abre un debate: si concentras recursos en una modalidad, ¿dejas a otras alternativas con menos aire para madurar y llegar a manufactura? Es una decisión de política industrial tanto como de ciencia.

Ahora, una pieza menos mediática pero crucial para el mundo real: White Rabbit. Es una tecnología abierta, basada en Ethernet, para distribuir tiempo con sincronización subnanosegundo en instalaciones grandes y dispersas, del tipo laboratorios, aceleradores, observatorios o infraestructuras industriales. Lo valioso aquí es el “por qué”: cuando tienes miles de nodos midiendo o controlando cosas a kilómetros de distancia, la diferencia entre estar sincronizado o no puede decidir si los datos son comparables, si un experimento es reproducible o si un sistema responde de forma determinista. White Rabbit, impulsado desde CERN y con soporte multi-vendor, muestra cómo la ingeniería de infraestructura —reloj, redes, coordinación— es lo que vuelve posible la ciencia y la automatización a escala, no solo los algoritmos.

Cerramos con una historia que es divertida, pero también una advertencia disfrazada: un autor argumenta y demuestra que la automatización integrada de Atlassian Jira puede implementar un modelo de cómputo Turing-completo. Dicho en llano: con reglas, estados y condiciones, puedes construir algo que, en teoría, computa cualquier cosa computable. ¿Por qué debería importarte más allá del chiste? Porque cuando una herramienta de gestión se vuelve un entorno de programación de facto, aparecen los mismos problemas de siempre: complejidad acumulada, dificultad para auditar, comportamiento inesperado y dependencia de “magia” en workflows. Es una invitación a tratar las automatizaciones como software serio: con límites, revisión, documentación y responsabilidad. Si no, el tablero que venía a ordenar el trabajo puede terminar siendo otra fuente de caos.