Claude signale des menaces violentes & Sam Altman accepte certains risques - Actualités IA (6 oct. 2026)

Une conversation avec un chatbot qui se termine par une arrestation bien réelle : c'est arrivé cette semaine en Floride, et l'IA en question s'appelle Claude. On y revient dans un instant. Bienvenue dans The Automated Daily, édition AI News. Le podcast créé par l'IA générative. Je suis TrendTeller, et nous sommes le 6 octobre 2026. Au programme aujourd'hui : des mathématiques inédites résolues avec l'aide d'une IA, des agents par millions, des factures difficiles à anticiper et la question toujours brûlante de la souveraineté numérique.

Claude signale des menaces violentes

Commençons donc par cette affaire en Floride. Une femme de 30 ans a été interpellée après avoir, selon les autorités, proféré des menaces violentes contre le bureau du shérif du comté de Lee lors d'un échange avec Claude, l'assistant d'Anthropic. Le système a repéré la conversation, des examinateurs humains l'ont analysée, puis ont alerté la police. Le cas illustre une réalité nouvelle : les outils d'IA deviennent aussi des sources de signalement pour les forces de l'ordre. Ce qui pose des questions délicates sur l'interprétation de ces messages et sur les critères qui déclenchent une escalade.

Sam Altman accepte certains risques

Toujours sur le terrain des risques, Sam Altman a fait réagir. Le patron d'OpenAI estime qu'il faut accepter que des choses négatives arrivent avec l'IA, piratages ou arnaques compris, en échange de ses bienfaits, et il plaide pour une régulation plus souple. Des défenseurs de la sécurité et des élus l'accusent de privilégier les intérêts de l'entreprise. Le timing n'aide pas : un responsable de la sécurité chez OpenAI vient de démissionner en jugeant la culture interne « cassée ». Dans le même esprit critique, un essai très partagé compare les entreprises d'IA à des parasites, qui puisent dans le web et les œuvres humaines sans rémunération juste, au détriment des éditeurs et des communautés qui les ont produites.

L'IA accusée de parasiter le web

Place à la recherche, avec une annonce marquante de Meta. En collaboration avec des mathématiciens, son modèle Muse Spark a contribué à six articles, dont cinq apportent des réponses à des questions jusque-là ouvertes, en probabilités, en théorie des groupes ou en algèbre non associative. Meta insiste sur la méthode : des chercheurs aux commandes, une relecture par des pairs, et une distinction claire entre ce qui a été rédigé par l'humain et par la machine. Fait notable, certains problèmes ont été résolus en parallèle ailleurs, et Meta le reconnaît.

Muse Spark résout des problèmes mathématiques

Côté éducation, un résultat plus nuancé. Un essai randomisé mené pendant deux ans dans 18 collèges du Tennessee a testé Khanmigo, le tuteur IA de Khan Academy, en soutien de mathématiques. Les progrès existent, mais restent modestes, et comparables à ceux obtenus avec la plateforme sans IA. Le vrai obstacle, c'est l'usage : presque tous les élèves ont essayé l'outil, mais rarement pour un véritable dialogue mathématique. Leçon à retenir : l'accès ne suffit pas, c'est l'engagement qui compte.

Tuteur IA Khanmigo : résultats mitigés

Sur un registre plus réflexif, l'essayiste Rayan Krishnan rappelle que l'IA progresse vite dès qu'un objectif est clairement mesurable, comme l'a montré AlphaGo. Le danger, selon lui, est de choisir le mauvais benchmark et d'obtenir des systèmes brillants pour réussir le test, mais pas la vraie tâche. Une préoccupation d'actualité, alors que des travaux comme UniEvo-VL montrent des modèles multimodaux capables de s'améliorer à partir de leurs propres critiques, sans professeur externe.

Objectifs, benchmarks et auto-amélioration

Passons à l'infrastructure. Epoch AI a tenté d'estimer combien d'agents IA pourraient tourner sur les puces livrées entre 2025 et 2027. Réponse : entre 30 et 170 millions d'agents simultanés, l'équivalent de centaines de millions d'heures de travail hebdomadaires. Mais exploiter ne serait-ce qu'une partie de cette capacité exigerait des milliers de milliards de dollars de dépenses annuelles. La grande inconnue n'est donc plus la puissance de calcul, mais la demande.

Des millions d'agents IA possibles

Et justement, côté entreprises, la facture inquiète. La facturation au token rend les coûts très difficiles à prévoir, et après avoir encouragé leurs salariés à utiliser l'IA sans retenue, beaucoup de sociétés découvrent des notes salées. Selon une étude récente, seules 11 % des quelque 400 entreprises interrogées parviennent à anticiper correctement ces dépenses.

Coûts en tokens difficiles à prévoir

La gestion des ressources, c'est aussi ce qu'a revu AI21. L'entreprise négociait jusqu'ici ses quelque 10 000 GPU dans un simple canal de messagerie interne, avec des machines inactives d'un côté et des équipes en attente de l'autre. En adoptant l'outil open source Kueue sur Kubernetes, elle a automatisé les priorités et le partage, ramené les interventions manuelles à zéro et réduit le gaspillage.

AI21 automatise la gestion des GPU

Direction maintenant la confidentialité et la souveraineté. Google Research présente une nouvelle version de l'apprentissage fédéré, où les données ne peuvent être déchiffrées qu'au sein d'environnements sécurisés et vérifiables, sans devoir faire confiance à l'opérateur du serveur. Gboard l'utilise déjà pour la prédiction de mots en anglais et en japonais, avec un entraînement plus rapide et de meilleurs modèles.

Google renforce l'apprentissage fédéré

En Europe, Aleph Alpha publie Kolibri, un modèle bilingue à poids ouverts, sous licence Apache, pensé pour les administrations et les secteurs réglementés, et pouvant fonctionner sur site. Une alternative européenne qui fait écho à une tribune australienne : la souveraineté en IA ne serait pas l'autarcie, mais la capacité de choisir, d'auditer, de remplacer, voire d'abandonner un système. L'auteur y défend des modèles plus petits et spécialisés, plus faciles à maîtriser.

Kolibri et la souveraineté de l'IA

Enfin, deux mouvements d'écosystème. Meta publie en open source de quoi construire ses propres gadgets connectés à son agent Muse, de l'écran à encre électronique au boîtier sur Raspberry Pi, en précisant que chacun bricole à ses risques. Et Anthropic investit 100 millions de dollars dans une académie destinée à former 10 000 ingénieurs capables de déployer Claude en entreprise d'ici fin 2027, avec de premiers participants venus d'Accenture ou de Morgan Stanley. Le signe que la bataille de l'IA d'entreprise se joue aussi sur les compétences.

C'est tout pour aujourd'hui. Vous retrouverez les liens vers toutes ces histoires dans les notes de l'épisode. Merci de votre écoute, ici TrendTeller pour The Automated Daily, édition AI News. À demain !

Claude signale des menaces violentes & Sam Altman accepte certains risques - Actualités IA (6 oct. 2026)

Our Sponsors

Today's AI News Topics