Cinq informations ont circulé ces dernières 24h, du boîtier openpilot visé par la NHTSA aux failles silencieuses des agents IA. Toutes touchent, d’une manière ou d’une autre, le quotidien d’une PME française : du temps perdu à retrouver, des frictions à retirer, une vigilance humaine à organiser.
Openpilot sous enquête : l’assistant reste l’affaire du conducteur
Le 21 septembre, la NHTSA a ouvert une enquête préliminaire sur les boîtiers de Comma et sur openpilot, après cinq accidents contre des véhicules arrêtés ou lents, dont deux mortels, selon l’article publié sur Korben. Les rapports mentionnent un fork, un régulateur Honda et la version 0.11 d’openpilot. L’agence évaluera aussi les garde-fous du système dans les semaines qui viennent.
Pour une PME française qui équipe ses commerciaux, ses livreurs ou ses techniciens itinérants, le sujet n’est pas anodin. L’assistant ne remplace pas le conducteur : il l’accompagne, et c’est justement quand il devient trop discret que l’accident survient. Tant que l’enquête n’est pas bouclée, la consigne interne la plus utile tient en une phrase : la responsabilité reste humaine, l’outil reste un outil. Documenter les règles d’usage, rappeler qui fait quoi en cas de doute, garder la possibilité de désactiver l’assistant. C’est du temps de cadre passé aujourd’hui pour éviter des heures d’explications après coup.
Claude Code : un fichier sauté peut coûter une demi-journée
Depuis la version 2.1.277, Claude Code lit les fichiers AGENTS.md, sauf si vous avez coupé sa télémétrie. La fonction dépend d’un feature flag récupéré chez Anthropic, et sans lui le fichier saute sans prévenir, d’après Korben. Les pipelines de CI ne sont pas épargnés. Un CLAUDE.md d’une seule ligne, contenant @AGENTS.md, posé à côté du fichier principal, règle le problème.
Pour une équipe de développement, c’est typiquement le genre de friction qui coûte du temps : le bon prompt n’est jamais trouvé, le contexte se perd, le pipeline échoue sans message clair. Le contournement est connu, documenté, et tient en une ligne. C’est exactement le cas de figure où l’IA rend des heures : on cherche une fois, on copie la bonne ligne, on passe à autre chose. Pas de refonte, pas de débat, juste un paramètre à activer pour que la machine serve enfin les gens.
Les agents IA échouent en silence : la vérification humaine redevient centrale
Une étude publiée sur arXiv s’intéresse aux échecs silencieux des agents IA lorsqu’ils interagissent avec des outils, en particulier dans des workflows de biologie, selon le résumé de l’article. Les travaux précédents se concentraient sur la réussite de la tâche. Celui-ci regarde l’interaction elle-même : quand l’agent appelle un outil, que se passe-t-il si l’appel échoue, retourne un résultat vide, ou affiche un succès trompeur ?
Pour une PME qui commence à brancher des agents sur des outils internes (CRM, ERP, messagerie, facturation), la leçon est directe. Une tâche peut apparaître terminée sans l’être. Le gain de temps promis par l’agent devient une perte nette si personne ne relit la sortie. La compétence à garder en interne, c’est la vérification humaine des actions critiques, et la capacité à diagnostiquer quand un agent dérive ou hallucine une réponse d’API. Ce n’est pas de la défiance envers l’outil : c’est du réflexe d’artisan qui contrôle sa pièce avant de la livrer.
Vos commerciaux en déplacement : la sécurité ne doit pas peser sur eux
Un de vos commerciaux se connecte ce matin chez lui, cet après-midi au bureau, ce soir à l’hôtel, demain dans un café. Pour lui, ce sont quatre réseaux. Pour les sites qu’il consulte, ce sont quatre occasions de récupérer son adresse IP, sa localisation et quelques informations sur sa connexion, comme le rappelle l’article sur Surfshark. Un VPN grand public change le décor, pas l’adresse MAC, pas l’empreinte du navigateur, pas les fuites WebRTC.
La bonne pratique pour une PME, c’est de ne pas faire reposer la protection des données clients sur la vigilance individuelle de chaque collaborateur. Un VPN d’entreprise, configuré par la DSI ou un prestataire de confiance, retire la friction : l’employé clique, il est protégé, sans avoir à comprendre la différence entre DNS-over-HTTPS et DoH. Ce n’est pas un sujet IA à proprement parler, mais c’est un temps de stress en moins pour des équipes qui bougent, et du temps de manager économisé sur les rappels à la règle.
GPT-6, Astra, incidents : l’IA ne s’autosurveille pas
Le podcast LWiAI #257 revient avec un peu de retard sur la sortie d’Astra, sur plusieurs incidents de sécurité récents et sur la situation globale de la sûreté de l’IA. Le ton n’est pas catastrophiste : il est pragmatique. Les modèles avancent vite, les garde-fous aussi, mais l’imprévu reste la norme.
Pour une PME, l’enjeu n’est pas de suivre la course aux versions. Il est de se doter d’une charte interne d’usage de l’IA, écrite par des humains, relue chaque année, alignée avec le RGPD et l’IA Act européen. Ce document évite que chaque collaborateur improvise ses propres règles, et retire aux managers des heures de discussion au cas par cas. La compétence à garder en interne, c’est la capacité à dire oui, non, ou pas dans cet outil, pour cet usage, avec ces données.
Ce que ça change pour vos équipes
Trois actions concrètes, à lancer cette semaine, sans projet informatique lourd :
- Poser un CLAUDE.md d’une ligne contenant
@AGENTS.mdà la racine de chaque dépôt utilisé avec Claude Code. Quelques minutes de travail pour économiser des heures de debug en CI. - Rédiger une note interne d’une page sur l’usage des assistances à la conduite par vos collaborateurs itinérants, à partir des éléments publiés sur l’enquête NHTSA. À diffuser avant la prochaine note de frais kilométriques.
- Pour tout agent IA déployé en interne, prévoir une étape de vérification humaine avant que ses sorties n’atteignent un client, un fournisseur ou un système critique. Le silence d’un agent n’est jamais une preuve de réussite.
Vous voulez cartographier ces frictions dans votre propre organisation, sans remplacer personne ? Échangeons sur votre contexte.