Jérémy Magrin
Développeur React Native Freelance Senior · Expo · iOS & Android
13,6%
C'est ce qu'un humain bloque quand on glisse une commande dangereuse
Une IA en bloque 89%
La semaine dernière j'écrivais que ton clic sur Allow était un placebo
Sept jours plus tard, Anthropic supprime carrément le bouton
Depuis le 14 août, l'auto mode est devenu le défaut sur Claude Code pour les plans payants
Claude exécute la plupart des actions sans te demander, un modèle séparé bloque en amont ce qui est irréversible, destructeur ou dirigé hors de ton environnement
Pourquoi ils osent
97% des demandes de permission sont validées par les devs
Tu ne relis plus rien, tu cliques Allow sans même regarder
Leur test le prouve, 1 053 devs payants, une commande clairement dangereuse glissée au milieu du flux, l'humain la rate six fois sur sept
Et encore plus si la session dure, tu décroches, ta vigilance tombe de 17% à 5% après cinquante validations
J'ai passé des mois à répéter que le human in the loop c’était un must have
Là on me le prouve chiffres à l'appui que le garde-fou humain est une passoire
Un juge qui ne dort jamais bloque six fois mieux qu'un dev fatigué à 18h
Reste une gêne, une seule
On vient de confier la surveillance d'un modèle à un autre modèle, et le jour où le juge se trompe, plus personne ne regarde derrière
Toi tu laisses l'auto mode allumé sur tes projets clients, ou tu remets les validations à la main en assumant que tu en rates six sur sept ?
