Faites confiance aux limites, pas à l'agent

Laisser des agents s'exécuter de façon autonome pendant de longues périodes exige des garde-fous qui ne dépendent pas de votre surveillance. N'acceptez pas le faux choix entre laisser l'agent faire ce qu'il veut sur votre ordinateur portable et cliquer sur « accepter » à chaque appel d'outil. Restreignez plutôt l'accès de l'agent aux fichiers, aux outils, au réseau et aux identifiants dont il a réellement besoin, puis laissez-le s'exécuter sans supervision.

Commencez de façon restrictive, puis élargissez à mesure que vous gagnez en confiance envers ces limites, jusqu'à ce que les seules choses que vous contrôlez soient les actions irréversibles. Soyez particulièrement méfiant à l'égard de la production : un agent ne devrait jamais avoir accès à votre compte de production ni à vos identifiants de déploiement, à moins que vous ne le lui ayez accordé de façon explicite et délibérée.

Ajoutez des vérifications déterministes qui repèrent les problèmes que les tests habituels ont peu de chances de détecter : des tests de sécurité applicative statiques pour signaler les vulnérabilités, l'analyse des identifiants pour détecter les secrets divulgués et le raisonnement automatisé pour vérifier mathématiquement que la sortie de l'agent correspond à votre intention. Chaque garde-fou que vous automatisez est une raison de moins de rester dans la boucle.