Votre agent IA n'a pas besoin de plus d'outils, il a besoin d'un état d'esprit

Au-delà des outils : Pourquoi le raisonnement est la véritable compétence dans les tests d'intrusion assistés par IA

Une chose que j’ai appris à apprécier à travers les tests d'intrusion, c’est que les outils sont rarement ce qui sépare les bons testeurs des grands.

La plupart des professionnels ont accès aux mêmes scanners, frameworks et utilitaires. Ce qui fait la différence, c’est le raisonnement derrière chaque action. Les meilleurs testeurs ne savent pas seulement quel outil exécuter ; ils savent pourquoi ils l’exécutent.

Alors que les agents d'IA deviennent de plus en plus performants, je pense que nous commettons une erreur similaire.

1. La plupart des "compétences" en sécurité de l'IA ne sont que de la documentation

Jetez un œil à la plupart des « compétences en sécurité » développées pour l’IA aujourd’hui. Elles ressemblent généralement à ceci :

• Voici comment utiliser Nmap.

• Voici les meilleures commandes ffuf.

• Voici des exemples SQLMap.

• Voici une checklist pour XSS.

Il n'y a rien de mal à cela. La documentation, les exemples et les références d'outils sont extrêmement utiles. Mais c'est exactement ce qu'ils sont : de la documentation.

Si un agent d'IA sait seulement rejouer des exemples prédéfinis, il sera performant sur des problèmes qui ressemblent étroitement à ces exemples. Dès que la cible se comporte différemment, sa confiance se transforme rapidement en confusion.

2. Ce que font réellement les testeurs expérimentés

Un testeur d'intrusion chevronné ne commence pas une évaluation en se demandant quelle commande exécuter. Il commence par essayer de comprendre le système.

Il se pose ces questions :

• Quelles hypothèses cette application formule-t-elle ?

• Que révèle cette réponse spécifique ?

• Pourquoi cet endpoint s'est-il comporté différemment des autres ?

• Quelle est la plus petite expérience que je puisse mener pour confirmer ou rejeter mon hypothèse actuelle ?

Chaque action est guidée par le raisonnement. C'est la différence fondamentale entre utiliser un outil et penser comme un attaquant.

3. Intégrer le raisonnement dans un agent d'IA

C'est cette philosophie qui a inspiré la communauté Rifteo à construire notre bibliothèque open-source de compétences réutilisables pour les agents d'IA.

🛠️ Dépôt à la une

Rifteo/skills

La bibliothèque officielle de compétences d'agent Rifteo — une collection de jeux d'instructions réutilisables pour les agents d'IA couvrant la sécurité offensive.

Plutôt que de traiter une compétence comme une collection statique de commandes, nous essayons de modéliser les schémas de raisonnement cognitif que les testeurs d'intrusion expérimentés suivent naturellement.

4. Exemples pratiques tirés des compétences Rifteo

🔄 Redmind : La boucle continue de l'attaquant

Au lieu de dire à l'agent quel outil spécifique exécuter, Redmind met en place une boucle continue de l'attaquant.

L'agent :

1. Observe ce que la cible révèle.

2. Remet en question les hypothèses sous-jacentes.

3. Réalise une expérience très ciblée.

4. Apprend du résultat et pivote si nécessaire.

5. Enchaîne les découvertes, où le résultat d'une étape devient naturellement l'entrée de la suivante.

Remarquez ce qui manque à cette boucle : il n'est nullement mentionné nmap, ffuf ou tout autre outil spécifique.

C’est tout à fait délibéré. La boucle est conçue pour fonctionner quel que soit l'environnement. Que la cible soit une application web, une API, une infrastructure cloud ou tout autre chose, le raisonnement de base reste identique.

👁️ Deadangle : Éliminer la vision en tunnel

L’une des plus grandes faiblesses des humains comme des agents d’IA est la vision en tunnel. Une fois que nous sommes convaincus qu’une hypothèse particulière est correcte, nous avons tendance à passer beaucoup trop de temps à essayer de la prouver, au lieu de nous demander s’il s’agit toujours de la meilleure voie à suivre.

Deadangle est conçu pour briser ce cycle. Il force l'agent à :

• Remettre en question ses propres hypothèses de manière périodique.

• Réévaluer les preuves disponibles sous un angle nouveau.

• Explorer délibérément d'autres voies d'attaque avant de perdre plus de temps dans une impasse.

Au lieu d'envoyer aveuglément d'autres payloads ou de répéter les mêmes tests infructueux, l'agent apprend à prendre du recul et à se demander : "Suis-je toujours en train de résoudre le bon problème ?"

Dernières pensées

Je pense que l’avenir de l’IA en sécurité offensive ne réside pas dans des bibliothèques de prompts plus vastes ou des collections plus longues de commandes copier-coller. Il s'agit d'enseigner aux agents d'IA l'état d'esprit d'investigation que les testeurs d'intrusion expérimentés utilisent au quotidien.

Chez Rifteo, c'est notre philosophie fondamentale. Nous construisons une collection de schémas de raisonnement réutilisables qui aident les agents d'IA à aborder la sécurité offensive comme le feraient des humains.

Si cela résonne en vous, nous serions ravis que vous vous impliquiez :

• Code : Dépôt GitHub

• Communauté : Forum de la communauté Rifteo

Explorez les compétences, partagez vos idées ou contribuez à en créer de nouvelles. Si vous avez développé un schéma de raisonnement qui a fait de vous un meilleur pentester, ouvrez un ticket (issue), soumettez une pull request ou lancez une discussion. Nous serions ravis d'apprendre de vous.

Car au bout du compte, les outils vont et viennent. Un bon état d'esprit reste.