Un audit IA consiste à faire une cartographie de la surface d’attaque de l’organisation en matière d’IA. Celui-ci est mené exclusivement par entretiens et revue documentaire, sans aucune action technique sur les systèmes. L’audit fonctionnel répond à une question précise avant même d’envisager un test offensif : l’organisation sait-elle ce qu’elle a réellement déployé, gouverne-t-elle ces déploiements, et est-elle capable de réagir en cas d’incident ? Cette prestation, généralement menée en trois à quatre jours, s’articule en sept domaines qui, mis bout à bout, dessinent une cartographie complète de l’exposition IA d’une organisation, bien au-delà du seul inventaire technique auquel on la réduit trop souvent.
1. Cartographie de l’empreinte IA et Shadow AI
Ce premier domaine établit l’inventaire réel des systèmes d’IA déployés dans l’entreprise en croisant quatre populations (infrastructure, développeurs, dirigeants et collaborateurs) tout en intégrant une analyse fine des composants techniques sensibles comme les bases vectorielles, la mémoire persistante et les serveurs MCP. Il confronte systématiquement le Shadow AI aux déclarations de la DSI par analyse des journaux DNS et proxy, et documente avec précision les flux de données sortants (nature, destination, région) afin de poser les bases indispensables à toute démarche de conformité RGPD.
2. Gouvernance et politique IA
Ce domaine évalue l’existence d’un cadre de gouvernance structuré et d’un responsable identifié, en vérifiant la présence d’une charte d’utilisation, d’une couverture DLP et d’une liste d’actions interdites aux agents autonomes conformément aux recommandations de l’ANSSI. Il contrôle également la traçabilité et l’observabilité des décisions (rétention des logs, alertes d’anomalies, granularité du prétraitement aux plugins) tout en auditant les risques émergents, tels que la fuite d’informations stratégiques via les bibliothèques de prompts partagées ou l’exposition indirecte liée aux requêtes soumises aux modèles.
3. Conformité réglementaire et contractuelle
Ce domaine croise quatre référentiels : la classification des systèmes au regard de l’AI Act européen, la base légale des traitements de données personnelles au sens du RGPD, la localisation physique du traitement des données soumises aux fournisseurs de modèles et, pour les organisations françaises déployant des systèmes sensibles en cloud public, l’opportunité d’un hébergement qualifié SecNumCloud délivré par l’ANSSI. La revue contractuelle des fournisseurs constitue le second volet, souvent le plus révélateur : les conditions de service permettent-elles explicitement l’usage des données soumises pour l’entraînement des modèles? Quelles sont les durées de rétention des prompts? Une clause de droit d’audit a-t-elle été négociée avec le fournisseur ?
4. Gestion des risques IA et sécurisation des clés API
Ce domaine vérifie que l’IA est explicitement intégrée à l’analyse de risques transverse de l’organisation, avec une feuille de route dédiée et des indicateurs suivis en comité de pilotage sécurité. Le second axe porte sur la rigueur de gestion du cycle de vie des identités IA : les clés API sont-elles stockées dans un coffre-fort ou dans un fichier de configuration en clair? Une politique de rotation existe-t-elle? Les comptes de plateformes IA sont-ils inclus dans le processus de départ d’un collaborateur? Ce domaine couvre enfin le maintien à jour des outils IA eux-mêmes (extensions, bibliothèques, serveurs auto-hébergés), selon le même processus de gestion des correctifs que le reste du système d’information.
5. Systèmes métier connectés à l’IA (ERP, CRM) et injection de prompt
Ce domaine audite les intégrations IA dans les logiciels financiers, RH et CRM de l’organisation, avec une question commune à chacun : l’IA dispose-t-elle d’un accès en lecture seule ou peut-elle créer et modifier des enregistrements ? Une validation humaine existe-t-elle pour les actions à impact ? Une attention particulière est portée aux assistants IA connectés aux communications des dirigeants (e-mails, agendas, documents de conseil d’administration) où le risque d’injection de prompt indirecte via un message entrant mérite d’être explicitement documenté dans l’analyse de risques. Ce domaine couvre enfin la couche d’intégration technique elle-même : chiffrement des flux entre IA et applications métier, authentification mutuelle, usage de protocoles à jetons scopés plutôt que d’identifiants larges.
6. Protection contre la fraude IA : deepfakes et phishing
Ce domaine évalue, par analyse OSINT et revue de procédures plutôt que par simulation active, l’exposition de l’organisation à la fraude assistée par IA : compromission d’e-mail professionnel enrichie par des données publiques sur les dirigeants, deepfake vocal ou vidéo exploitant des enregistrements publics disponibles, usurpation de marque par génération de contenu, et ingénierie sociale ciblant spécifiquement les processus RH. Pour chaque scénario, l’audit vérifie l’existence d’une procédure de vérification hors bande. Un rappel systématique sur un canal de confiance avant toute validation d’un virement ou d’une action sensible reste la protection la plus robuste face à ces scénarios. Une simulation active de ces techniques reste possible mais suppose une inclusion explicite dans la lettre de mission, distincte de l’audit fonctionnel standard.
7. Plan de réponse aux incidents IA et résilience opérationnelle
Dernier domaine de l’audit fonctionnel, il vérifie l’existence de playbooks spécifiques aux incidents IA (injection de prompt détectée, agent compromis, fuite de données via un LLM, deepfake en cours d’exploitation) et leur intégration au processus de gestion d’incident général avec un chemin d’escalade défini. La capacité de coupure d’urgence des agents IA est testée sur un point précis : qui dispose de l’autorité et des moyens techniques pour révoquer, en une seule action centralisée, l’ensemble des clés API et jetons d’agents de l’organisation. Ce domaine couvre enfin l’intégration de scénarios IA dans le plan de gestion de crise et une question rarement posée ailleurs : l’organisation peut-elle fonctionner sans ses systèmes d’IA, avec des procédures de repli humain documentées et testées.
Audit IA : cadrer le périmètre pour optimiser le pentest
Ces sept domaines produisent un état des lieux qui sert de base factuelle au volet technique suivant : le pentest IA, qui teste activement la résistance des systèmes identifiés comme prioritaires selon la chaîne d’attaque d’un adversaire réel. Un audit mené sans cette étape de cadrage risque de disperser l’effort de test sur un périmètre mal priorisé, un écueil que la structuration en sept domaines vise précisément à éviter.
→ Voir notre guide des prestations de sécurité IA pour l’articulation complète de nos offres de pentest.
Questions fréquentes
Un audit IA nécessite-t-il un accès technique aux systèmes ?
Combien de temps prend un audit fonctionnel complet ?
Le domaine MLOps fait-il partie de l'audit fonctionnel standard ?
Réaliser l’audit fonctionnel de vos systèmes IA
Nos experts couvrent l’ensemble de ces sept domaines pour établir un état des lieux complet de votre exposition IA. Vous souhaitez échanger sur votre projet ou évaluer vos besoins ? Contactez nos experts.