Livre blanc : Les attaques sur les systèmes d’IA

Le présent rapport présente les travaux menés par le Hub France IA pour éclairer, de manière concrète, les risques spécifiques liés aux attaques sur les systèmes d’intelligence artificielle au travers d’une analyse structurée des principales catégories d’attaques et de scénarios réalistes issus des retours d’expérience de l’écosystème.

Il met en lumière des vulnérabilités et des contre mesures couvrant l’ensemble du cycle de vie des SIA (des données à l’inférence, en passant par les modèles et les chaînes MLOps) afin d’illustrer le niveau de préparation nécessaire pour déployer l’IA de façon sûre et maîtrisée.

Ces travaux s’inscrivent dans la mission du Hub France IA de fédérer un écosystème d’innovateurs, de renforcer la confiance dans l’IA et de diffuser les bonnes pratiques auprès des décideurs publics et privés. En rassemblant des analyses, des exemples concrets d’attaques et de défenses, ainsi que des recommandations opérationnelles, ce rapport fournit un référentiel commun qui doit permettre aux organisations de mieux cartographier leurs risques, de se projeter dans des scénarios d’attaque crédibles et d’identifier des trajectoires de mise en œuvre adaptées à leurs enjeux et à leur maturité.

Ce rapport est le résultat des travaux du groupe de travail « Sécurisation de l’IA » du Hub France IA, menés en partenariat avec le Campus Cyber et de nombreux acteurs de la communauté cybersécurité et IA, ainsi que de l’implication de l’ensemble des participants au groupe de travail et de toutes les personnes qui ont souhaité partager leurs retours d’expérience.