>

Évaluation de la cybersécurité des solutions IA

Découvrez si votre système d’IA peut être manipulé, trafiqué ou compromis avant que les attaquants ne le fassent.

Ce que c’est et pourquoi c’est important

La cybersécurité est l’une des dimensions clés de l’IA fiable et une exigence pour les systèmes d’IA à haut risque selon l’article 15 de la loi européenne sur l’IA. Les systèmes d’IA sont exposés à des menaces que les tests de sécurité traditionnels ne couvrent pas. Leurs garanties peuvent être contournées par des consignes soigneusement élaborées et toute étape du pipeline de modèles peut être compromise. Les données d’entraînement peuvent être détournées pour créer des portes dérobées cachées, les fichiers modèles peuvent être modifiés et les composants tiers peuvent introduire des vulnérabilités. Tester ces risques vous apporte la preuve que votre système est sécurisé. Cela vous aide également à démontrer la conformité et à instaurer la confiance auprès des utilisateurs, des clients et des régulateurs.

Ce service est assuré par l’Institut Luxembourg des Sciences et Technologies (LIST).

Comment Luxembourg AI Factory peut-elle aider 

1. Test de sécurité sur l’ensemble du pipeline de modèles d’IA
Ce service teste chaque étape du pipeline de modèles d’IA, des sources de données d’entraînement en passant par les poids et dépendances du modèle jusqu’au déploiement. L’objectif est de détecter toute manipulation, altérations ou modifications malveillantes. Il couvre :

  • La détection d’altération malveillante des données d’entraînement: vérifie si le modèle a été exposé à des données d’entraînement empoisonnées qui créent des portes dérobées.
  • La détection de la falsification de poids des modèles: vérifie les signatures cryptographiques et les sommes de contrôle des fichiers modèles.
  • L'analyse des vulnérabilités des dépendances: teste toutes les bibliothèques d'IA, les modèles pré-entraînés et les composants tiers pour détecter des vulnérabilités connues.
  • L'audit de reproductibilité et de provenance: vérifie que les modèles déployés correspondent à la procédure d’entraînement revendiquée.

2. Tests de cybersécurité avec le configurateur sandbox d’évaluation IA
Les tests de cybersécurité sont inclus dans le catalogue du Sandbox Configurator, vous pouvez donc les exécuter en parallèle avec vos autres tests de fiabilité et de conformité.

À quoi vous pouvez vous attendre 

  1. Résultats intégrés
    Les résultats des tests de cybersécurité du sandbox sont stockés dans la même base de données, tableaux de bord et rapports que tous vos autres tests de fiabilité et de conformité, tels que la précision, la robustesse, les biais, l’explicabilité et la supervision humaine.
  2. Évaluation indépendante et rigoureuse
    Vous bénéficiez d'une évaluation technique approfondie soutenue par des experts indépendants du plus grand institut public de recherche du Luxembourg.
  3. Évaluation du pipeline dirigée par des experts
    Le projet de sécurité des pipelines est dirigé par l'équipe de recherche de LIST sur la cybersécurité de l'IA.

Pour qui c’est

Ce service s’adresse aux startups, PME, grandes entreprises et administrations publiques qui développent ou déploient des systèmes d’IA et souhaitent évaluer et renforcer leur sécurité.