>

Cybersicherheit für KI‑Lösungen gezielt prüfen

Finden Sie heraus, ob Ihr KI-System manipuliert, manipuliert oder kompromittiert werden kann, bevor Angreifer dies tun.

Was es ist und warum es wichtig ist

Cybersicherheit ist eine der Schlüsselaspekte vertrauenswürdiger KI und eine Voraussetzung für Hochrisiko-KI-Systeme gemäß Artikel 15 des EU-KI-Gesetzes. KI-Systeme sind Bedrohungen ausgesetzt, die traditionelle Sicherheitstests nicht abdecken. Ihre Schutzmaßnahmen können mit sorgfältig ausgearbeiteten Eingabeaufforderungen umgangen werden, und jede Phase der Modellpipeline kann kompromittiert werden: Trainingsdaten können vergiftet werden, um versteckte Hintertüren zu schaffen, Modelldateien können verändert werden und Drittanbieterkomponenten können Schwachstellen einführen. Das Testen auf diese Risiken liefert einen Beweis dafür, dass Ihr System sicher ist. Es hilft Ihnen auch, die Einhaltung zu demonstrieren und Vertrauen bei Nutzern, Kunden und Regulierungsbehörden aufzubauen.

Dieser Service wird vom Luxemburger Institut für Wissenschaft und Technologie (LIST) erbracht.

Wie kann die Luxembourg AI Factory helfen? 

1. Sicherheitstests der gesamten KI-Modellpipeline
Dieser Dienst testet jede Stufe der KI-Modellpipeline, von der Trainingsdatenquelle über Modellgewichte und Abhängigkeiten bis hin zur Bereitstellung. Das Ziel ist es, Manipulationen, Vergiftungen oder böswillige Änderungen zu erkennen. Er deckt ab:

  • Erkennung von Trainingsdatenvergiftungen: Prüft, ob das Modell mit vergifteten Trainingsdaten konfrontiert wurde, die Hintertüren erzeugen.
  • Erkennung von Modellgewichtsmanipulation: Verifiziert die kryptographischen Signaturen und Prüfsummen von Modelldateien.
  • Scanning von Abhängigkeitsschwachstellen: Testet alle KI-Framework-Bibliotheken, vortrainierte Modelle und Komponenten von Drittanbietern auf bekannte Schwachstellen.
  • Reproduzierbarkeits- und Herkunftsprüfung: Überprüft, ob eingesetzte Modelle mit dem angegebenen Trainingsverfahren übereinstimmen.

2. Cybersicherheitstests mit dem AI Assessment Sandbox Configurator
Cybersicherheitstests sind im Katalog des Sandbox Configurator enthalten, sodass Sie sie zusammen mit Ihren anderen Vertrauenswürdigkeits- und Compliance-Tests durchführen können.

Was Sie erwarten können

  1. Integrierte Ergebnisse
    Die Ergebnisse von Sandbox-Cybersicherheitstests werden in derselben Datenbank, denselben Dashboards und Berichten gespeichert wie alle anderen Vertrauenswürdigkeits- und Compliance-Tests, wie Genauigkeit, Robustheit, Verzerrung, Erklärbarkeit und menschliche Kontrolle.
  2. Unabhängige, rigorose Bewertung 
    Sie erhalten eine gründliche technische Bewertung, unterstützt von unabhängigen Experten des größten öffentlichen Forschungsinstituts Luxemburgs.
  3. Expertengeführte Pipeline-Bewertung
    Das Pipeline-Sicherheitsprojekt wird vom Forschungsteam von LIST im Bereich KI-Cybersicherheit geleitet.

Für wen es ist.

Dieser Service richtet sich an Start-ups, KMU, große Unternehmen und öffentliche Verwaltungen, die KI-Systeme entwickeln oder einsetzen und deren Sicherheit bewerten und stärken möchten.