Die Integration von KI-Modellen für allgemeine Zwecke – wie GPT, Claude oder Gemini – in eigene Produkte und Dienstleistungen nimmt stetig zu. Aus Sicht des AI Act ist das integrierende Unternehmen nicht zwangsläufig lediglich Nutzer des Modells.

Je nachdem, wie das resultierende System entwickelt und angeboten wird, kann das Unternehmen die Stellung eines nachgelagerten Anbieters (downstream provider) einnehmen und für die Konformität des Gesamtsystems verantwortlich sein.

Wer gilt als nachgelagerter Anbieter?

Der AI Act definiert den nachgelagerten Anbieter in Art. 3 Nr. 68 als Anbieter eines KI-Systems – einschließlich eines KI-Systems für allgemeine Zwecke –, der ein KI-Modell integriert. Das Modell kann entweder vom Anbieter selbst entwickelt und vertikal integriert werden oder von einem Dritten im Rahmen einer vertraglichen Beziehung stammen.

Ein Unternehmen kann beispielsweise ein GPT-Modell in eine eigene Recruiting-Plattform, eine Vertragsanalyse-Anwendung oder einen medizinischen Chatbot integrieren und das resultierende System unter eigener Marke anbieten. Auch wenn das Basismodell einem anderen Unternehmen gehört, legt das integrierende Unternehmen Zweck und Funktionen des Endprodukts sowie die Art der Bereitstellung an Kunden fest. In diesem Fall kann das Unternehmen die Stellung eines nachgelagerten Anbieters innehaben.

Die bloße interne Nutzung eines Tools wie ChatGPT hingegen begründet diese Stellung nicht automatisch. Erforderlich ist, dass die Organisation ein KI-System bereitstellt, das das Modell integriert.

Die Pflichten richten sich nach dem Endsystem

Der nachgelagerte Anbieter unterliegt keinem vollständig eigenständigen Regelwerk. Er ist Anbieter des resultierenden Systems und muss die anwendbaren Pflichten anhand von dessen Zweck, Funktionalität und Einstufung bestimmen.

Die Analyse muss klären, ob das System:

- eine verbotene Praktik gemäß Art. 5 darstellt;

- ein Hochrisiko-System gemäß Art. 6 sowie Anhang I oder III ist;

- den Transparenzpflichten gemäß Art. 50 unterliegt.

Ein Chatbot etwa, der für die Interaktion mit der Öffentlichkeit bestimmt ist, muss grundsätzlich darüber informieren, dass die Nutzer mit einem KI-System interagieren (Art. 50 Abs. 1). Eine Plattform, die KI zur Kandidatenauswahl einsetzt, kann in die Kategorie der Hochrisiko-Systeme gemäß Anhang III fallen.

Wird das System als Hochrisiko-System eingestuft, muss der nachgelagerte Anbieter die Anforderungen der Art. 8–15 erfüllen – zu Risikomanagement, Daten-Governance, technischer Dokumentation, Protokollierung, Transparenz, menschlicher Aufsicht, Genauigkeit, Robustheit und Cybersicherheit. Art. 16 sieht zudem Pflichten zu Qualitätsmanagement, Konformitätsbewertung, Registrierung des Systems, Korrekturmaßnahmen und Nachweis der Konformität vor.

Gemäß dem in Art. 113 der konsolidierten Fassung vorgesehenen Zeitplan gelten diese Anforderungen ab dem 2. Dezember 2027 für Hochrisiko-Systeme nach Anhang III und ab dem 2. August 2028 für Systeme im Zusammenhang mit regulierten Produkten nach Anhang I.

Zugang zu Informationen über das Modell

Der nachgelagerte Anbieter kann das Endsystem ohne ausreichende Informationen über das integrierte Modell weder bewerten noch dokumentieren. Art. 53 Abs. 1 lit. b verpflichtet den Anbieter des KI-Modells für allgemeine Zwecke dazu, die notwendigen Informationen bereitzustellen, damit die Fähigkeiten und Grenzen des Modells verstanden und die Vorgaben des AI Act eingehalten werden können.

Gemäß Anhang XII müssen diese Informationen unter anderem Folgendes umfassen: relevante Versionen, Architektur, Formate der Eingabe- und Ausgabedaten, Nutzungsrichtlinien, für die Integration erforderliche technische Mittel sowie die Herkunft der für Training, Test und Validierung verwendeten Daten.

Für Hochrisiko-Systeme schreibt Art. 25 Abs. 4 zudem den Abschluss einer schriftlichen Vereinbarung zwischen dem Anbieter des Endsystems und den Dritten vor, die die integrierten Modelle, Komponenten oder Dienstleistungen bereitstellen. Diese Vereinbarung muss die bereitzustellenden Informationen, den technischen Zugang und die zur Konformität erforderliche Unterstützung festlegen.

Kommt der Anbieter des KI-Modells für allgemeine Zwecke seinen Pflichten nicht nach, kann der nachgelagerte Anbieter gemäß Art. 89 Abs. 2 eine begründete Beschwerde beim KI-Büro einreichen.

Die Integration eines externen Modells überträgt demnach nicht die gesamte Verantwortung auf den Entwickler des Modells. Die Konformität muss gesondert für das Endsystem beurteilt werden – unter Berücksichtigung seines Zwecks, der Art der Integration sowie des konkreten Kontexts, in dem es auf den Markt gebracht oder in Betrieb genommen wird.