Transparenzpflichten der KI-Verordnung für Anbieter

Welche Transparenzpflichten für Ihr Unternehmen gelten, hängt zunächst davon ab, welche Rolle Sie nach der KI-Verordnung einnehmen. Entscheidend ist insbesondere, ob Sie als Anbieter oder Betreiber eines KI-Systems auftreten. Erst wenn diese Rolle feststeht, lässt sich bestimmen, welche gesetzlichen Pflichten Sie erfüllen müssen.

Welche Rolle auf Ihr Unternehmen zutrifft und wie die KI-Verordnung die verschiedenen Rollen definiert, erfahren Sie in unserem Artikel „Verschieden Rollen nach der KI-Verordnung“. Dort finden Sie eine verständliche Einordnung und können anschließend gezielt prüfen, welche Transparenzpflichten für Ihr Unternehmen relevant sind.

Um einen Überblick über die Transparenzpflichten zu schaffen, ist hier eine Tabelle mit den Transparenzpflichten aus dem EU-AI Act [1][2] angeordnet nach den betroffenen Rollen zu finden:

Wer mit einem KI-System kommuniziert beziehungsweise direkten Kontakt hat, muss darüber informiert werden [3](29).

Folgende vier Punkte müssen laut den Leitlinien zu den Transparenzverpflichtungen hinsichtlich Artikel 50 Punkt 1 [3](30)  erfüllt sein, damit das Gesetz Anwendung findet:

Damit dies auch bei einer möglichen Änderung des Einsatzzwecks eines KI-Systems gewährleistet ist, sollten Agenten bereits auf Architekturebene so gestaltet sein, dass sie sich immer dann als KI-System zu erkennen geben, wenn eine Interaktion mit einer natürlichen Person wahrscheinlich ist [3](31).

Die Information über den KI-Einsatz sollte bereits zu Beginn der Interaktion erfolgen und leicht verständlich sein. Dabei gelten gleichzeitig die allgemeinen Anforderungen an verständliche und rechtzeitige Hinweise (siehe Punkt 6 und 7 aus dem Überblick).

Typische Einsatz-Beispiele für die diese Regelung greift:

Mögliche Formen der Offenlegung des Hinweises umfassen beispielsweise einen Text zu Beginn einer KI-Konversation in der Benutzeroberfläche, visuelle, wiedererkennbare KI-Label bei E-Mail-Austausch mit einem KI-Agenten, akustische Sprachhinweise zu Beginn eines Telefonats mit einem KI-Telefonassistenten oder andere Identifikatoren, die den Verfasser von KI-Inhalten mittels Identitätsnachweis auf überprüfbare Weise offenlegen [3](36).

Die Methoden sollten dem jeweiligen Zweck gewählt werden, um eine ausreichende Transparenz zu gewährleisten. Eine Kombination verschiedener Varianten kann helfen Barrierefreiheit sicherzustellen und die Verständlichkeit für unterschiedliche Nutzergruppen zu verbessern [3](37).

Als unzureichend gelten [3](38):

• versteckte Angaben in Dokumentationen, wie etwa in Allgemeinen Geschäftsbedingungen,
• nur maschinenlesbare Hinweise in Metadaten
• oder umschriebene Hinweise, wie bspw. „Assistent“,
• allgemeine Mitteilungen für eine gesamte Plattform, wenn nur spezifische Teile KI-basiert sind
• sowie zu technisch formulierte Hinweise, die für die allgemeine Öffentlichkeit beziehungsweise für die Zielgruppe unverständlich sind.

Unter gewissen Bedingungen sind Ausnahmen von der Hinweispflicht möglich. Dafür müssen Anbieter jedoch eine Beurteilung durchführen und den offensichtlich „künstlichen“ Charakter der KI-Interaktion gegenüber Personen nachweisen. Dabei müssen die Umstände und der Nutzungskontexts berücksichtigt werden. Zudem ist zu beurteilen, ob die Personen der jeweiligen Zielgruppe als angemessen gut informiert, aufmerksam und umsichtig gelten können [3](42).

Ein gutes Beispiel für eine solche Ausnahme ist der Einsatz von KI-Assistenten bei der Erzeugung und Prüfung von Programmcode. Aufgrund ihrer Fachkenntnisse und des Anwendungskontexts ist die Zielgruppe des KI-Systems ausreichend informiert und kann ohne Probleme die Ausgaben ohne Weiteres als KI-generiert identifizieren [3](45). 

Eine weitere Ausnahme betrifft den Einsatz von KI-Systemen zur Strafverfolgung beziehungsweise zur Aufdeckung, Verhütung und Ermittlung von Straftaten [1][2].

Diese Pflicht gilt vorrangig für Anbieter generativer KI-Systeme und betrifft die technische beziehungsweise maschinenlesbare Kennzeichnung von KI-generierten Inhalten. Sie unterscheidet sich von der sichtbaren Kennzeichnung von Deepfakes (Punkt 4) oder der Kennzeichnung öffentlich relevanter Texte (Punkt 5) hinsichtlich ihrer Umsetzungsform. 

Betroffen sind die Inhalte:

Abgesehen von diesen Basismedien, werden alle Arten multimedialer Inhalte, die aus ihnen kombiniert werden oder auf ihnen beruhen miteingeschlossen.

Die konkrete technische Umsetzungsmethode ist hierfür nicht vorgegeben. Die Kennzeichnungslösungen sollten jedoch folgende beiden Bedingungen unbedingt erfüllen [3](69, 71): 

Der Anbieter muss demnach für eine technische Lösung umsetzen, die eine Kombination aus Kennzeichnung und Erkennungsmittel vorsieht.

Verfügbare Techniken, die für die Umsetzung der Kennzeichnung infrage kommen, sind unter anderem Wasserzeichen, die Identifizierung über Metadaten, kryptografische Methoden zum Nachweis der Herkunft und Authentizität des Inhalts, Protokollierungsmethoden sowie Fingerabdrücke [1][4].

Beispiel-Verfahren zweier großer Anbieter, die sich in Zukunft etablieren könnten oder aus denen sich ähnliche Umsetzungen entwickeln könnten [5] vereinfacht erklärt:

Für diese Verfahren existieren bereits konkrete Prozesse der jeweiligen Anbieter, die eine zugängliche Überprüfung ermöglichen. Idealerweise sollte eine Kombination mehrerer Verfahren umgesetzt werden, um die zweite Bedingung der Überprüfbarkeit zu gewährleisten, da nicht jedes Verfahren gleichermaßen robust gegenüber Manipulation ist [5]. Allerdings ist die Verwendung nur eines Verfahrens ausreichend, solange die Anforderungen an Wirksamkeit, Interoperabilität, Robustheit und Zuverlässigkeit erfüllt sind [3](72).

Die beiden Verfahren wurden von den Anbietern Adobe und Google entwickelt und sind leider nicht vollständig frei verfügbar. 

Dieses Verfahren speichert die Herkunft sowie Modifikationen und die dafür verantwortlichen Dienste oder Softwarelösungen als Verlauf in den Metadaten. Um nach einer Bearbeitung der Medieninhalte die Authentizität der Metadaten zu bewahren, muss eine verifizierte Signatur verwendet werden. Ist die Signatur nicht offiziell, können falsche Angaben in den Metadaten nicht ausgeschlossen werden. Diese Verifikation kann derzeit über verschiedene Dienste erworben werden. Der Schreibprozess befindet sich damit hinter einer Paywall. Für das Auslesen der Daten sind hingegen freie Plattformen und Bibliotheken verfügbar die in eigene Dienste eingebaut werden können.

Zwar wurde für SynthID eine Open-Source-Methode für die Umsetzung bei generierten Texten veröffentlicht, die über leichte Veränderungen der Wahrscheinlichkeitsverteilung der nächsten Tokens im Generierungsprozess funktioniert. Das Wasserzeichenverfahren für Medieninhalte ist jedoch nicht frei verfügbar, solange das verwendete Modell nicht auf der Google Cloud gehostet wird. Für herstellerspezifische Modelle auf eigenen Servern außerhalb des Google-Ökosystems existieren vorrangig nur Partnerlösungen für Unternehmen. Die mit SynthID versehenen Inhalte dieser Partnerunternehmen können anschließend durch Google überprüft und den jeweiligen Partnern anhand des Wasserzeichens zugeordnet werden.

Die Technologie für Kennzeichnungen in Medien funktioniert indem in einem der Generierung nachgelagerten Prozess geringfügige und für Menschen nicht erkennbare Modifikationen im Frequenz- oder Pixelbereich vorgenommen werden. Diese Wasserzeichen können selbst stärkeren Bearbeitungen, wie Zuschnitt, Kompression oder Filterung, standhalten.

Im Gesetz steht, dass die folgenden vier Qualitätsanforderungen bei der Umsetzung einer technischen Lösung für die Kennzeichnung erfüllt sein müssen [1][2]:

So wird die Fähigkeit der technischen Lösung bezeichnet, Inhalte auf eine KI-Beteiligung zu prüfen (Erkennungsmittel). Damit können in Inhalten enthaltene Kennzeichnungen registriert und Menschen in die Lage versetzt werden, KI-generierte Inhalte zu erkennen. Das soll zur Integrität des Informationsökosystems beitragen [Leitfaden Transparenz 4.2.3 (79)].

Interoperabilität bedeutet, dass die Kennzeichnungsdaten beim Transfer unterschiedlicher Medien zwischen Systemen, Akteuren, Kontexten und  technischen Umgebungen idealerweise nicht verloren gehen sollten. Dies betrifft beispielsweise den Download und anschließenden Upload auf unterschiedliche Plattformen. Die Kennzeichnungen sollten weiterhin mit den Erkennungsmitteln der Anbieter erfasst werden können, um einen langfristigen und zuverlässigen Nachweis zu gewährleisten [3](79).

Derzeit ist dies durch die Infrastruktur der meisten Plattformen im Internet noch nicht gewährleistet. Hierfür müssten die jeweiligen Plattformen sicherstellen, dass solche Metadaten erhalten bleiben können. Für diese Plattformen wurde mit der KI-Verordnung jedoch keine Pflicht eingeführt, die sie zur Umsetzung dieser Vorgabe verpflichtet [3](16).

Diese Eigenschaft beschreibt die Widerstandsfähigkeit der technischen Lösung gegenüber verschiedenen Bedingungen. Dazu gehören einfache Veränderungen der generierten beziehungsweise modifizierten Inhalte sowie „Adversarial Attacks“ [3](79). Dabei handelt es sich um Veränderungen der Inhalte, die für Menschen kaum erkennbar sind, jedoch bei KI-Systemen zu falschen Klassifikationen oder Entscheidungen führen können.

Damit ist die Fähigkeit gemeint, KI-generierte oder manipulierte Inhalte mithilfe technischer Lösungen so zu identifizieren, dass sie zuverlässig von anderen Inhalten unterschieden werden können und die für die Erzeugung verantwortlichen Anbieter der KI-Systeme namentlich erkennbar sind [3](79).

Bei der Umsetzung einer technischen Lösung sind Anbieter verpflichtet, dem aktuellen Stand der Technik entsprechende Methoden zu wählen. Dabei sollen sie Kennzeichnungs- und Erkennungsmittel kontinuierlich, zeitnah und verhältnismäßig an die Weiterentwicklung der in der Praxis eingesetzten und verfügbaren Technologien anpassen [3](82,83).

Sollten Anbieter sich auf Erkennungsmittel von Dritten stützen, müssen sie sicherstellen, dass diese die Bestimmungen der KI-Verordnung erfüllen und bei der Erkennung von Medien korrekte Ergebnisse liefern [3](78).

In eng definierten Fällen können Ausnahmen hinsichtlich des Umfangs der Kennzeichnungspflicht bestehen. Eine Grundvoraussetzung dafür ist ein geringes Risiko einer Täuschung, Manipulation oder negativer Auswirkungen auf das Informationsökosystem durch die entsprechenden KI-Systeme.

Ein Beispiel sind in physische Produkte eingebettete Systeme in kontrollierten und geschlossenen Umgebungen mit informativem Charakter, wie KI-Inhalte in einem Fahrzeugnavigationssystem. 

Eine weitere Ausnahme kann für Echtzeitinhalte aus Videospielen oder virtuellen Welten gelten (Virtual-, Augmented- oder Mixed-Reality-Anwendungen), wenn diese unmittelbar konsumiert und die generierten Inhalte weder gespeichert noch aufgezeichnet werden, um sie weiterzuverarbeiten. Diese Ausnahme ist nur möglich, wenn beide Voraussetzungen erfüllt sind: Die technische Kennzeichnung ist nicht umsetzbar und die konsumierenden Personen werden während des Konsums auf die KI-generierten Inhalte hingewiesen [3](88). 

Zu beachten ist, dass diese Ausnahmen nicht generell alle mit KI-Systemen generierten Inhalte für den Einsatz in Videospielen oder virtuellen Welten einschließen. Medien in virtuellen Welten werden aufgrund ihrer Darstellungsweise als zeitbasierte Bildsequenzen als Videos betrachtet. Videos innerhalb dieser Anwendungen mit festem Skript, die nicht in Echtzeit erzeugt, sondern zuvor mithilfe eines KI-Systems erstellt wurden, fallen weiterhin unter die technischen Kennzeichnungspflichten. Dasselbe gilt für andere generierte Assets, die für diese Anwendungen final aufbereitet werden, wie (3D-)Medien in Form von Bildern, Videos oder Audioinhalten in ihrer für den Konsum vorgesehenen Form. Digitale Artefakte, die lediglich zur Erzeugung dieses finalen Zustands verwendet werden, fallen hingegen nicht unter die Pflicht, beispielsweise 3D-Meshes [3](61).

Außerdem kann es zu einzelnen Ausnahmen von den Pflichten im unternehmensinternen Bereich kommen. Dort kann aufgrund des Verhältnismäßigkeitsprinzips auf Kennzeichnungs- und Erkennungsmittel verzichtet werden. Dies kann der Falls sein, wenn die Verhältnismäßigkeit nicht gegeben ist, also wenn der damit verbundene Aufwand und die Kosten für das Unternehmen größer sind als der Nutzen für die Allgemeinheit.

Dafür müssen alle der folgenden drei Bedingungen erfüllt sein [3](87):

Abgesehen von den bedingten Ausnahmen existieren zudem ausdrückliche Ausnahmen in der KI-Verordnung:

Das wären zum einen Standard-Hilfsfunktionen in der Textbearbeitung. Diese können durch geringfügige  Änderungen die Lesbarkeit, Grammatik, Qualität des Layouts und der Darstellung, die Barrierefreiheit sowie die Formatierung verbessern. Voraussetzung ist, dass keine neuen Inhalte erstellt und bestehende Inhalte nicht so verändert werden, dass sich deren Bedeutung, Stil oder Botschaft ändern [3](90).

Zum anderen gilt eine Ausnahme, wenn zwischen Ein- und Ausgabe des KI-Systems keine wesentliche Veränderung des Inhalts hinsichtlich der Daten und deren Semantik besteht. Zur Bewertung des Grades der Veränderung müssen relevante Faktoren berücksichtigt werden, etwa das Format, die Art des Medieninhalts sowie formale und inhaltliche Veränderungen, die Bedeutung, Stil oder Botschaft beeinflussen können. Ob dies zutrifft, muss im Einzelball entschieden werden [3](91).

Zusätzlich gilt: Wenn KI-Systeme zur Erstellung oder Manipulation von Inhalten eingesetzt werden und lediglich unwesentliche oder geringfügige Änerungen an Eingabedaten vornehmen, bestehen die Transparenzpflichten für diese gerinfügigen Veränderungen nicht [3](92).

Die Umsetzung dieser Verpflichtung zur technischen Kennzeichnung wurde durch die Omnibus-Verordnung auf Dezember 2026 verschoben. Alle generativen KI-Systeme auf dem EU-Markt müssen bis dahin die Vorgaben erfüllen, die bereits öffentlich sind [8].

Die letzten beiden Punkte aus der Übersicht beschreiben, wie die zuvor genannten Transparenzpflichten umgesetzt werden sollen.

Die KI-Verordnung schreibt keine bestimmte Form der Offenlegung vor. Unternehmen können daher selbst entscheiden, wie sie Nutzer darüber informieren, dass sie mit einem KI-System interagieren. Die Information muss jedoch klar, eindeutig und spätestens bei der ersten Interaktion erfolgen.

Dabei sind die Bedürfnisse besonders schutzbedürftiger Personen, insbesondere von Kindern, älteren Menschen und Menschen mit Behinderungen, zu berücksichtigen. Die Hinweise müssen zudem barrierefrei und verständlich gestaltet sein. Bei Kindern sollten sie insbesondere altersgerecht und leicht verständlich formuliert werden [3](34).

Für Unternehmen bedeutet dies, dass bereits bei der Gestaltung des KI-Systems berücksichtigt werden sollte, welche Personengruppen voraussichtlich mit dem System interagieren werden. Soweit sinnvoll und verfügbar, können standardisierte Kennzeichnungen genutzt werden, um eine einheitliche und gut erkennbare Offenlegung zu gewährleisten.

Für Unternehmen lassen sich daraus einige einfache Regeln ableiten:

In der KI-Verordnung existieren auch weitere Transparenzpflichten, die sich jedoch auf spezielle Themen konzentrieren. Dies betrifft insbesondere Anbieter von KI-Systemen sowie Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (General-Purpose AI, GPAI), für die jeweils eigene Regelungen gelten.

Die relevanten Transparenzinformationen von GPAI-Modellen sind unter anderem in Anhang XII der Verordnung aufgeführt [6]. Diese müssen grundsätzlich nicht der Öffentlichkeit oder den Endnutzern zur Verfügung gestellt werden, sondern dienen der Information nachgelagerter Anbieter von KI-Systemen („downstream providers“), die das GPAI-Modell in ihre eigenen KI-Systeme integrieren.

Allerdings müssen Anbieter von GPAI-Modellen zusätzlich eine anhand der Vorlage des KI-Büros erstellte Zusammenfassung der für das Training verwendeten Inhalte veröffentlichen [7].

Für KI-Systeme bestehen abgesehen von bereits genannten Transparenzpflichten aus Artikel 50 grundsätzlich keine allgemeinen Transparenz-Verpflichtungen, wie die öffentliche Offenlegung technischer Informationen. Stattdessen müssen bei Hochrisiko-Systemen insbesondere technische Dokumentationen und weitere Compliance-Unterlagen für die zuständigen Marktüberwachungsbehörden sowie gegebenenfalls für Konformitätsbewertungsstellen bereitgehalten werden [3](25).

Für die Anwendung bestimmter Regelungen und der damit verbundenen Verpflichtungen wurden im Rahmen der KI-Omnibus-Verordnung die folgenden Fristen verschoben [8]: