Transparenzpflichten der KI-Verordnung für Betreiber

Welche Transparenzpflichten für Ihr Unternehmen gelten, hängt zunächst davon ab, welche Rolle Sie nach der KI-Verordnung einnehmen. Entscheidend ist insbesondere, ob Sie als Anbieter oder Betreiber eines KI-Systems auftreten. Erst wenn diese Rolle feststeht, lässt sich bestimmen, welche gesetzlichen Pflichten Sie erfüllen müssen.

Welche Rolle auf Ihr Unternehmen zutrifft und wie die KI-Verordnung die verschiedenen Rollen definiert, erfahren Sie in unserem Artikel „Verschieden Rollen nach der KI-Verordnung“. Dort finden Sie eine verständliche Einordnung und können anschließend gezielt prüfen, welche Transparenzpflichten für Ihr Unternehmen relevant sind.

Um einen Überblick über die Transparenzpflichten zu schaffen ist hier eine Tabelle mit den Transparenzpflichten aus dem EU-AI Act [1][2] angeordnet nach den betroffenen Rollen zu finden:

Wird ein KI-System eingesetzt, das Emotionen oder Stimmungen von Personen erkennt und dafür biometrischer Kategorisierung nutzt, müssen Betroffene von Betreibern darüber informiert werden. Das ist die Kernaussage dieser Regelung. 

Dabei ist es nicht relevant ob die Verarbeitung der Daten in Echtzeit erfolgt oder in einem nachgelagerten Prozess stattfinden. Zudem schließt das jede biometrische Kategorisierung mit ein, nicht nur die Kategorie Emotionen. Kategorisierungen nach Merkmalen wie Geschlecht oder Alter zählen auch dazu [3](104).

Der genaue Umfang, sowie Art und Weise der Bereitstellung der Informationspflicht ist nicht beschrieben. Jedoch schließt die Hinweispflicht Kinder explizit mit ein und gibt an, dass Informationen in klarer und unterscheidbarer Form sowie barrierefrei bereitgestellt werden müssen [3](106, 107).

Die Gestaltung des Hinweises kann sich unterscheiden je nachdem was das Einsatzgebiet und die zeitlichen Gegebenheiten der Anwendung auf den Menschen sind, sowie wer die Empfänger des Hinweises sind und deren Verhältnis zum Betreiber. Mögliche Arten zur Umsetzung des Hinweises könnten schriftliche Informationen, standardisierte Symbole oder auch mündliche Angaben sowie Kombinationen davon sein [3](107).

Die KI-Verordnung schreibt zudem auch nicht vor Gründe für den Betrieb eines solchen KI-Systems zu geben. Allerdings übernimmt hier die Datenschutz-Grundverordnung, welche eine Angabe zum Zweck der Sammlung solcher personenbezogener Daten und weiter Maßnahmen zum Schutz dieser Daten fordert. Eine mögliche Umsetzung des KI-Hinweises wäre diesen in die meist bereits vorhandene Datenschutzerklärung und deren Zustimmungsprozess zu integrieren [3](110).

Ein mögliches Einsatzszenario:

Ein vollautomatisiertes Hotel nutzt einen KI-Empfang, der anhand der Stimme oder Mimik die Stimmung eines Gastes erkennt, um den Service anzupassen. Dieser Hinweis-Prozess kann vorab bei der Buchung abgewickelt werden.

Wichtig: In der Regel gilt der Einsatz zur Verarbeitung von biometrischen Daten zur Emotionserkennung als Hochrisiko-KI-System und es gelten weitere Anforderungen und Schutzvorkehrungen. Der Einsatz solcher Systeme in Bildungseinrichtungen und an Arbeitsplätzen ist nach Artikel 5 verboten [4]. Durch die Einhaltungen der Transparenzpflicht wird diese Bestimmung zu den verbotenen Praktiken nicht außer Kraft gesetzt. 

Generierte Inhalte sind mittlerweile ein fester Bestandteil des digitalen Arbeitsalltags. Mithilfe unterschiedlicher KI-Modelle lassen sich Inhalte wie Texte, Bilder, Audio- oder Videodateien erstellen oder verändern. Dadurch entstehen neue Möglichkeiten der Inhaltserstellung, zugleich wird es zunehmend relevant, nachvollziehbar zu machen, wenn Inhalte ganz oder teilweise durch KI-Systeme erzeugt wurden.

Wenn es um die Verpflichtung zur Kennzeichnung in der KI-Verordnung geht, wird speziell von Deepfakes, also generell ausgedrückt KI-generierten und modifizierten Bildern, Videos oder Audios sowie mit KI erzeugten veröffentlichten informierenden Texten mit öffentlicher Relevanz gesprochen.

Die Europäische Kommission stellt für die Kennzeichnung eine Icon-Vorlage in englischer Form (also AI, statt KI) bereit, die in verschiedenen Varianten dunkel, hell und semitransparent verfügbar sind. Unternehmen dürfen jedoch auch andere eigene gut verständliche Kennzeichnungen verwenden, auch in eigener Landessprache [5][6][3](56).

Es gibt drei verschiedene Varianten von Labels um verschiedene KI-Einflüsse zu kennzeichnen. Explizit werden in der Verordnung generierte und manipulierte Inhalte erwähnt [1][2].

Das grundlegende AI Label wird notwendig, wenn sich die generierten KI-Inhalte hinter einer interaktiven Ebene verstecken. Das ist beispielsweise möglich zur visuellen Markierungen in Benutzeroberflächen optisch versteckter KI-Inhalte, wie Audioinhalte auf Webseiten von Betreibern. Als Label für Videos mit einer Erklärung generierter Teilinhalte, so wie „Audioinhalte“ als Schriftzug neben dem Icon als eine weitere Möglichkeit.

Deepfakes sind Bilder, Videos oder Audios, die mithilfe von KI täuschend echt verändert oder vollständig erzeugt wurden und den Eindruck vermitteln können, eine reale Person habe etwas gesagt oder getan. Die KI Verordnung definiert einen Deepfake mit folgendem Wortlaut [7]:

Ein „durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde“.

Der zentrale Punkt dabei liegt in der Täuschung von Menschen. Risiken und Auswirkungen durch den Einsatz für Identitätsdiebstahl, Irreführung, Desinformation, Manipulation und Betrug sollen mit der KI-Verordnung minimiert beziehungsweise verhindert werden [3](9). Um genau das sicherzustellen, müssen solche KI-Ergebnisse grundsätzlich klar als KI-generiert (AI-generated) oder KI-manipuliert (AI-manipulated) erkennbar sein [3](117). Für künstlerische oder satirische Inhalte gelten teilweise besondere Regelungen, eine Kennzeichnung ist jedoch weiterhin erforderlich.

Ein KI-generierter oder KI-manipulierter Inhalt ist abgeleitet von den Leitlinien zu Transparenz wahrscheinlich als Deepfake einzustufen, wenn eine oder mehrere der folgenden aufeinander aufbauenden Fragen mit „Ja“ beantwortet werden können:

Diese Fragen versuchen zu Beurteilen, ob die vier Kriterien der Definition eines Deepfakes abgeleitet von der KI-Verordnung zutreffen, also im Einzelnen folgende Punkte [3](113): 

Die Motive, mit denen verglichen wird, sind folgendermaßen definiert [3](113):

Die Wirkung dieser fiktiven Motive im Gesamtkontext sollte einerseits auf Authentizität geprüft werden. Hier geht es darum, ob der Inhalt tatsächlich das ist, was er vorgibt zu sein. Zum Beispiel: Hat eine reale Person oder ein Tier wirklich das getan, was dargestellt wird? Sieht ein Objekt tatsächlich so aus oder wurde es auf diese Weise verwendet? Wurde eine Dienstleistung tatsächlich erbracht? Hat ein Ereignis tatsächlich so stattgefunden, wie es dargestellt wird?

Zum Anderen sollte die Wirkung auf Wahrhaftigkeit untersucht werden. Dabei geht es darum, ob die dargestellten Inhalte sachlich richtig sind. Stimmen die Aussagen und Darstellungen in einem Deepfake also mit den tatsächlichen Fakten überein?

Um zu entscheiden, ob ein Motiv fälschlicherweise als authentisch oder wahrhaftig wahrgenommen wird, sollte folgendes objektiv berücksichtigen werden [3](114):

Bei der Beurteilung der Wirkung sollte besonders die Zusammensetzung des Publikums beachtet werden. Sollten die Inhalte vorhersehbar zu einem bestimmten Zeitpunkt von Kindern, älteren Menschen oder anderen Personengruppen mit geringerer digitaler Kompetenz oder Allgemeinwissen konsumiert werden, währe eine Kennzeichnung ratsam.

Dadurch kann eine Täuschung oder Irreführung durch verminderte Urteilskraft bei der Einschätzung von Echtheit und Wahrhaftigkeit verhindert werden. Eine Weiterveröffentlichung der Inhalte durch Dritte über nicht beabsichtigte Verbreitungskanäle wird bei der Berücksichtigung nicht erwartet [3](115).

Ein Gegenbeispiel der strengen Berücksichtigung der Wirkung kann die Modifikation kleinerer inhaltlicher oder technischer Details in bereits vorhandener Inhalten für die Beurteilung in Authentizität oder Wahrhaftigkeit unbedeutend sein. Jedoch ist es abhängig vom Kontext und den Auswirkungen auf diese beiden Eigenschaften bei der Betrachtung einzeln zu beurteilen.

Allgemeine Beispiele für kleinere Modifikationen sind: Die Bearbeitung von Hintergründen, die Anpassung von Audioparametern, Farbkorrekturen, Beleuchtung, Rauschunterdrückung/-entfernung, die Verbesserung der Barrierefreiheit oder die Dateikomprimierung sowie kosmetische Anpassungen und Verbesserungen.

Werden solche Modifikationen jedoch genutzt, um eine erhebliche Bearbeitung von Hintergründen beispielsweise journalistischer Bilder durchzuführen, die über übliche technische und redaktionelle Praktiken hinausgeht, kann das eine täuschende Wirkung zur Folge haben und wäre auch als Deepfake zu verstehen [3](116).

Simulierte Personen, Objekte, Orte, Entitäten oder Ereignisse gelten als unrealistisch, wenn sie beispielsweise gegen Gesetze der Natur oder Physik verstoßen. Dazu gehören etwa Menschen, die ohne Hilfsmittel fliegen, Drachen oder Elefanten, die Auto fahren. Solche Darstellungen fallen nicht unter die Transparenzpflicht, wenn sie kein Potenzial zur Irreführung haben [3](113).

Dagegen kann die Wirkung im Bereich Film nicht immer so klar feststehen. Beispiele aus dem Bereich für Motive die in ihrer Wirkung unwahrscheinlich als authentische oder wahrheitsgemäß wahrgenommen werden [3](114):

Für solche KI-Erzeugnisse sieht die KI-Verordnung eine abgeschwächte Kennzeichnungsvariante vor. Dann genügt die Offenlegung des Deepfakes in einer geeigneten Weise, die die Darbietung nicht beeinträchtigt [3](119).

Zur Orientierung, welche Deepfakes nur eine abgeschwächte Kennzeichnung benötigen, folgen die Kategorien mit ihren Beschreibungen im einzeln [3](120):

Rein informative oder kommerzielle Inhalte, die auch als solche erkennbar sind, fallen grundsätzlich nicht unter diese Ausnahme. Bei Werbung oder Dokumentarfilmen kann die Beurteilung jedoch je nach Situation unterschiedlich ausfallen.

Wichtig: Verbindet ein Inhalt mehrere Merkmale aus verschiedenen Geltungsbereichen, z. B. informative und kreative Elemente, überwiegt der informative Charakter. Dann gelten die üblichen Kennzeichnungsanforderungen.

Den konsumierenden Personen sollte bei einer Entscheidung also offensichtlich sein, dass ein Inhalt unter eine oder mehrere der beschriebenen Kategorien fällt. Potenziell unklare Zuordnungsentscheidungen sind vom gelockerten Geltungsbereich ausgeschlossen.

Außerdem gilt trotz Ausnahme nicht, dass andere Rechte außer Acht gelassen werden dürfen. Auch bei solchen Inhalten müssen die Rechte und Freiheiten anderer Personen geschützt werden. Dazu gehören insbesondere der Schutz personenbezogener Daten und geistiger Eigentumsrechte [3](124).

Kurz gesagt: Die erleichterten Transparenzpflichten sind kein Freibrief dafür, die Rechte anderer zu verletzen.

Im Folgenden werden die verschiedenen Arten von Deepfake-Inhalten und die Möglichkeiten ihrer Kennzeichnung dargestellt. Allgemein gilt: Die Kennzeichnung muss für Personen unmittelbar verständlich und wahrnehmbar sein, zum Beispiel durch einen sichtbaren Hinweis oder eine hörbare Kennzeichnung. Eine rein technische, maschinenlesbare Kennzeichnung. die auf Seiten der Anbieter besteht, reicht dafür nicht aus, da sie für die betroffenen Personen nicht direkt erkennbar ist [3](117).

Die folgenden Punkte sind laut Praxisleitfaden für Platzierung der Kennzeichnung allgemein zu beachten [5]:

Die Kennzeichnung sollte gut sichtbar sein und nicht abgeschnitten oder leicht entfernbar sein. Eine akustische Kennzeichnung reicht bei visuellen Inhalten nicht aus und muss durch eine sichtbare Kennzeichnung ergänzt werden [5].

Am besten ist das Label direkt im Bild oder Video enthalten. Hierfür wird empfohlen, die bereitgestellten Icons zu nutzen. Das sollte in einer Form passieren, in der die finale Darstellung auf Webseiten oder andern Medien nicht abgeschnitten wird und so das Label eine lesbare Größe hat [5].

Nachfolgend ein Beispiel für besseres Verständnis:

Wenn eine visuelle Kennzeichnung nicht möglich ist, z. B. bei reinen Audio-Inhalten, gelten besondere Anforderungen an die Gestaltung der Kennzeichnung. Diese soll für die betroffenen Personen verständlich und wahrnehmbar sein. Ist ein Bildschirm vorhanden, soll zusätzlich zur akustischen eine sichtbare Kennzeichnung erfolgen [5].

Folgendes Design soll befolgt werden, wenn es sich um rein auditive Inhalte handelt [5]:

Bei der Gestaltung der Kennzeichnung sollen zusätzlich die unterschiedlichen Zielgruppen und Nutzungskontexte berücksichtigt werden. Dazu gehören beispielsweise unterschiedliche Sprach- und KI-Kenntnisse sowie Kinder und ältere Menschen. Dies ist insbesondere bei sensiblen Bereichen wie Finanzen, Medizin oder Bildung relevant [5].

Barrierefreiheit: Auch für Menschen mit Einschränkungen muss die Kennzeichnung zugänglich sein. Dafür können beispielsweise Audio-Beschreibungen, alternative Signale, Vibrationen, kontrastreiche Symbole und die Unterstützung von Screenreadern eingesetzt werden. Die Kennzeichnung soll zudem von technischen Hilfsmitteln zur Barrierefreiheit erkannt werden können [5].

Wer KI-generierte oder bearbeitete Texte veröffentlicht, die der Information der Öffentlichkeit dienen (z. B. Nachrichten oder politische Informationen), kann zur KI-Kennzeichnung verpflichtet sein. Die drei wichtigsten Aspekte dabei sind [3](131):

Für die Umsetzung der Kennzeichnung können die gleichen Regeln wie bei den Deepfakes angewandt werden. Also Labels oder Texte, die über Generierung oder Modifikation aufklären. Wichtig ist die klare Wahrnehmbarkeit für natürliche Personen sicher zu stellen [3](132).

Zusätzlich gelten folgende Ausnahmen für Texte, die von der Kennzeichnung ausgeschlossen sind[3](130): 

In der Praxis sollte die juristische oder natürliche Person mit redaktioneller Verantwortung namentlich mit Funktion und Kontaktdaten benannt werden. Dies sollte an einer leicht auffindbaren Stelle, wie den Nutzungsbedingungen, dem Impressum oder ähnlichen rechtlichen Hinweisen, öffentlich zugänglich erfolgen. Hierbei kann es sich um eine Einzelperson, Redaktion oder Verlag handeln. Diese Instanz ist verantwortlich, dass der Kontrollprozess korrekt nach der beschriebenen Ausnahme durchgeführt wird [3](138).

Die menschliche Überprüfung der Texte sollte von Personen mit einschlägigem Wissen und fachlichem Urteilsvermögen in Bezug auf den zu prüfenden Gegenstand erfolgen [3](134). Oberflächliche, rein formale oder verfahrenstechnische Überprüfungen mit oberflächlichen redaktionellen Freigabe ohne inhaltliche Prüfung genügen nicht für den Kontrollprozess [3](135). Erfolgen weitere Änderungen mit Einbezug von KI-Systemen nach der Kontrolle, wird eine erneute Kontrolle oder Kennzeichnung notwendig [3](136).