Die Digitalisierung schreitet voran und mit ihr auch der Einsatz von Künstlicher Intelligenz (KI). KI-Inhalte werden immer vielfältiger und komplexer und finden in immer mehr Bereichen Anwendung, von der Finanzberatung bis hin zum Journalismus. Doch wie steht es um die Transparenz und Kennzeichnungspflicht dieser Inhalte?

Müssen KI-generierte Texte, Bilder oder Videos klar als solche gekennzeichnet werden?

Was sind KI-Inhalte?

KI-Inhalte sind Inhalte, die ganz oder teilweise mit Hilfe von KI erzeugt oder manipuliert wurden. Dazu können zum Beispiel gehören:
KI-generierte Texte: Diese Texte werden von KI-Programmen erstellt, die auf riesige Datensätze mit Texten trainiert wurden.
Deepfakes: Deepfakes sind Videos, die mit Hilfe von KI manipuliert wurden, um so auszusehen, als ob jemand etwas sagt oder tut, was er in Wirklichkeit nicht gesagt oder getan hat.
KI-generierte Bilder: Diese Bilder werden von KI-Programmen erstellt, die auf riesige Datensätze mit Bildern trainiert wurden.

Aktuell gibt es in Deutschland keine generelle Kennzeichnungspflicht für alle KI-Inhalte.

Deepfakes müssen allerdings schon jetzt gekennzeichnet werden.

Daneben existieren allerdings einige Regelungen, die auf KI-generierte Inhalte angewendet werden können:

  • Gesetz gegen den unlauteren Wettbewerb (UWG): Verbot von irreführender Werbung und Geschäftspraktiken. KI-generierte Inhalte, die den Verbraucher täuschen könnten, fallen unter diese Regelung.
  • Digitale-Dienste-Gesetz (DDG): Impressumspflicht für Online-Inhalte. KI-generierte Inhalte auf Websites müssen ggf. im Impressum gekennzeichnet werden.
  • Datenschutzgrundverordnung (DSGVO): Schutz personenbezogener Daten. KI-Systeme, die personenbezogene Daten verarbeiten, müssen die DSGVO einhalten.
  • EU-Verordnung über Künstliche Intelligenz (Künstliche Intelligenz-Verordnung bzw. AIA): Diese Verordnung ist am 01. August 2024 in Kraft getreten. Allerdings gelten die meisten Regelungen noch nicht vollständig.

Zusätzlich gibt es Leitlinien und Empfehlungen zur Kennzeichnung von KI-Inhalten, wie z. B. vom Digitalzentrum Berlin.

Die rechtliche Situation rund um KI-Inhalte ist komplex und im Wandel. Es ist daher empfehlenswert, sich von einem Anwalt oder einer anderen sachverständigen Stelle beraten zu lassen, wenn Sie KI-Inhalte erstellen oder veröffentlichen möchten.

Zusammenfassend lässt sich sagen:

  • Keine generelle Kennzeichnungspflicht: Derzeit gibt es keine gesetzliche Verpflichtung, alle KI-Inhalte zu kennzeichnen.
  • Bestimmte Regelungen anwendbar: Verschiedene Gesetze und Verordnungen können auf KI-Inhalte Anwendung finden, z. B. UWG, DDG, DSGVO.
  • EU-Verordnung in Vorbereitung: Die AIA sieht eine Kennzeichnungspflicht für bestimmte KI-Inhalte vor. Es ist zu erwarten, dass die Verordnung ab 2026 vollständig in Kraft tritt.
  • Leitlinien und Empfehlungen: Es gibt Leitlinien und Empfehlungen zur Kennzeichnung von KI-Inhalten.
  • Rechtsberatung empfohlen: Bei Fragen zur Kennzeichnung von KI-Inhalten sollte ein Anwalt oder eine andere sachverständige Stelle konsultiert werden.

KI-Inhalte kennzeichnen: So ändert sich alles mit der EU-Verordnung

KI wird allgegenwärtig. Von Chatbots bis hin zu autonom fahrenden Autos – die Technologie steckt in immer mehr Anwendungen. Umso wichtiger wird es, dass wir diese neue Realität verantwortungsvoll gestalten.

Ein wichtiger Schritt in diese Richtung ist die EU-Verordnung über Künstliche Intelligenz (Künstliche Intelligenz-Verordnung bzw. AIA), die am 13. März 2024 in Kraft getreten ist.

Eines der Kernstücke der Verordnung ist die neue Kennzeichnungspflicht für KI-Inhalte. Das bedeutet, dass bestimmte Arten von KI-generierten Inhalten künftig klar als solche gekennzeichnet werden müssen.

Was ist die EU-KI-Verordnung?

Die EU-KI-Verordnung, offiziell Verordnung über harmonisierte Vorschriften für künstliche Intelligenz (KI-VO), ist ein Rechtsakt der Europäischen Union, der den Einsatz von künstlicher Intelligenz regelt. Sie wurde am 13. März 2024 vom Europäischen Parlament verabschiedet, muss aber noch vom Rat der EU gebilligt werden.

Die KI-Verordnung soll einerseits Innovationen fördern und andererseits sicherstellen, dass KI-Technologie grundrechte- und sicherheitskonform eingesetzt wird. Dabei verfolgt sie einen risikobasierten Ansatz: Je höher das potenzielle Risiko einer KI-Anwendung, desto strenger sind die Auflagen.

Die EU-KI-Verordnung im Detail

Die EU-KI-Verordnung kategorisiert KI-Systeme in vier Risikoklassen:

Unannehmbare KI-Systeme:

  • KI-Systeme, die zur sozialen Bewertung führen, z. B. Scoring-Systeme für Kreditwürdigkeit oder Beschäftigung
  • KI-Systeme, die zur Anwendung von biometrischer Fernidentifizierung in Echtzeit in öffentlichen Räumen führen
  • KI-Systeme, die manipulieren oder kontrollieren können, z. B. „Deepfakes“, die eingesetzt werden, um öffentliche Meinung zu beeinflussen

Diese Systeme sind grundsätzlich verboten.

Hochriskante KI-Systeme:

  • KI-Systeme für die Steuerung von Kraftfahrzeugen, Flugzeugen oder anderen sicherheitskritischen Systemen
  • KI-Systeme für die medizinische Diagnose oder Behandlung
  • KI-Systeme für die Bewertung der Kreditwürdigkeit oder für die Einstellung von Mitarbeitern

Für diese Systeme gelten strenge Anforderungen, z. B. umfangreiche Transparenzpflichten, Dokumentationspflichten und unabhängige Konformitätsbewertungen.

Hohe Risikoklasse:

  • KI-Systeme für Gesichtserkennung oder andere biometrische Erkennungsmerkmale
  • KI-Systeme für Chatbots oder andere Sprachassistenzsysteme
  • KI-Systeme für personalisierte Werbung oder Empfehlungssysteme

Für diese Systeme gelten weniger strenge Anforderungen, z. B. Transparenzpflichten und Informationspflichten.

Minimale Risikoklasse:

  • KI-Systeme, die keine signifikanten Auswirkungen auf die Rechte oder die Sicherheit von Personen haben, z. B. KI-Spiele oder KI-Filter für Fotos

Für diese Systeme gelten keine besonderen Anforderungen.

Die Verordnung enthält darüber hinaus Regelungen für die Marktüberwachung, Sanktionen und die Zusammenarbeit zwischen den EU-Mitgliedstaaten.

Ziele der EU-KI-Verordnung:

  • Förderung von Innovationen im Bereich der KI
  • Schutz der Grundrechte und der Sicherheit der Bürger
  • Gewährleistung eines fairen Wettbewerbs

Stärkung des Vertrauens in KI-Technologie

Fazit

Es wird empfohlen, jetzt schon KI-generierte Texte und Bilder zu kennzeichnen und damit einem klaren Trend zu folgen. So werden rechtliche Risiken vermieden und besonders die Transparenz und Verbraucherinformation erhöht. KI ist immer noch für viele eine große Unbekannte und sorgt für Misstrauen bei den Verbrauchern.

Mögliche Formulierungen für die Kennzeichnung:

  • „Dieser Text wurde teilweise oder vollständig mithilfe von KI generiert.“
  • „KI-generierter Inhalt“
  • „Von KI erstellt“

 

Hinweis

Dieser Text wurde teilweise mithilfe von KI generiert. Das Titelbild wurde mithilfe von KI generiert.

Es ist wichtig, sich über die rechtlichen Rahmenbedingungen der KI-Nutzung auf dem Laufenden zu halten, um sicherzustellen, dass die geltenden Gesetze und Vorschriften eingehalten werden.

Empfehlenswert sind hierfür Informationsquellen wie: