Generative KI

12. November 2026 · 7 Min. Lesezeit

Generative KI ist künstliche Intelligenz, die auf eine Anweisung hin neue Inhalte erzeugt: Texte, Bilder, Musik, Stimmen oder Videos. Anders als KI, die nur sortiert oder vorhersagt, setzt sie aus gelernten Mustern etwas Neues zusammen und prüft dabei nicht, ob es stimmt. Dieser Eintrag erklärt für alle, die KI im Büro, als Selbstständige oder privat nutzen, wie generative KI arbeitet, wo ihre Grenzen liegen und welche Kennzeichnungsregeln in Deutschland und Österreich gelten, während die Schweiz einen eigenen Weg geht.

Was generative KI ist und was sie von anderer KI unterscheidet

Generative KI ist künstliche Intelligenz, die auf eine Anweisung hin neue Inhalte erzeugt: Texte, Bilder, Musik, Stimmen oder Videos. Sie setzt diese Inhalte aus Mustern zusammen, die sie vorher aus sehr vielen Beispielen gelernt hat.

Viele KI-Funktionen, die du seit Jahren nutzt, erzeugen dagegen nichts Neues. Der Spamfilter deines Postfachs entscheidet zwischen „Spam“ und „kein Spam“, die Fotogalerie deines Handys erkennt Gesichter, die Karten-App schätzt deine Ankunftszeit. Die europäische Verordnung (EU) 2024/1689 fasst beides unter einem Oberbegriff zusammen: Ein KI-System leitet aus Eingaben Ausgaben ab, „wie etwa Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen“ (Art. 3 Nr. 1). Generative KI ist der Zweig, dessen Ausgabe ein Inhalt ist.

Ein Bild aus dem Alltag: die Sortiermaschine und die Schreibkraft

Im Briefzentrum liest eine Maschine die Postleitzahl und schiebt jeden Umschlag ins passende Fach. Sie schreibt keinen einzigen Brief, sie ordnet nur zu. So arbeitet die klassische KI: Sie erkennt, sortiert und schätzt.

Generative KI gleicht eher einer Schreibkraft, die in ihrem Berufsleben Millionen Briefe gelesen hat. Bittest du sie um eine Kündigung für dein Fitnessstudio, liegt nach Sekunden ein Schreiben vor dir, das wie hundert echte Kündigungen klingt. Kopiert hat sie dafür keinen bestimmten Brief. Sie weiß einfach, wie solche Schreiben üblicherweise aufgebaut sind.

Genau darin liegt ihre Schwäche. Die Schreibkraft kennt den Tonfall einer Kündigung, aber weder deine Vertragsnummer noch die Frist deines Studios. Fehlt ihr eine Angabe, füllt sie die Lücke mit etwas, das plausibel klingt. Bei KI nennt man das eine Halluzination.

Wer Handschriften lange genug studiert hat, kann sie außerdem nachahmen. Dieselbe Fähigkeit, die einen Brief flüssig klingen lässt, erzeugt auf Wunsch ein Foto, das nie aufgenommen wurde, oder eine Stimme, die nach deiner Chefin klingt. Solche täuschend echten Fälschungen heißen Deepfakes. Die KI-Verordnung definiert sie als mit KI erzeugte oder veränderte Bild-, Ton- oder Videoinhalte, die wirklichen Personen, Orten oder Ereignissen ähneln und fälschlich echt wirken würden (Art. 3 Nr. 60).

So entsteht ein Text, ein Bild oder eine Stimme

Hinter jeder generativen Anwendung steht ein KI-Modell. Was dort passiert, lässt sich in vier Schritten beschreiben:

Training: Das Modell verarbeitet riesige Mengen an Texten, Bildern oder Tonaufnahmen. Laut BSI lernt es dabei, wie diese Daten statistisch verteilt sind: welche Wörter, Formen und Klänge typischerweise zusammen auftreten.
Anweisung: Du beschreibst, was du brauchst, meistens als Text. Diese Eingabe heißt Prompt. Viele Anwendungen nehmen auch Fotos, Dateien oder gesprochene Sprache entgegen.
Erzeugung: Ein Sprachmodell schreibt seine Antwort Stück für Stück und berechnet bei jedem Schritt, welches Wort wahrscheinlich als Nächstes passt. Bildgeneratoren beruhen nach Angaben des BSI meist auf sogenannten Diffusionsmodellen, auf Generative Adversarial Networks (GANs) oder auf einer Kombination davon. In beiden Fällen wird das Ergebnis neu berechnet und nicht aus einer Datenbank abgerufen.
Nachtraining und Regeln: Anbieter stimmen ihre Modelle anschließend auf bestimmte Aufgaben ab und legen fest, welche Anfragen das Modell ablehnen soll. Was du am Bildschirm siehst, ist also immer das Zusammenspiel aus Modell, Feinabstimmung und den Vorgaben des Anbieters.

Daraus folgt der wichtigste Satz dieses Eintrags: Das Modell prüft nicht, ob etwas stimmt. Es liefert, was zur Anweisung und zu den gelernten Mustern passt. Die Verantwortung für den Inhalt bleibt bei dir.

Ein Beispiel aus der Praxis: ein Grafiker in Leipzig

Ein selbstständiger Grafiker in Leipzig bereitet ein Angebot für ein neues Café vor. Er lässt sich von einem Chat-Assistenten einen ersten Entwurf für das Anschreiben formulieren und bittet einen Bildgenerator um ein fotorealistisches Stimmungsbild des Gastraums.

Beim Text spart er Zeit, prüft aber jede Zahl selbst: Preise, Liefertermine und Leistungsumfang stammen aus seiner Kalkulation, nicht aus der KI. Den Namen des Cafés und die Daten seiner Auftraggeberin gibt er gar nicht erst ein. Laut BSI kann das Unternehmen hinter einer KI-Anwendung auf Eingaben und Antworten zugreifen. Was damit geschieht, regeln AGB und Datenschutzerklärung des Dienstes.

Unter das Stimmungsbild schreibt er „mit KI erzeugt“. Das ist nicht nur höflich. Wer in der EU beruflich mit einem KI-System Deepfakes erzeugt, muss seit dem 2. August 2026 offenlegen, dass der Inhalt künstlich erzeugt ist (Art. 50 Abs. 4). Ob ein fotorealistischer Gastraum, den es so nicht gibt, schon als Deepfake zählt, ist laut der österreichischen KI-Servicestelle im Einzelfall zu beurteilen; die Leitlinien der EU-Kommission nennen dafür Kriterien. Ein klarer Hinweis kostet ihn nichts und erspart ihm diese Abwägung.

Kennzeichnung, Deepfakes und neue Verbote: was in der EU gilt

Für Deutschland und Österreich gelten die Transparenzregeln der KI-Verordnung unmittelbar. Die wichtigsten Punkte, Stand 12. November 2026:

Regel	Wen sie trifft	Ab wann	Fundstelle
KI-Inhalte maschinenlesbar markieren, etwa über Metadaten oder Wasserzeichen	Anbieter generativer KI-Systeme	2. August 2026; für Systeme, die schon vorher auf dem Markt waren, bis 2. Dezember 2026	Art. 50 Abs. 2, Art. 111 Abs. 4
Deepfakes als künstlich erzeugt offenlegen; bei offensichtlich künstlerischen oder satirischen Werken in zurückhaltender Form	wer ein KI-System beruflich nutzt (Betreiber)	2. August 2026	Art. 50 Abs. 4
KI-Texte offenlegen, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen, außer bei menschlicher Prüfung und redaktioneller Verantwortung	Betreiber	2. August 2026	Art. 50 Abs. 4
Verbot von KI-Systemen, die ohne Zustimmung realistische Intimbilder bestimmbarer Personen oder Darstellungen sexuellen Kindesmissbrauchs erzeugen	Anbieter und Betreiber, unter den Bedingungen von Art. 5 Abs. 1a	beschlossen, gilt ab 2. Dezember 2026	Art. 5 Abs. 1 Buchst. ba und bb

Wer generative KI ausschließlich privat und nicht beruflich nutzt, hat nach der Verordnung keine Betreiberpflichten (Art. 2 Abs. 10). Erlaubt ist damit aber nicht alles: Persönlichkeitsrechte und Strafrecht gelten unabhängig davon. Inhalte, die vor dem 2. August 2026 erstellt und veröffentlicht wurden, müssen laut FAQ dieser KI-Servicestelle der RTR, die sich auf die Kommissionsleitlinien stützt, nicht rückwirkend gekennzeichnet werden.

In der Schweiz gilt die KI-Verordnung nicht direkt. Der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) hält fest, dass das Datenschutzgesetz auf KI direkt anwendbar ist. Wer mit einem Sprachmodell chattet, hat demnach ein Recht zu erfahren, ob die eigenen Eingaben weiterverwendet werden. Und Programme, die Gesichter, Bilder oder Stimmen erkennbarer Personen verfälschen, müssen laut EDÖB stets als solche erkennbar sein. Diese Übersicht erklärt die Regeln, ersetzt aber keine Rechtsberatung.

Verbreitete Irrtümer und echte Grenzen

„Ein KI-Detektor erkennt KI-Texte zuverlässig.“ Das BSI schreibt in seiner Analyse, dass heutige Erkennungsverfahren gerade bei kurzen oder leicht bearbeiteten Texten nur geringe Erkennungsraten erreichen und kaum zuverlässig zwischen Mensch und Maschine unterscheiden. Ein Urteil allein auf Basis eines Detektors ist deshalb riskant.
„Fehlt das Wasserzeichen, ist das Bild echt.“ Metadaten gehen beim Bearbeiten, Umwandeln oder Teilen einer Datei leicht verloren. OpenAI weist in seiner Dokumentation zur Herkunftsprüfung selbst darauf hin, dass ein negatives Prüfergebnis kein Beweis für menschliche Herkunft ist.
„Generative KI gibt nie etwas wörtlich wieder.“ Meistens setzt sie neu zusammen. Laut BSI lassen sich Trainingsdaten aber durch gezielte Eingaben teilweise rekonstruieren, bei Sprachmodellen sogar dann, wenn ein Text nur selten im Training vorkam.
„Was die KI schreibt, ist neutral.“ Unausgewogene Trainingsdaten führen laut BSI zu Verzerrungen, etwa bei der Verteilung der Geschlechter in einer erfundenen Geschichte.
„Die KI weiß, was heute gilt.“ Ein Modell kennt nur den Stand seiner Trainingsdaten, sofern es nicht gezielt im Internet sucht. Bei Gesetzen, Preisen und Fristen ist das ein echtes Problem.

Was du jetzt tun kannst

Prüfe jede Zahl, jedes Datum und jedes Zitat aus einer KI-Antwort an einer unabhängigen Quelle, bevor du es weitergibst.
Lies in den Einstellungen deines KI-Assistenten nach, ob deine Eingaben zum Training verwendet werden, und schalte das ab, wenn die Option angeboten wird. Kundendaten, Passwörter und Gesundheitsdaten gehören nicht in einen Prompt.
Kennzeichne fotorealistische KI-Bilder, Videos und Stimmen, die du beruflich einsetzt, sichtbar als KI-Inhalt. In der EU kann das Pflicht sein; in der Schweiz verlangt der EDÖB es für verfälschte Aufnahmen erkennbarer Personen.
Entferne keine Herkunftsangaben aus KI-Dateien, die du von anderen bekommst. Die FAQ der KI-Servicestelle rät unter Berufung auf die Kommissionsleitlinien, vorhandene Kennzeichnungen zu erhalten.
Werde misstrauisch, wenn eine Sprachnachricht oder ein Video eine dringende Bitte um Geld oder Daten enthält, auch wenn die Stimme vertraut klingt. Ruf die Person über eine bekannte Nummer zurück.