Daß die Kennzeichnungspflicht für KI-Verwendung an der Vokabel DEEPFAKE aufgehängt ist, ist ein Geburtsfehler des EU AI Acts. Ich habe erst beim  Schreiben meines ersten Blogbeitrags dazu wirklich verstanden, warum das über die Verwendung dieses unglücklichen Begriffs hinaus so problematisch ist: weil es eine Art von Realitätsanmutung vulgo „Täuschung“ privilegiert – nämlich die, die wir seit Jahrzehnten betreiben –  und eine andere Art von Täuschung als DEEPFAKE abwertet (in Absetzung von einem normalen, nicht ganz so deepen fake oder was?) und per Kennzeichnungspflicht sanktioniert.

Anders gefragt: Wo ist eigentlich der grundsätzliche Unterschied zwischen einem KI generiertem Werbefilm, in dem die Darsteller aus der KI kommen, und einem Werbefilm, in dem ich mit Schauspielern eine Szene inszeniere, die ein Produkt bewirbt? Bei beiden wird doch mit Maximalaufwand versucht, mit allen Mitteln der Filmkunst eine Realitätsanmutung zu erzeugen. Ich hatte am Set jedenfalls noch keinmal das Gefühl, mich bei einem Dokfilmdreh zu befinden, ihr etwa? 

HAALLOOO! WIR TUN NUR SO! DER HAMBURGER SCHMECKT EIGENTLICH GAR NICHT SOOOO LECKER! UND WAS DA SO SAFTIG RAUSTROPFT IST MOTORÖL MIT FARBSTOFF, KEIN KETCHUP! Diese Herstellung einer Realitätsanmutung, die ja auch immer eine Täuschung beinhaltet, die ist seit Jahrzehnten der Kern unseres Geschäfts. Wenn wir das nicht hinbekommen, dann waren wir nicht die Guten – dann haben wir unseren Job schlecht gemacht. 

Aber in den Leitlinien für die Umsetzung des EU AI Acts ist jetzt auf einmal klar geregelt: „(…)it is sufficient for simulated persons, objects, places, entities or events to resemble someone or something that can exist or could have existed in reality to be considered a deep fake.”

Sanktioniert wird also nicht etwa die täuschende Absicht einer sehr KONKRETEN Realitätsanmutung – „Laßt uns Brad Pit per KI nachbauen wie er sich die Zähne mit einer goldenen Zahnbürste bürstet, die aber gar nicht wirklich aus Gold ist, wir werden reich, harr-harr-harr!“, sondern, abstrahierend von jeder Täuschungsabsicht, allein die UNKONKRETE MÖGLICHKEIT, dass jemand das Gesehene für real halten könnte, egal ob mit Brad Pit oder mit irgendeinem KI Darsteller.

Das aber, DamenUndHerren, gilt doch eben für jeden einzelnen Werbefilm, den wir herstellen. Und es war bisher nur dann mit Sanktionen belegt, wenn wir eine sehr KONKRETE Täuschungsabsicht bebildert haben: „Döner macht schöner“ – Verboten, weil gelogen. Aber doch bitte nicht allein deshalb, weil wir mit Schaupielern eine Situation verfilmt haben, die „existieren kann oder hätte existieren können“. Again, DAS MACHEN WIR DOCH IMMER! Entschuldigt die Großbuchstaben. 

Hier eine noch unvollständige Liste von perfiden Tricks aus Werbefilmen, die ein ähnliches Täuschungspotenzial hatten, ohne dass uns da eine Kennzeichnungspflicht vor Schlimmem bewahrt hätte. Bitte bereitet Euch auf ein paar herbe Enttäuschungen vor:

Claudia Bertani ist gar keine berühmte italienische Schauspielerin, und es gibt gar keine Piemont Kirsche. 

Villa Riba und Villa Bacho werdet ihr auf Google Maps vergeblich suchen.

Es handelt sich bei der FAIRY ULTRA Werbung auch keineswegs um einen Dokumentarfilm; vielmehr sind sämtliche Szenen mit professionellen Schauspielern nachgestellt worden. 

Das LENOR GEWISSEN („Bis eine gute Mutti“) heißt gar nicht Lenor Gewissen; es handelt sich um eine sogenannte „Doppelbelichtung“ der Schauspielerin Katrin Eckold, die auch in der Schwarzwaldklinik aufgetreten ist, auch das übrigens rein fiktional („Also ich könnte mir vorstellen, daß es wirklich eine Klinik im Schwarzwald gibt“ – „Ha, reingefallen! Schwarzwald-Deepfake!“)

Spaß beiseite: Der Unterschied zwischen klassischem Werbefilm und KI generiertem Werbefilm liegt doch ausschließlich in den Mitteln, die verwendet werden, aber weder in der Intention noch im Ergebnis. Allein das Mittel KI zu sanktionieren halte ich für komplett falsch. Ich vermute ja vor allem ein protektionistisches Motiv dahinter, nämlich Protektion zur Erhaltung traditioneller Herstellungsverfahren. Das ist ja potentiell in Ordnung –  dann soll man es aber auch sagen anstatt so zu tun, als wenn man uns arme Konsumenten vor bösen bösen Deepfakes schützen müsse.

Seit dem 2. August besteht laut EU AI Act eine Kennzeichnungspflicht für per KI hergestelltes Bewegtbild, wenn denn eine Zuschauerin die dargestellten Inhalte mit der Realität verwechseln könnte. 

Ich habe überhaupt nichts gegen EU Regulierung, ich verbitte mir auch dämliche Witze darüber, dass die EU reguliert, wie gerade Gurken sein müssen (das tut sie wirklich) oder daß Deckel an Sprudelflaschen fixiert werden müssen, während andere Nationen Raketen bauen (der größte populistische Whataboutismus-Vergleich den ich je gesehen habe) etc Bla-Bla – ich halte die Nicht-Regulierung vieler mieser Dinge in anderen Teilen der Welt für ein deutlich größeres Problem. Aber hier hat die EU im Kern ihrer Regulierung einen Begriff etabliert, der da in dieser Form nichts zu suchen hat: Zu kennzeichnen seien nämlich „Deepfakes“. Klingt nach Christian Ulmen, DeepState, DiepStahl, nicht consensueller Pornographie, Alte Omis abzocken und so weiter, oder? Yep, das alles, und noch viel mehr. 

Was in Dreiteufelsnamen hat dieser Begriff im Herzen des EU AI Acts zu suchen? Haben wir’s nicht auch ´ne Nummer kleiner? Welcher übereifrige AI Hasser hat das denn da bitte eingeschmuggelt? Stellt euch vor, man hätte 1995 reguliert, dass alles, was mit Photoshop bearbeitet wird, mit dem Label „Mit Betrugs-Software manipuliert“ versehen werden müsse. Das hilft doch niemandem, ausser vielleicht denen, die glauben, sie könnten den Siegeszug von generativer AI zumindest in unserem kuscheligen Europa noch so lange hinauszögern, bis sie in Rente gehen dürfen. Zumal die Regulierung dann auch noch sich weigert, a) präzise und alltagstauglich zu definieren, was denn wirklich ein Deepfake ist und b) allen dieselben Labels an die Hand zu geben, mit denen sie kennzeichnen sollen, so dass zumindest diese Arbeit uns, den Werbeagenturen, und am Ende den Rechtsabteilungen der Auftraggeber erspart bliebe. Nada, nix. Insgesamt ein echter Schuss in den Fuß.

Wie kommen wir da raus? Erstens, indem wir als Produktionen uns nicht die alleinige Verantwortung dafür umhängen lassen, dieses Gesetz umzusetzen, was einem als letztes Glied in der Dienstleisterkette aus Kunde-Agentur-Produktion ja gerne mal passiert. Wir tun vielmehr das, was wir sowieso saubererweise auch ohne EU AI Act machen würden: wir informieren unsere Kunden vorab über das, was wir mit KI veranstalten, aber wir lassen uns keine Rechtsberatungspflicht umhängen, denn entscheiden und kennzeichnen müssen am Ende die Auftraggeber selber. So wie in der Arzneimittel-Werbung eben auch, nicht unser Bier. 

Ich fürchte, da müssen wir jetzt alle gemeinsam durch, bis in ein paar Jahren ein paar Gerichte und vielleicht gnädigerweise auch mal die EU selber sich da ein wenig besser präzisiert haben. Bis dahin müssen wir halt weiter unseren Müttern erzählen, wir wären Bordellpianisten, aber beileibe keine Werber oder Deepfaker.**

*Nicht, weil es mir peinlich wäre, sondern weil ich keine Lust hätte, ihr das zu erklären. Kann mir ja schon keiner erklären was das sein soll. Und was daran so deep sein soll auch nicht.

**Jaques Séguéla, 1979: „Ne dites pas à ma mère que je suis dans la publicité… elle me croit pianiste dans un bordel“.