«Thunerts Thema»: Rettendes Ufer in der Deepfake-Flut? Wenn auf Plattformen die Realität verschwimmt (11.11.2026)

00:00:00: Liebe Zuhörer und Zuhöhrerin, ich begrüße euch zu einer frischen Folge Tuners Thema.

00:00:08: Heute dreht sich mal wieder alles um das Thema künstliche Intelligenz – jedoch nicht mit dem Schwerpunkt Synchronstreit!

00:00:19: Stattdessen widmen wir uns auf einer übergeordneten Ebene der zunehmenden Verbreitung und Identifizierung von Deepfakes sowie generativer KI im Film und Fernsehen.

00:00:36: Film- und Fernsehen ist dabei sicher etwas zu kurz gegriffen, weil viele KI Clips und Memes vor allem in riesigen Massen auf Social Media kursieren.

00:00:48: Dort ist die Anzahl an KI generiertem Content – beispielsweise Comedy Slop aber auch Fakepropaganda und Pseudowerbung – in den letzten zwei Jahren nahezu explodiert!

00:01:05: In diesem Zusammenhang stellt mein heutiger Gesprächspartner, KI-Forscher Aljosha Burchardt deutlich heraus das Plattform nicht nur fahrlässig handeln sondern bewusst die Verbreitung derartiger Fakeinhalte begünstigen um Traffic Clicks und höhere Werbeeinnahmen zu generieren.

00:01:29: Doch die EU ist abhängig genau von diesen Providern.

00:01:35: Zuabhängig meint Burchhardt.

00:01:38: Eine aktuelle Entscheidungsfreiheit ist wegen des alternativen Mangels noch nicht gegeben.

00:01:48: Eine zentrale Frage, die für User aus den immer perfekteren KI-Inhalten resultiert?

00:02:11: eines KI-Users entspricht.

00:02:15: Dies ist wohl die Frage der Zukunft, die uns natürlich auch im Podcast beschäftigen wird.

00:02:22: Im zweiten Teil kommt das Gespräch dann stärker auf den Einsatz generativer KI im kreativen Bereich von Film und Fernsehen.

00:02:33: Hier ergeben sich durchaus vielschichtige Diskussionspunkte inwieweit Softwaremodelle als handwerkliches Hilfstool sinnvoll aber auch kreative Schöpfungen mit synthetischen Möglichkeiten legitim sind.

00:02:48: Dabei scheinen differenzierte Abstufungen, je nach Genre besonders relevant.

00:02:54: Aber hört selbst und bewertet für euch welche Chancen und Gefahren ihr seht!

00:03:41: Aljosha, du bist zum einen Co-host des ARD Sounds Podcasts KI und jetzt zusammen mit Simin Sadegi.

00:03:50: Vor allem aber auch selbst Wissenschaftler am Deutschen Forschungszentrum für künstliche Intelligenz DFKI.

00:03:59: Dort bist Du als Lab Manager am Language Technology Lab vor allem Experte für KI und Sprachtechnologie.

00:04:07: Vielleicht magst Du zu Beginn mal anreißen Was in deinem Forschungsbereich fällt, indem du erzählst vielleicht an was du gerade arbeitest?

00:04:16: Ja sehr gerne.

00:04:16: Also ich habe vor dreißig Jahren mal Computerlinguistik studiert also tatsächlich die Mischung aus formaler Sprachwissenschaft und Computer weil ich eigentlich immer schon etwas mit Sprache machen wollte aber dann auch nicht Taxi fahren wollte nach dem Studium und da war diese Kombination mit Informatik.

00:04:32: das war damals cool.

00:04:37: Eine Sache, die mich schon seitdem begleitet ist eigentlich die Interdisziplarität in der Forschung.

00:04:42: Also ich habe immer gemerkt es macht mehr Spaß wenn du mit den Leuten zusammen arbeitest, die irgendwie ein Problem haben, die irgendwas brauchen.

00:04:49: Ich hab lange in dem Bereich der maschinellen Übersetzung gearbeitet auch als sie noch ganz schlecht war und habe damals dann auch festgestellt dass oft die technischen Lösungen zwar auf dem Papier irgendwelche Verbesserungen gebracht haben, aber die Übersetzerinnen und Übersetzler gesagt haben ja ich sehe da gar nichts.

00:05:04: Also sagen wir mal die Qualitätsmaße waren eigentlich nicht vorhanden sondern man hat sich in der Wissenschaft selber was ausgedacht und so ein bisschen mit sich selbst beschäftigt.

00:05:11: und so bin ich eigentlich da reingerutscht Und das ging auch dann noch weiter ein Vermittler zu sein, auch so ein bisschen Wissenschaft zwischen Anwendern und dann eben auch zwischen Gesellschaft.

00:05:21: Das kam dann im Jahr zwei Tausend Sechzehn als dieser Go-Moment in China war und die Leute alle anfingen über KI mal wieder zu reden.

00:05:29: KI kommt ja immer so in Wellen.

00:05:31: Habe ich da bei uns auch einen Ethik-Themen mit gegründet?

00:05:34: Und war dann zwei tausend achtzehn bis zwanzig auch Mitglied der Enquetekommission KI des Deutschen Bundestages und habe mich eben auch in diese gesellschaftliche Debatte über KI angefangen einzumischen.

00:05:43: später kam dann natürlich auch mein Podcast dazu.

00:05:46: Und in der eigenen Forschung bin ich immer bei diesen interdisziplinären Themen geblieben, zuletzt haben wir viel also im Bereich Medizin zum Beispiel geforscht Unterscheidungsunterstützungssystemen in der Medizin, haben aber nicht nur mit Medizinerinnen und Medizinern zusammengearbeitet sondern auch mit Ethikerinnen, Äthikern, Juristen, Medizinsoziologen.

00:06:04: Also auch dann eben immer versucht sozusagen die breite Blick auf das Ganze.

00:06:08: Der hilft es wirklich.

00:06:09: unter welchen Bedingungen hilft es?

00:06:12: Weil das zeigt sich oft.

00:06:14: Gute Technologie in schlechten Prozessen oder unklaren Situationen, die Menschen fühlen sich nicht wohl.

00:06:19: damit hilft dann halt gar nichts.

00:06:22: Das heißt ja also dass du so im Language-Bereich arbeitest?

00:06:25: Ja ich

00:06:25: bin im Bereich Sprachtechnik.

00:06:27: Wir beschäftigen uns eben mit Wissensmanagement, mit Chatbots, mit Kuratierung von Daten und Übersetzung.

00:06:36: alles was mit Sprachtstudent hat genau das habe ich kann man noch mal.

00:06:39: Das ist das was die Sprachtechnologie ausmacht.

00:06:45: Ja, kommen wir vielleicht ein bisschen expliziter zu dem Themenfeld über das wir uns heute vorderrangig ein bisschen unterhalten wollen.

00:06:51: zum einen Deepfakes aber auch Einsatz generativer KI in Film und Fernsehen wobei Film und TV sicher zu kurz gegriffen ist weil viele Deepfake

00:07:02: und

00:07:03: KI Clips Memes ja auf Social Media Kanälen wie TikTok Insta Facebook X YouTube verbreitet werden.

00:07:11: es heißt Inzwischen sind zwei Drittel der dortigen Inhalte mittlerweile KI generiert, eine Anzahl die vor allem in den letzten zwei Jahren massiv durch die Decke geschossen sein soll.

00:07:22: Gehst du auch davon aus dass dieser Anteil wirklich so hoch ist?

00:07:26: Ja, ich glaube das ist realistisch diese Schätzungen.

00:07:30: Man sollte vielleicht aber trotzdem eine grundsätzliche Unterscheidung machen zwischen Missinformation und Desinformationen.

00:07:35: Also es etwas einfach nur gefaked... also ich habe da irgendein Video gemacht wo ein paar Leute am Tisch sitzen und das ist lustig usw.. Oder habe ich ein Video gemacht, was wirklich reale Personen zum Beispiel zeigt und in einer anderen Kontext setzt.

00:07:47: Was man dann unter Desinformationen subsumieren würde?

00:07:50: Es werden ganz viele Sachen einfach Videos gemacht vielleicht irgendwie synthetisch erzeugt aber die tun vielleicht erst mal weiter nicht weh weil da jemand Lust hatte irgendein kleines Filmchen kleines Meme oder so zu drehen.

00:08:01: Da wird sollte man vielleicht auch nochmal unterscheiden.

00:08:02: das ist nicht alles was man da sieht ja irgendwie notwendigerweise dramatisch oder manipuliert Leute oder hat einen bösen Hintergrund.

00:08:11: Ja, genau.

00:08:11: Man sagt ja auch ... Das ist vielleicht aber schon wieder eine Bewertung, die man vornimmt, wenn man sagt das ist Slop, weil es hat so was Dispektierliches und abwertendes in sich.

00:08:22: Aber vielleicht könnte man das sagen gerade im Unterhaltungsbereich sind so viele Contents dabei, die wir doch unter diesem Slogan fassen könnten?

00:08:32: Du kannst es natürlich auch andersrum sehen und kann sagen, das ist eine Demokratisierung.

00:08:35: Jeder ist jetzt in der Lage vielleicht sein Thema, ihr Thema was sie bewegt in Filme umzusetzen, um vielleicht auch Anleitungen zu geben für das Hobby und für andere Leute die vielleicht irgendwie denselben Weg zum Erfolg in irgendeiner Art und Weise zeigen wollen.

00:08:48: Ich mache euch da jetzt ein Filmchen zu ich zeige euch einen Filmchen du kannst es ja auch als Demokratisierungsprozess verstehen aber vieles läuft eben wie du gesagt hast dann unter dem Inrichtungslop auch unter ökonomischen Gesichtspunkten oder dass Leute damit eben versuchen Geld zu verdienen und es ihnen nicht sozusagen um das Wohl der Menschheit so stark geht, sondern eben darum geht einfach da sozusagen nur Content zu produzieren, Klicks zu erzeugen usw.

00:09:09: Und das könnte man natürlich dann auch schon wieder als aufs Negativkonto zahlen.

00:09:16: Du hast es angesprochen von dir aus eigentlich schon, dass es so wichtig ist diese Unterscheidungen zu treffen weil es ja eben halt auch noch einen anderen Kontext gibt nämlich den Kontext von politischer Propaganda von Fakewerbespots, zum Beispiel Ecker von Hirschhausen.

00:09:32: Er war davon betroffen wofür irgendwelche nicht wirksam vielleicht sogar gefährliche Medikamente geworden wurde

00:09:38: auch

00:09:39: vor allem vielleicht sogar am meisten pornografische Inhalte.

00:09:43: was glaubst du denn?

00:09:44: in welchem Bereich ist die quantitative Verbreitung am höchsten?

00:09:50: Wie genau das sich auf die Bereiche verteilt.

00:09:52: Das kann ich jetzt nicht sagen, aber auf jeden Fall eine Sache, die mir hängen geblieben ist habe er viel mit Eckart von Hirschhausen darüber gesprochen.

00:09:59: der war bei uns im Podcast und wir haben uns ein paar mal bei Veranstaltungen gesehen Der hat es ja nach recherchiert ist eigentlich das Schlimme daran, dass die Plattformen selber ja ein Interesse daran haben weil sie viel Geld damit verdienen.

00:10:10: Also es ist nicht nur ein Business sozusagen sondern eben auch ein Business was von den Plattformens mitgetragen wird.

00:10:14: Die könnten viel stärker dagegen vorgehen und die wissen ja auch selber oder können selber müssen wir nachher noch darüber reden aber können selbst vielleicht auch technisch gucken was es möglicherweise gefälschter Content aber gehen gar nicht in dem Maße dagegen vor weil sie sozusagen wie Ecker hat rausgefunden hat im Gegenteil diesen Kunden dann noch mehr Geld abknöpfen.

00:10:31: also dafür dass wir deinen gefägten Inhalt ausspielen nehmen wir noch richtig Geld von euch, das heißt es ist richtig ein Geschäftsmodell.

00:10:36: Es ist richtig eine Business also von wo viele daran verdienen und auch die EU ist eben ein bisschen zahnloser Tiger so könnte eigentlich auch stärker dagegen vorgehen.

00:10:44: aber wir sind eben auch erpressbar durch diese ganzen Plattformen und die Anbieter weil sie eben im Ausland sind unter uns tolle Services anbieten und wie uns mit denen nicht verschärzen wollen.

00:10:54: Also du meinst, dass diese Plattformen praktisch eben nicht nur fahrlässig sind indem sie zu wenig Faktenchecks durchführen sondern dass die es auch wirklich sehr bewusst machen und Sie ganz genau wissen was sie dazu lassen.

00:11:04: Und sie ist bewusst zulassen um das eben halt zu schröpfen.

00:11:06: sagen wir's mal aus komenzieller Sicht.

00:11:08: dann

00:11:08: Eckert vergleicht es, sagen wir mal du bist ein Drogeriemarkt und du weißt da ist eine Creme die ist unwirksam oder vielleicht sogar gefährlich für die Kundinnen und den Kunden.

00:11:15: Und dann müssen die Anbieter mehr bezahlen damit ich die bei mir ins Regal stelle obwohl ich eben weiß von welcher Gestalt die Essen hat.

00:11:23: das wäre natürlich im realen Leben würde man sagen absurd.

00:11:25: aber das ist hier das Geschäftsmodell.

00:11:27: Ja, zur Einordnung er war bei euch im Podcast und hat davon erzählt.

00:11:30: Es gibt so eine Creme die die Brust wachsen lassen soll also wo man die auf der Brust aufträgt und die Brüst wächst dann irgendwie.

00:11:38: Fettgewebe soll dadurch gesteigert werden vielleicht auch am Gesäß.

00:11:40: und solche Geschichten Und das sind halt so geschichten womit Lipsing Modellen glaube ich gearbeitet wurde.

00:11:46: und dann wurden Torksche Ausschnitte von Eckhardt von Hirschhausen genommen und dann praktisch neu synchronisiert, sodass er bestimmte Werbeaussagen trifft für dieses

00:11:54: Fake-Projekt.

00:11:55: Genau!

00:11:55: Auch Medikamentetürlich

00:11:56: getroffen hat.

00:11:58: angeblich gegen Krebs oder gegen Arthrose und alles Mögliche eben helfen soll.

00:12:02: Dann steckt da eine ganze Betrugsmaschinerie dahinter, also dann kriegst du wenn du dich für dieses Medikament interessierst bekommst Du Anrufe von Callcentern aus Übersee die dir dann sagen Mensch ja das ist gut dass sie jetzt anrufen wir haben gerade noch drei auf Lager Jetzt sind es noch zwei.

00:12:17: und nicht schmeißen Sie ihre anderen Medikamente weg sie wollen doch auch geheilt werden.

00:12:20: Und der von Hirschhausen hat es erforscht.

00:12:22: endlich gibt es jetzt ein Mittel gegen KreBS Und das ist insofern natürlich perfide, denn man erwischt ja die Leute, die krank sind.

00:12:29: Die verzweifelt sind unter Schmerzen.

00:12:31: Ja klar!

00:12:31: Die suchen jeden Hoffnungsschimmer und da waren ja dann Leute auch im Interview... Das waren auch Medizinerinnen oder Leute aus der Branche gesagt, ich weiß eigentlich dass es keine Creme gibt, die meinen Knie meine Arthrose weg macht.

00:12:42: aber ich sitze hier verzweinfelt mit den Schmerzten und dann kommt Eckhardt von Hirschhausen und sagt jetzt habe ich das Naturprodukt Amazonas Regenwald gefunden, was ihre Knieschmerzen wegnimmt und dann versuchst du es halt.

00:12:52: Und dann ist das eben teures Lehrgeld und zum Teil sehr gefährlich sogar.

00:12:58: Vielleicht noch mal zum Bereich der politischen Propaganda.

00:13:01: Frage die sich daraus ergibt habt ihr zB auch bei euch im Podcast diskutiert?

00:13:06: Die würde ich gerne nochmal aufgreifen.

00:13:09: Nämlich wie geht man als News-Konsument damit um wenn man sieht wie Donald Trump mit einem Militärflugzeug über Gaser fliegt und ich nicht sicher bin, ist das jetzt wirklich passiert?

00:13:22: Was würdest du aus deiner Sicht sagen?

00:13:24: wie könnte oder sollte ich mit so einem Bild umgehen dessen Identität oder dessen Wahrheitsgehalt ich im Zweifelsfall schon vorab eigentlich unter Generalverdacht stellen müsste.

00:13:36: Also für uns als Konsumenten finde ich das super schwierig denn das ist ja typischerweise sind diese Sachen ja so gemacht eben auch bei den Medikamenten dass sie dich bei dem packen was du e-glauben willst.

00:13:48: Stichwort hier confirmation bias, das ist ein irrer Typ und ich glaube der macht ihre Aktion und dann sehe ich den bei so einer Aktion, wow jetzt hat er wieder eine irrer Aktion.

00:13:57: Dann zieht dich das in diese Story rein und dann bist du eben nicht mehr der coole abgebrühte Konsument der sagt ob acht.

00:14:03: ja jetzt muss sich erstmal Quellenrecherche machen finde ich.

00:14:06: noch ne weitere Quelle dazu find' ich nen Light Medium, nen Seriöses.

00:14:10: Abgesehen davon sind ja auch viele Leute heute gar nicht mehr, glauben gar nicht an die Versprechen von Qualitätsjournalismus oder so.

00:14:17: Du wirst ja viele Leute treffen, die glauben zum Beispiel öffentlich-rechtlichen gar nicht mir sondern glauben eher wenn ihre Freunde gute Freunde mein guter Kumpel mir ein Video weiter schickt dann wird das schon stimmen.

00:14:26: Das heißt wir sind ja da auch leider in einer postfaktischen und Schwurbelwelt angelangt.

00:14:31: also das ist sehr schwierig.

00:14:33: an der Stelle würde ich mal sagen wenn die Videos draußen sind.

00:14:36: Und ein zweites Problem, was du auch noch hast.

00:14:39: Was wir alle haben das sind ja auch diese Priming oder Anker Effekte.

00:14:43: wenn du so ein Bild einmal gesehen hast dann kriegst du es nicht mehr aus dem Kopf raus.

00:14:46: also wenn Du in diesem Video Habeck in Handschellen gesehen hast und weißt eigentlich rationalen Habecks der wurde eigentlich jetzt nicht festgenommen.

00:14:53: Du hast eben wenn du nächstes mal Habecke siehst er sagt dein Unterbewusstsein halt Handstellen.

00:14:58: Du bist eben schon beeinflusst worden selbst wenn du weißt dass ist Quatsch und selbst wenn Du's weggeklickt hast Dann hat es schon eine Wirkung auf dich gemacht, das muss man auch im Hinterkopf haben.

00:15:06: Es trifft die eigentlich wissen dass es Quatsch ist.

00:15:11: Jetzt gibt's natürlich Leute die vielleicht nicht so informiert sind oder vielleicht nicht dieses Mediengespür haben.

00:15:20: jetzt nicht weil ich den Dummheit unterstellen will aber einfach weil sie aus Bereichen kommen wo sie sich nicht täglich damit beschäftigen.

00:15:27: wie setzen sich Medieninhalte zusammen?

00:15:29: Und da kann es dann natürlich praktisch auf eine fatale Unsicherheit oder Uninformiertheit treffen.

00:15:35: Welche Möglichkeiten habe ich denn zum Beispiel als Otto-Normal-User, um vielleicht so ein Bild zu überprüfen?

00:15:43: Wie könnte ich daran gehen wenn da so'n Bild ist?

00:15:46: und ich sage Ich möchte jetzt mal für mich eindeutig feststellen Ist das ein echter Kontext?

00:15:51: oder ist das ein Kontext den sich ne KI fabuliert hat und die vielleicht gezielt Desinformationen verbreitet?

00:15:59: Erstmal noch ganz kurz vorab, vielleicht ich meine das Leute sagen wir mal in irgendwelchen toxischen Bubbles aufgewachsen sind.

00:16:05: Das hattest du früher.

00:16:06: auch wenn die Leute morgens Bildzeitung oder abends RTL zwei und dann Wochenende in die Kirche gegangen sind sie natürlich auch informativ Vielleicht nicht in einem ideal Zustand gewesen, aber heute ist das Schlimme eben auch der hohe Grad an Personalisierung und Skalierung.

00:16:20: Dass man auf dich zugeschnittenen Content dir halt zuspielt, der dich halt packt... Das ist schon nochmal eine andere Nummer als wenn du die Bildzeitung liest.

00:16:26: und eigentlich auch wahrscheinlich die meisten Lesern und Leser wissen dass das sozusagen mindestens mal übertrieben ist.

00:16:32: vieles von dem Und die Frage, was können Endnutzerinnen und Nutzer tun?

00:16:36: Also wir arbeiten ja selber an dem Thema Fake News Detection.

00:16:40: Meine Kolleginnen und Kollegen haben ja auch ein Start-up gegründet Gretchen AI Was in der Lage ist eben mit KI solche Bilder zu prüfen.

00:16:47: Häufig geht es vor allen Dingen darum zu gucken Ist das sind die Personen Die dort dargestellt sind?

00:16:52: sind sie verändert worden?

00:16:53: sind die manipuliert wurden?

00:16:54: oder Sind die vielleicht einen anderen Kontext gesetzt worden?

00:16:57: ist das vielleicht gar nicht Gaza?

00:16:58: Sondern war das letztes Jahr auf einer Konferenz In den Emiraten.

00:17:02: Oder hat da jemand gar nicht gelacht, dass gab diese Beschützer als auf Trump geschossen wurde?

00:17:06: Da gab es das Bild was manipuliert wurde wo seine Security-Leute dann grinsen.

00:17:10: Wo man dann gesagt hat auf den ist gar nicht geschossen worden die haben ja alle gegrinst.

00:17:14: also alles nur abgekatertes Theaterspiel.

00:17:16: solche Arten von Manipulation und Dekonstekt textualisierungen sind es häufig.

00:17:22: Wir arbeiten mit Faktencheckern zusammen, z.B.

00:17:24: bei der DPA und dann auch zum Beispiel um einfach Fake- und Faktendatenbanken aufzubauen zu sagen dieses Story, dieses Bild haben wir schon mal geprüft das geht schon zum dritten Mal rum diese Medizin oder diese Corona Warnung oder was auch immer man dann so hat in großen Häusern bietet sich das an.

00:17:39: auch zu sagen wir sammeln einfach auch die das was wir schon recherchiert haben und teilen es eben im Datenbanken für die Endnutzerinnen und Nutzer ist ein bisschen schwieriger.

00:17:49: Also wir konnten partiell jetzt mal zum Beispiel in den Landtagswahlkämpfen, in Berlin, Schleswig-Holstein und Sachsen-Anhalt.

00:17:58: Da hatten wir dann Sponsoren sozusagen, Landeszentrale für politische Bildung oder die Digitalministerien oder so.

00:18:04: wie gesagt haben ja Wir setzen so ein Service mal auf Für die beschränkte Zeit des Wahlkampfs.

00:18:08: da konnten die Leute dann eben Bilder hinschicken Und sie konnten die prüfen lassen bekam dann eine KI Einschätzung ob das Bild eben gefaked ist oder nicht?

00:18:17: Aber es gibt glaube ich nicht so viele Anbieter, die sowas eben für Endnutzerinnen und Nutzer anbieten.

00:18:21: Und noch schöner wäre es natürlich wenn das in den Plattformen eingebaut wäre, wenn du das Bild nicht erst hinschicken müsstest.

00:18:27: So dann haben die Kolleginnen und Kollegen Quisse gemacht mit den Leuten, die Bilder eingeschickt haben.

00:18:33: Das heißt die Leute wurden vorher gefragt wie gut glaubst du dass du KI generierte Bilder oder manipulierte Bilder erkennst?

00:18:39: Dann konnten sie die Checks machen mit ihren Bildern.

00:18:42: Dann wurden sie nochmal gefragt, wie gut glaubst du jetzt dass du KI generiertes Zeug erkennen kannst?

00:18:46: und da ist die Konfidenz runtergegangen.

00:18:48: Das heißt die Leute haben eine realistische Einschätzung am Ende des Tages.

00:18:51: OH Ich kann es doch nicht so gut einschätzen wie ich vorher eigentlich dachte.

00:18:55: also der didaktische Effekt bei den Leuten die es gemacht haben war da.

00:18:59: Es ist ja auch so das sich diese Entwicklung in den letzten drei Jahren wirklich rasant verbessert hat eigentlich und immer verfeinert geworden ist.

00:19:08: Also zum Beispiel, es gibt immer so ein klassisches Video von Will Smith wo er Spaghetti isst und wo man sieht irgendwie ja am Anfang vor zwei Jahren oder so war das noch so da hatte die KI noch Probleme weil die Spaghetti so filigranes Gebilde irgendwie sind die richtig dann zu generieren konstant.

00:19:26: Und inzwischen ist es wirklich so dass Will Smith da sitzt und sagt Ja hätte ich gewesen sein können so nach dem Motto glaubst du dass es in Zukunft überhaupt so jetzt mal so rein oberflächlich gesehen für das normale menschliche Auge noch möglich sein wird, KI-Fakes an irgendwelchen, ich sage jetzt mal Unzuholänglichkeiten noch zu erkennen?

00:19:47: oder werden die... Oder sind die?

00:19:49: Werden die irgendwie so perfekt sein, dass es eigentlich mit nem optischen Katalog Mängellist praktisch gar nicht mehr möglich sein würde.

00:19:56: Letzteres!

00:19:57: Das denke ich schon.

00:19:58: also da sind wir auf dem besten Wege, das sagen auch die Kolleginnen und Kollegen Technisch hast du immer noch gute Chancen, das rauszukriegen.

00:20:05: Weil Bilder einfach nach irgendeinem bestimmten Algorithmus aufgebaut und generiert sind.

00:20:10: Das heißt, du kannst sozusagen gucken ob die irgendwie in der Welt aufgezeichnet wurden oder ob die generiert wurden.

00:20:15: also das kann zusammen mit technisch ist es noch möglich eben heute da muss man auch immer wieder die die immer wieder nachziehen so zu sein mit jeder Bildgenerierungssoftware.

00:20:23: natürlich Wir müssen die Kolleginnen und Kollegen dann auch ihre Detektionsmodelle nachziehen und nachtrainieren, aber das ist also sagen wir mal da hat man im Bild noch Vorteile.

00:20:32: Und bei Tonen auch noch gewisse Vorteile.

00:20:33: bei Text zum Beispiel ist es super schwierig geworden weil die Texte einfach so menschlich lehnen und so gut sind.

00:20:39: ja da ist da ist richtig richtig schwer dass das kennt man jetzt auch wo dann Leute eben fälschlicherweise verdächtigt werden usw.

00:20:46: Da kann man es stecken, aber ich sage mal bei Bildern ist es technisch noch machbar.

00:20:50: Aber mit dem bloßen Auge wie du sagst das da Unzulänglichkeiten sind dass der Dinge verschwinden oder gucken sie auf die Randbereiche wo dann irgendwelche Artifakte aufzeigen.

00:20:58: also wird immer weniger.

00:21:01: und du hast ja oft auch Widergabesituationen irgendwie du guckst auf dem Handy in der S-Bahn die scheint die Sonne von hinten drauf usw.. Ja Spielung

00:21:10: irgendwie durch eine Scheibe

00:21:12: Genau, dann guckst du dieses Social Media diese kurzen Reels damit den mit Eckart von Hirschhausleben und so weiter.

00:21:16: Und dann erkennste da eben nichts mehr

00:21:20: für die Zukunft.

00:21:21: wenn du das aus einer idealistischen Perspektive betrachtest

00:21:24: gerne

00:21:25: Aus Nutzungsperspektive was würdest du sagen?

00:21:27: Was wäre ein idealistisches Modell?

00:21:30: Wäre das eine Kennzeichnungspflicht?

00:21:33: Es gibt ja so Art Wasserzeichen, die können dann wieder rausgeschnitten werden.

00:21:37: Da gibt es so Modelle wo zum Beispiel in so Nachrichtenvideos bestimmte Kameraprofile inneriert sind also das ein spezielles Kamerarauschen praktisch wie so einen DNA-Abdruck von zuverlässigen Kameras ist, die auch dann von der Nachrichteninstitution selber kommen sodass sie das für sich verifizieren können.

00:21:54: Dann natürlich dass man vielleicht sich auch vorstellt, dass die Plattformen das schon vorab verifizieren müssen und das Inhalte, die dann fake sind, die gar nicht veröffentlichen dürfen.

00:22:04: Was würdest du da sehen in welche Richtung?

00:22:06: Wenn

00:22:06: Sie Interesse daran haben... Ja, in einer idealen Wurde wurden ja auch darüber diskutiert.

00:22:10: ich meine, die bösen Menschen werden sich nicht dran halten an Kennzeichnungspflichten.

00:22:14: also vielleicht ist doch die Idee, sagen wir mal gute Inhalter auszuzeichnen und Qualitätsgarantien zu versuchen eben auch über bestimmte Kanäle Signale vielleicht eher zu versuchen, zu sagen ne bei uns bekommt ihr was was verifiziert ist oder echt.

00:22:28: also ich sag mal wenn jetzt an jedem video dran steht hier wurde teilweise KI generiert.

00:22:32: So wie mir die cookie warnings und so weiter ja das klickst du dann halt auch einfach nur weg.

00:22:36: das ist dann eben normal.

00:22:37: ich mein jedes mit nem iphone oder mit dem smartphone aufgenommenen bild ist irgendwo KI bearbeitet.

00:22:43: im zweit war wurden irgendwie die lichtverhältnisse verbessert oder irgendwas.

00:22:45: da müsstest du bei jedem video sagen Da war KI im Spiel.

00:22:49: Das ist natürlich mal mehr und mal weniger, du kannst natürlich Metadaten dranhängen was jetzt wirklich die Kette hier und so weiter.

00:22:55: aber wer liest sie sich durch?

00:22:57: Also da muss man glaube ich wenn man auszeichnet, wenn man ein Ampelsystem oder sich irgendwas ausdenkt dann muss man sicherlich auch mit dem Stand der Technik halt mitwachsen damit es noch interessant ist, damit du nicht einfach bei allem immer irgendwann sagst.

00:23:10: Ich sage mal als alle CDs DDD waren war diese Kennzeichnung auch nicht mehr interessant.

00:23:15: Wenn alles digital aufgenommen ist, dann brauchst du es auch nicht drauf schreiben ab irgendeinem Zeitpunkt.

00:23:19: Dann ist so eine Kennzeichnung die vielleicht am Anfang mal noch irgendwas ausgesagt hat, dann sagt sie nach einer gewissen Zeit nichts mehr aus wenn die Technik sich geändert hat.

00:23:27: Aber ich denke das habe ich mir immer gedacht.

00:23:29: Wir kennen doch diese Kennzeichnung von Open Source, wie heißt das?

00:23:36: Du weißt was ich meine... Kommerzielle Nutzung ist erlaubt, to share this, share a like und so weiter.

00:23:41: Diese Creative Comments meine ich diese Creative Comment Auszeichnung das sind so eine Kürzelliste die eben sagt dieser Content der darf unter den Bedingungen weitergegeben werden, ob man so eine Kürzelliste, die man dann jährlich oder was weiß ich halbjährlich anpasst.

00:23:54: Ob man sagt, die werden dann eingeblendet und dann weiß sich der Content, der wurde mit KI generiert, dann von Menschen überprüft geschnitten von KI und was weiß Ich?

00:24:03: Also was eben in der Branche interessant ist und was gerade der State of the Art ist wo es noch Unterschied gibt.

00:24:10: Wir wollen ja abschließend tatsächlich auch nochmal auf ein TV-Beispiel zu sprechen kommen.

00:24:14: Bevor wir das machen würde ich aber tatsächlich gerne noch mal Aspekt aufgreifen, den du am Anfang eben schon angerissen hattest.

00:24:19: Nämlich der politischen Regulierung von den ganzen Plattformen wo du gesagt hast normalerweise müsste die EU da auch noch viel stärker gegen die Plattform vorgehen um bestimmte Contents einfach zu verbieten.

00:24:34: Wie ist es denn aktuell?

00:24:36: wird das?

00:24:37: schon durchgesetzt, weil es stehen immer, also in meiner Beobachtung stehen immer wieder Vorwürfe im Raum.

00:24:42: Dass da viel angedacht ist und eigentlich auch ich sag jetzt mal viele Gesetzreformen im Raum stehen aber das oft noch nicht umgesetzt wird.

00:24:52: wie ist das momentan?

00:24:53: Und was kann man da auch nach politischen Sicht machen damit man wirklich Druck ausübt auf diese ganzen Konzerne wie Meta X YouTube Google

00:25:03: Also Eckhard von Hirschhausen hatte ja da auch Alexander Gese bei sich im Interview, die für eben Europaparlament für die Grünen sitzt.

00:25:08: Die das eben auch nochmal aufgedröselt hat was alles schiefläuft.

00:25:11: also das fängt damit an dass die Plattformen eigentlich schon zu viel Daten über uns über unsere Gesundheit über unsere Anfragen und so weiter eigentlich zuviel Daten sammeln die sie nicht sammelt durften die es ihnen eben möglich macht, dann Medikamente auszuspielen.

00:25:24: Weil sie wissen du bist ein Mann und du bist so und so alt.

00:25:26: Du hast dir vielleicht Krankheiten weil du schon mal nach denen gesucht hast oder weil du bei dem Content schon mal hängen geblieben bist.

00:25:31: das heißt die profilieren eigentlich zu stark uns und auf der anderen Seite spielen sie eben aus.

00:25:37: Aber das sind eben auch natürlich die einzigen Anbieter, die es gibt und wir hängen natürlich auch an denen dran.

00:25:42: Also wenn du jetzt bei Alphabet oder irgendwas, du hängst an Google Suche dran und nicht die UDUSA geben uns GPS, sie geben uns Suche, die geben uns Dokumenteverarbeitung, die geben uns die Videoplattformen usw.

00:25:53: Wir können die ja nicht komplett verprellen oder trauen uns nicht sich komplett zu verprällen weil wir dann ohne digitale Welt da stehen.

00:25:59: Wir sind ja komplett abhängig, wir haben eben keine Entscheidungsfreiheit an den Stellen und das macht uns glaube ich eben zahnlos ein bisschen an der.

00:26:06: Die können dann sofort sagen, ja dann drehen wir euch das ab wenn ihr uns nervt, die ihr drei Hunderttausend Internetnutzer in der EU seid uns ziemlich egal.

00:26:14: dann hätten wir ein größeres Problem wahrscheinlich, wenn die ganz abschalten würden.

00:26:16: Und ich denke mal das ist einfach eine ungute Verhandlungsposition für uns.

00:26:21: Wir haben einfach vergessen was daneben zu setzen.

00:26:23: Ich meine lange Zeit war ja die USA auch für Deutschland, ich sag mal verlässlicher Partner und demokratisch usw.

00:26:29: Aber ich denke die Plattformen haben ja schon so.

00:26:33: nach dem arabischen Frühling fing es ja eigentlich an dass da mal ökonomische Superpower übernommen hat so langsam weggedrückt, gedrückt wurden und das Ganze eben durch diese Plattformökonomie übernommen wurde.

00:26:50: Und da hätten wir eigentlich irgendwann mal schalten müssen.

00:26:54: Ja es ist ja zum Beispiel auch dieser Erpressbarkeit sehr stark mit Starlink also dass verschiedene sehr signifikante technologische Entwicklungen und Tools in der Hand von einzelnen Leuten wie Elon Musk liegen und er dann zum Beispiel gesagt hat.

00:27:09: er schaltet Starlink dann ab wenn ihr extraot das sie das machen müssen Und da ist man natürlich hochgradig erpressbar.

00:27:15: Ja

00:27:16: und du siehst diese Firmen jetzt die großen Firmen, die sich um KI kümmern da jetzt im Microsoft Nvidia und Alphabet und Open AI usw.

00:27:23: dieses Jahr siebenhundertfünfzig Milliarden US Dollar in diesem Jahr zwei tausend sechsundzwanzig für die Technologieentwicklung eingesetzt hat.

00:27:29: ich meine das sind Budgets die haben ganze Staaten bei uns.

00:27:32: Das is einfach schwierig den was entgegenzusetzen und international im Moment mit Verhandlungen da irgendwie der Sache her zu werden, ist glaube ich auch nicht die beste Situation.

00:27:46: Bist du denn eher pessimistisch oder doch vielleicht auch optimistisch?

00:27:50: in Zukunft schaffen können, vielleicht so in Europa Lösungen zu entwickeln die dann vielleicht auch mal ein Social Media Netzwerk darstellen könnten wo sich viele Leute drauf bewegen.

00:28:00: Ich weiß nicht, Mastodon geht vielleicht so ein bisschen in die Richtung?

00:28:03: Ja

00:28:03: ich meine es gibt ja auch schon.

00:28:05: von den öffentlich-rechtlichen gibt es ja auch lange Bestrebungen und Diskussionen ob man auch eine Videoplattform in Europa aufsetzen kann mit Content.

00:28:12: also du hast dich schon vorhin idealistisch gefragt in der romantischen Welt Wenn wir uns zusammenraufen und wenn wir sagen würden, ich denke mal in einem geschützten Bereich.

00:28:20: Wenn ich denke für alle Schülerinnen und Schüler Deutschlands oder Europas und alle Studierenden bauen wir eine Plattform auf wo die wirklich sozial ist, die wirklich Leute so zusammenbringt dass sie gemeinsam an Problemen diskutieren sowie das eigentlich einmal gedacht war das Global Village des Internets auch.

00:28:35: Die eben nicht die Leute aufgeilen und gegeneinander aufhetzen wie es die heutigen sozialen Netzwerke quasi eben ihrem Business-Modell machen, dass man einfach so

00:28:44: eine Aufregung

00:28:46: gibt.

00:28:46: Die anderen sind doof und wir sind schlau.

00:28:48: Diese Gender, diese Blöd oder die Essenbratwurst, die sind blöd.

00:28:52: Und wir sind gut!

00:28:52: Ich meine, diese ganze Spaltung der Gesellschaft kommt natürlich durch soziale Medien.

00:28:56: da werden null und nichtige Themen zum Teil hochgejast, weil es eben Traffic bringt.

00:29:01: Da könnte man ja anders vorgehen, da könnte man sagen in einem geschützten Bereich bauen wir mal ein soziales Netz wo die Leute wirklich über die Themen der Zukunft und der Gegenwart verhandeln können.

00:29:08: und dann wenn sie nichts anderes dürfen zb an Schulen Wenn man sagen würde, ihr müsst das dann alle nehmen oder ihr habt sonst gar nichts.

00:29:14: Dann könnte ich mir schon vorstellen, könnte man sowas hochziehen.

00:29:17: und vielleicht können auch die Bürgerinnen und Bürger Europas alle zusammen sagen ja wir haben da jetzt Lust drauf und wir machen das und es könnte im Package natürlich kommen mit einer KI-Initiative in Europa.

00:29:30: also wenn wir sagen wie wir bauen jetzt eine Struktur auf, die mit der wir KI anbieten, dann könnte man natürlich möglicherweise in dem Package auch sagen, wir denken das ganze Thema soziale Medien nochmal neu

00:29:42: Ja, dass praktisch die Ebene von Kai auch mit schon integriert wird und das sowohl die guten Seiten als eben auch die Schattenseiten von Kai damit gedacht sind.

00:29:51: Und dann praktisch eben auch gewisse Awareness geschaffen, mit der dann auch die Userinnen und User irgendwie handeln können.

00:29:57: Das wäre ja auch irgendwie so ein Zustand wo man sagt dass man da vielleicht auf beiden Seiten irgendwie ein bisschen mehr Aufklärung schafft und vielleicht auch beide Seiten eine bisschen mehr Sensibilität von ihrer Seite aus reintragen.

00:30:09: Auf der einen Seite die politischen Akteure, auf der anderen Seite aber auch wir User wo wir einfach wissen wenn wir in so einer hoch digitalisierten Welt sind brauchen wir selbst auch Medienbildung und das muss dann auch stattfinden in Schulen aber auch aus einer gewissen Eigeninitiative vielleicht an heraus.

00:30:24: Auf jeden Fall, also du sprichst da wichtiges Ding an.

00:30:26: Ich denke auch es gibt ja bei vielen diesen Dingen immer zwei Möglichkeiten.

00:30:29: Du als Nutzerin-Nutze, als Kundin und Kunde kannst irgendwas machen in deinem Umfeld, in deinen Möglichkeiten Und du kannst und musst auf der anderen Seite politisch mandatieren und muss denen eben ein politisches Mandat geben die dir was anbieten, was dir gut vorkommt.

00:30:42: Die sagen Gewerkschaften, Politikerverbände

00:30:46: usw.,

00:30:47: die sagen das ist eine Richtung in die es geht.

00:30:49: Also das sehe ich auch so.

00:30:50: Und ich meine Social Media sind ja stark auch natürlich KI getrieben.

00:30:53: Auch heute die ganzen Sortiermodelle und so weiter, das ist schon lange auch KI Suchmaschinen und so sind auch schon lange natürlich KI betrieben jetzt nicht generative KI aber eben analytische oder andere Modelle.

00:31:05: Der Suchtfaktor ist aber ein ähnlicher natürlich von generativer KI wie von social media.

00:31:09: also insofern kann man die schon manchmal auch zusammen betrachten.

00:31:12: Also auch die Chatbots versuchen uns reinzuziehen.

00:31:16: wir hatten mal einen Psychologen In der Podcast, der hat gesagt naja ich als Therapeut ja.

00:31:20: Ich möchte eigentlich...ich möchte mich eigentlich überflüssig machen!

00:31:22: Ich möchte das meine Kunden irgendwann ohne mich können.

00:31:25: und der Chatbot hat genau das andere Ziel.

00:31:26: Der möchte dass die Leute nie.

00:31:28: Die sollen natürlich zwischendurch mal zufrieden sein und mal weggehen aber dann soll sie gefährlichst wiederkommen.

00:31:32: oder wenn du chattest mit dem da kommt am Ende uns solltest ihr noch in Farbe?

00:31:35: Oder möchtest du auch noch?

00:31:37: Das heißt nicht

00:31:39: er hält

00:31:39: dich an den Stangen.

00:31:42: Der reißt den Dialog an sich, das haben wir auch die alten Chatbots immer schon gemacht.

00:31:45: Die Klasse erste Generation.

00:31:47: Ja der Chatbot hat es immer besser wenn er den Dialoge führt.

00:31:50: Möchtest du das so?

00:31:50: oder möchtest Du das hier und klick mal hier und mach mal da?

00:31:54: Und herrlich!

00:31:54: Du fühlst dich so schön abgeholt ja... Das ist das Mutter Einlöhlen usw.. Also wie du sagst Awareness und so weiter.

00:32:00: Schön und gut aber diese Modelle die man heute sehen machen sie einem nicht leicht.

00:32:05: Wichtiger Punkt Gut dass du's glaube ich nochmal angesprochen hast Aljosha.

00:32:09: zum Abschluss wollen wir noch mal auf ein Thema zu sprechen kommen, was vielleicht gar nicht so unbedingt als Deep Fake zu bezeichnen ist.

00:32:15: Sondern eigentlich mehr der Einsatz von generativer KI im künstlerischen Bereich zB in Filmfunk und Fernsehen.

00:32:23: Das ist auch schön wie man es dann immer sagt.

00:32:25: natürlich im Kino kommt das teilweise zum Einsatz.

00:32:27: ich

00:32:29: sage

00:32:31: bitte

00:32:31: Da müssen wir nachher auch auf Wiederhören sagen, wenn wir Filmfunk und Fernsehen jetzt gesagt haben.

00:32:35: Ja

00:32:36: das machen wir hier sowieso standardmäßig schon in dem Podcast.

00:32:40: Auf jeden Fall Tillywood Norwood also komplett generierte Schauspielerin.

00:32:44: In China gibt es Kurztrahmen die inzwischen komplett KI-generiert sind aber auch in Deutschland hat das inzwischen Einzug gehalten.

00:32:51: Wir haben auch bei Kopenmeter darüber berichtet.

00:32:53: Auch andere Medienplattformen haben sich inzwischen damit auseinandergesetzt.

00:32:57: Die Gerichtsschau Ulrich Wetzel bei RTL hat da mitgearbeitet.

00:33:01: Da ging es darum, dass alte Folgen, reale Folgen die noch mit realen Darstellerinnen und Darstellern gedreht wurden als Basis genommen wurden.

00:33:10: Und dann die KI daraus neue Handlungsstränge entwickelt hat und dadurch auch neue, ich sage jetzt mal Handlungsgeflechte konstruiert worden.

00:33:18: also zum Beispiel wurden Darsteler, die aufgetreten sind in vorigen Folgen in andere Folgen hineingeschnitten so das eine neue Handlung entstanden ist und eine neue Figurenkonstellation.

00:33:29: Der Problempunkt, der daraus entstanden ist.

00:33:33: RTL hat zwar gesagt dass die Verfahren anwenden wie zum Beispiel Lip-Sync also das z.B.

00:33:37: Figuren neue Sätze sagen damit sie dann auch Sinn machen Aber genau dass diese zu Geschichte passen aber auch zum beispiel andere Bildbearbeitungsverfahren angewandt werden Wie zum Beispiel dass ein Opfer auf einen Gleisbett stürzt und das vorher so war dass es kein Gleispet war sondern eben eine grobe.

00:33:59: Was aber eigentlich auch der Fall ist, dass nicht alle Bereiche die eingesetzt wurden ganz genau genannt wurde.

00:34:05: Das heißt man war auch wieder in so einem ungefähren Bereich wo man nicht genau wusste was es jetzt bearbeitet und was es nicht bearbeitet.

00:34:12: Du hast mal für mich sozusagen reingeguckt.

00:34:15: vielleicht kannst du erstmal sagen was doch dein erster Eindruck war.

00:34:20: Das ist gut gemacht, dir fällt es nicht auf.

00:34:23: In der Gerichtsshow wurde ein junger Mann einen alten Mann verwandelt.

00:34:27: Der hat die gleichen Bewegungen gemacht und hat andere Sätze gesagt und war eine andere Figur.

00:34:33: Die Idee statt dass man das alles neu generiert und das ganze Publikum im Hintergrund zur Neugenerierung zu sagen wird tauschen einfach nur diese eine Person da vorne den Angeklagten oder wäre das dann aus?

00:34:45: Also technisch erstmal eine gute Idee.

00:34:48: Okay.

00:34:49: Ja, das so zu machen hat zu sagen man macht sich's im Prinzip oder man macht es der Maschine eigentlich leichter.

00:34:54: und die andere Person die hat sich schon bewegt und die hat schon weiß ich noch vorne gebeugt beim Sprechen nach hinten gebeugte hast du alles schon?

00:35:01: Das musstest du nicht mehr mühsam dich zur Tode prompten weil das ist ja so dass man heute eben wenn man auch kürzeste Videos machst die Leute halt ohne Ende mit Continuity Probleme haben.

00:35:10: Du musst halt sonst prompten ohne Ende dann ist überhaupt kein Mehrwert mehr.

00:35:13: also ich sag mal so Die Idee fand ich erstmal gut sofort zu gehen.

00:35:21: Wir reden jetzt davon, dass aus Andra Thresch gemacht wird.

00:35:25: Also

00:35:26: die alten Skripte und Leinschauspieler, die man in der realen Serie gesehen hat – ich meine weder diese Fälle existiert haben noch diese Leute mit diesem Kriminalfall zu tun haben.

00:35:37: Das heißt das war ja alles von vorne bis hinten sowieso geskripted und schlecht gespielt Und das wird jetzt mit KI zu einem neuen schlechten Skript und neu schlecht gespieltem Verwandl.

00:35:46: Das heißt sozusagen wirklich in dem Sinne kann man sagen, trash-in, trash out ja?

00:35:50: Und es ist fit for purpose.

00:35:51: also wenn die Leute eben nachmittags beim Kochen den Fernseher laufen haben und dann läuft da eben ein neuer Fall usw.

00:35:58: ab... Also das würde ich jetzt noch nicht irgendwie als kulturkritisch betrachten.

00:36:02: an der Stelle und sagen hier dass das reißt mich jetzt vom Hocker weil die Produktionen davor waren ja auch schon auch schon nicht besonders.

00:36:08: und aber auf der anderen Seite Wenn du, wie du sagst wenn du jetzt Influencer hast Musikerinnen und Musiker hast und Filmstars hast und so weiter mit den jungen Leuten dann nur aufwachsen und völlig zufrieden sind damit.

00:36:21: Und die sind immer perfekt und hübsch und toll und machen keine Fehler und sind nicht menschlich oder so.

00:36:26: Dann würde ich doch vielleicht ein bisschen kulturkritischer werden an der Stelle sagen da geht mir Realität und Fiktion ein bisschen zu stark übereinander.

00:36:33: also das bitte nicht dass sich das eine jetzt vielleicht so ein bisschen weg moderiere nicht auf alles übertragen.

00:36:42: Du hast ein bisschen gezuckt?

00:36:44: Ja, also ich frage vor allen Dingen die Frage der Kennzeichnung und was bei mir halt irgendwie so aufgetreten ist dass sich nicht mehr genau einschätzen konnte ob jetzt da zum Beispiel einen Schauspieler tatsächlich noch das Abbild eines echten Menschen ist oder ob es ein Schauspieler ist, der praktisch schon von einer KI gemorft wurde.

00:37:04: Weil RTL nicht gesagt hat dass sie das machen aber sie haben's auch nicht explizit ausgeschlossen weil wenn man sagt man hat einen KI-Bearbeitungsverfahren weiß ich nicht, ob das z.B.

00:37:14: auch auf... Das kann ja theoretisch technisch sowieso schon auf Gesichter angewandt werden um Gesichter zu bearbeiten.

00:37:20: und ich sag mal dann müsste es zumindest finde ich explizit gekennzeichnet werden also dass man auch weiß wenn da jemand sitzt und das ist eine Figur die habe ich jetzt nochmal aus einer anderen Folge wurde sie nachträglich per KI unmodelliert.

00:37:32: zum Beispiel würde ich das gerne wissen als Zuschauer Und was da auch im Raum statt, ich hab bei RTL angefragt und sie haben zu mir gesagt.

00:37:40: Es war so dass Darsteller extra nochmal zum Nachdreh vor Ort waren.

00:37:45: das heißt es sollen scheinbar wirklich echte Schauspieler gewesen sein die dann in die Folge reinmontiert wurden mit dem echten Bild.

00:37:53: Auf jeden Fall sollte man sich natürlich einmal am Anfang ehrlich machen, denn es ist ja jetzt hier nicht so wie bei Pumuckel oder so dass du merkst, die Figur ist da reingeschnitten und sondern hier denke ich auch nach Klasorte.

00:38:02: Man an einer Stelle mal irgendwo am Anfang eigentlich sein und sagen Leute das was ihr jetzt guckt, das ist hier eine gemischte Realität.

00:38:10: Da kann man einen Abbinder davor machen und kann sagen Freunde das was Ihr jetzt seht, das sind nicht nur die Fälle

00:38:15: usw.,

00:38:15: da sind an den Haaren herbeigezogen.

00:38:17: Und Du kannst natürlich auch Details Ja klar, genau.

00:38:21: Wie du sagst kannst schienen irgendwie plötzlich unter die Leiche machen wo vorher eine Grube war.

00:38:26: Das hat

00:38:27: RTL auch transparent gemacht, das ist in Ordnung.

00:38:29: Aber halt auch so für Medienjournalisten.

00:38:31: Wir haben dann darüber berichtet aber wir sind natürlich ein Branchenportal.

00:38:34: Wir befinden uns auch in der Bubble.

00:38:36: D.h.,

00:38:36: die Leute, die vor dem Bildschirm sitzen letztendlich sind vielleicht nicht unbedingt die Menschen, die dann z.B.

00:38:40: auch die ganzen Medienportale und die Berichterstattung darüber lesen.

00:38:44: Und die wissen da natürlich nicht dass es stattfindet.

00:38:46: Da wäre eine gewisse Transparenz... Was würdest du sagen?

00:38:49: Auch generell gesprochen im Medienbereich mit Kennzeichnungen von KI-Bearbeitung Wie könnte das stattfinden, um praktisch so ein Modell zu haben?

00:38:59: Wo du als Zuschauer weißt.

00:39:01: Das ist KI bearbeitet und du kannst auch praktisch selber für dich entscheiden.

00:39:04: Geht das d'accord für dich?

00:39:05: Und es ist in Ordnung dass zu einem gewissen Grad eine KI-Generierung da ist und ich entscheide dann möchte ich das sehen oder nicht.

00:39:12: was würdest du sagen?

00:39:13: Was wäre eigentlich ein produktives Modell für beide Seiten?

00:39:18: Also erstmal ist die Wie du sagst, die Frage interessiert das Publikum überhaupt.

00:39:23: Wer solche Sendungen guckt, interessiert denen das?

00:39:26: Oder interessiert es einen Großteil dieser Leute, ob der Schauspieler da ist oder lange oder kurze Haare hat im realen Leben.

00:39:33: und diese Leinschauspieler, die man sieht?

00:39:36: Ja, ob die jetzt irgendwie technisch verändert wurden in irgendwelchen Eigenschaften oder so.

00:39:40: Und die Frage was würde ich denn machen?

00:39:41: Also ich meine die Leute gucken heute ja eh nicht mehr linear.

00:39:43: nehme ich mal an Die meisten gucken aus irgendwelche Mediatheken oder Streaming-Plattformen Oder so.

00:39:47: und dann könnte man natürlich sagen Man baut da einfach Auswahlmöglichkeiten und Filter ein und würde sagen zeigt mir eben keine Veränderten Dinge.

00:39:56: aber das ist eben Das habe ich vorhin schon angedeutet Was verändert heißt ändert sich mit der Zeit.

00:40:02: Am Anfang weißt du vielleicht Heute wird noch ein bisschen Werden die Lichtverhältnisse angeglichen, dann würdest du heute noch sagen ja das Ding ist KI-Genne oder du guckst einen historischen Film aus den zwanziger Jahren der wurde entrauscht.

00:40:13: Der wurde entruckelt oder so.

00:40:14: Heute würdest Du vielleicht noch sagen Achtung!

00:40:15: Er ist nicht so wie er original war und ich meine in fünf jahren erwartest Du dass die Filme aus den Zwanzigerjahren entrauschet und entruckelt sind.

00:40:22: Dann brauchst Du nicht mehr eine Abbinde zu sagen diese der wurde mit KI bearbeitet dann wissen wir das alle.

00:40:26: dann sind andere Dinge wieder interessant Wenn der zum Beispiel kolorisiert wurde auch das gibt es natürlich schon Und bei den anderen eben auch, ob Einzelheiten da ausgetauscht werden.

00:40:34: Das heißt... Da müsste man immer nachziehen was man meiner Meinung nach kennzeichnet und was man noch was man filtern will denn sonst wird es irgendwann uninteressant.

00:40:44: aber ich würde trotzdem gerne die Nutzerperspektive verstehen zu welchem Zweck.

00:40:50: wir wissen du als Medienjournalist jemand der den Film schaut im Produzent, der vielleicht Schauspieler sucht oder so.

00:40:57: Die Leute die brauchen irgendwie auch unterschiedliche Arten von Aufklärung und unterschiedlicher Arten vom Detail

00:41:03: Level

00:41:03: über die Bearbeitung.

00:41:04: Das ist nicht... Vielleicht gibt es nicht eine Kennzeichnung, die alle Leute abholt sondern man braucht eben sozusagen man muss eine Möglichkeit haben zu sagen ich möchte die Kennzeichnungen jetzt hier als Benutzerin oder Benutze oder ich möchte sie als Journalistinnen-Journalisten vielleicht anders sehen.

00:41:18: also dass man eben auch ne eine Individualisierung anbietet.

00:41:21: Dass man sagt, ich kann mir dann Rahmen oder so einen Blenden der Rahmen, der vielleicht was weiß?

00:41:26: Ich dann farbig kodiert von grün bis dunkelrot.

00:41:30: Wie viel KI-Anteil ist jetzt in dem Frame gerade drin für ein Endnutzer?

00:41:34: oder so dass man sagt ich habe dann irgendwie sowas was ich unbewusst mit gucke.

00:41:40: Also was sich für mich halt immer ganz wichtig fände ist zu wissen Ist das noch ein realer Mensch oder ist das künstlich generative?

00:41:46: Ich sage jetzt mal Schauspielpersonen die da erstellt wurde.

00:41:50: Also ist es praktisch ein generativer KI-Avatar, ich will gar nicht unbedingt sagen dass sich vielleicht so einen Film nicht angucken würde aber ich würde auf jeden Fall sagen das ich es dann wissen möchte wenn es so ist und ich es auch unter der Perspektive gucke.

00:42:03: Da wird mich abschließend tatsächlich auch nochmal deine Meinung interessieren.

00:42:06: Es gibt ja durchaus Szenarien, das wird sowieso wahrscheinlich so kommen.

00:42:09: Dass es Filme geben wird die komplett generativ KI erzeugt wird.

00:42:14: Erst mal ist das eigentlich momentan schon komplett möglich weil es gibt da meiner Meinung nach widersprüchliche Aussagen.

00:42:20: manche sagen es ist für einen langen Spielfilm über neunzig Minuten noch nicht möglich dass die KI da so stark eine hohe Konsistenz auf hat in der Bildgenerierung.

00:42:29: oder ist es technisch schon möglich?

00:42:31: Also was ich höre, bin der jetzt auch kein Branchenkenner ist.

00:42:34: Dass es halt wahnsinnig aufwendig ist, dass man halt prompten muss und muss es halt x-mal wiederholen sozusagen, muss immer wieder irgendwie Continuity sorgen, muss von dem jetzigen Screenshot den nächsten Frame machen und muss dich durchhangeln und muss auf alles achten.

00:42:47: Das heißt das ist einfach nicht rentabel meiner Meinung nach.

00:42:50: Das lohnt sich nicht.

00:42:51: dafür sind echte Schauspieler wahrscheinlich noch billiger.

00:42:54: Und trotzdem würde mich aber zu deiner vorigen Frage mal interessieren.

00:42:58: Gibt es da Umfragen dazu, wie sehen das denn die Zuschauer?

00:43:01: Also ich sag mal die Leute, die diese Gerichtsshows gucken.

00:43:05: Wollen sie bei dieser Gerichtsshow wissen ob das jemand aus Fleisch und Blut ist oder ob das komplett generiert ist?

00:43:10: also was wären auch deren Abstufungen... Niveaus, was wären die Dinge, die sie abholen würden?

00:43:16: Das würde mich wirklich wahnsinnig interessieren.

00:43:18: Ehrlicherweise

00:43:19: genau das würde mich auch sehr interessieren!

00:43:21: Ich glaube eine Umfrage dazu gibt es noch nicht.

00:43:22: Es gab Kommentare auf Social Media wo sich tendenziell eher negativ darüber geäußert wurde.

00:43:28: ich glaube dass ist tatsächlich auch noch ein sehr spezieller Content ist.

00:43:31: also ich glaube wenn jetzt zum Beispiel so ne Serie gewesen wäre wie GZSZ oder ne bekannte Primetime-Serie wie zb Babylon Berlin wo so was stärker noch zum Einsatz gekommen wäre.

00:43:43: Ich glaube, dann hätte man schon viel größere öffentliche Debatte, wo sich auch ganz vielschichtigere Meinungen zeigen würden und auch viel unterschiedliche Lesarten.

00:43:53: Und ich glaub tatsächlich so Meinungserhebung wird es wahrscheinlich in Zukunft denke ich mal noch geben weil die Medienunternehmen da wahrscheinlich auch ein Interesse daran

00:44:01: haben mit der

00:44:01: Akzeptanz abzumessen.

00:44:03: Als Experten ist Journalisten als Wissenschaftler vorgeben, wie die Leute sozusagen ihre Medien rezipieren sollen und welche Gänzechnungen sie brauchen.

00:44:09: Das ist so ein bisschen paternalistisch.

00:44:12: Und auf der anderen Seite macht es glaube ich auch einen Unterschied was du gerade gesagt hast.

00:44:15: natürlich sind das Schauspielerinnen und Schauspielern, die ich wirklich kenne aus anderen Kontexten oder so oder eben in einer Gerichtsshow wo ich die eh nicht

00:44:21: kenne also

00:44:22: irgendwelche... Ich sag mal, ich sage ja immer Leinschauspiele dazu.

00:44:25: Ich weiß nicht ob das Schauspiel Anfängerinnen und Anfängern sind oder ob das wirklich auch zum Teil Leincast ist in diesen Gerichts- und Talkshows, also Fake-Talkshows da Wenn die eben sozusagen ausgetauscht werden, das ist wahrscheinlich für die Leute noch unwichtiger als wenn man sagt da sitzt mein Leonardo DiCaprio oder so rein generiert.

00:44:43: Das macht natürlich auch nur mal einen Riesenunterschied der ob die von Anfang an sozusagen mir unbekannt sind und nichts sagen.

00:44:51: Es gab

00:44:52: ja

00:44:52: Einsätze bei Adrian

00:44:53: Brodie, wo in The Brutalist sein ungarischer Akzent noch mal verfeinert wurde nach KI Software und das ist natürlich auch schon ein Einsatz.

00:45:03: Wo manche gesagt haben smarte Lösungen, manche haben gesagt Ist es dann überhaupt noch eine authentische Schauspielleistung?

00:45:08: Er wird hier auch ausgezeichnet mit dem Oscar.

00:45:10: Und ich glaube natürlich, das ist generell etwas was auch sehr kontrovers einfach betrachtet.

00:45:13: Ja es

00:45:14: gibt junge Leute die sich komplett in Fake Social Media Stars den folgen ja die irgendwo durch die Welt reisen die Musik machen die keine Ahnung Gedichte schreiben und so weiter und jungen Leute sind vollkommen happy damit identifizieren sich damit finden die cool ziehen sich an wie die usw.

00:45:32: Das ist für uns natürlich irgendwie verstörend Ja, aber das ist eine andere Generation die da sozusagen anderen Medienkonsum an den Tag liegt und erstmal nehme ich das jetzt hin als Tatsache.

00:45:44: Und trotzdem ist natürlich die Frage was macht das mit Geschäftsmodellen?

00:45:47: Was macht das eben mit Zentrierung von Macht- und Mitteln mit Manipulationsundwerbe?

00:45:53: Ja klar genau.

00:45:54: Wirklichkeit

00:45:54: in politischer wie du sagst auch natürlich Vermüllung.

00:45:56: Auch mit

00:45:57: Arbeitsplätzen weil natürlich kann man irgendwie sagen Es demokratisiert irgendwie, also zum Beispiel auch junge Filmschaffenden haben dadurch mehr Möglichkeiten.

00:46:05: Auch Filme umzusetzen was ich auch mal positiv sehen würde.

00:46:08: auf der anderen Seite brechen vielleicht auch Arbeitsplätze und Entwicklungsmöglichkeiten für Nachwuchsschauspielende weg die trainieren könnten zb wenn sie bei Kurzfilmen mitspielen Wenn Sie kleinere Rollen synchronisieren,

00:46:18: wenn sie im Background

00:46:19: als Kompassität sind.

00:46:21: Das über Synchronsprecher haben wir viel diskutiert und die sozusagen Angefressen sind und das ist natürlich dann ein interessanter Diskussion.

00:46:31: Ja ganz genau, ja.

00:46:33: Glaubst du denn dass es so sein wird?

00:46:36: Dass so KI generierte Filme als eine Art Subgenre vielleicht sich etablieren?

00:46:40: also es gibt ja zum Beispiel Animationsfilme, also dass man sagt.

00:46:44: Man konsumiert praktisch bewusst nur generative KI-Filme so als Genre und die konsumierte man auch als solche und dann kann man praktisch wiederum auf einer anderen künstlerischen Perspektive bewerten ob man das gelungen findet oder nicht?

00:46:57: Glaubst du, dass das vielleicht... Das ist eine

00:46:59: schöne Idee weil denn es gibt ja auch gab hier auch so Trash-Genres wo man eben auch bewusst sagen wir mal nicht auf Continuity gelegt hat wo einfach auch bewusst sozusagen mit ganz geringem Inventar usw.

00:47:10: gearbeitet wurde.

00:47:12: das guckt man halt, weil man guckt es eben mit diesen Augen.

00:47:15: Dass man diese Genre halt mag.

00:47:18: Das wäre natürlich eine Herangehensweise zu sagen dann entschuldigst du halt einiges was da vielleicht irgendwie ist.

00:47:24: aber letztlich stecken dann natürlich viele Menschen dahinter.

00:47:29: müssen wir auch noch mal dorthin dazu sagen wenn die die Skripte machen wenn sie eben prompten und wenn die das alles aussuchen usw.

00:47:35: Das ist ja eigentlich dann ne Kunstform die noch stark von Menschen kommt.

00:47:40: Wenn du natürlich sagst, irgendwann wird das alles werden.

00:47:43: Auch die Skripte wird die Continuity von anderen KI-Systemen überwacht, werden die Themen ausgewählt nach dem was am Markt gerade läuft und auch das von KI.

00:47:52: Wenn du das ein bisschen hochrechnest in eine Selbstoptimierung sozusagen rein KI, von allen Seiten KI basierte Selbstoptimerung Und dann sich zu dem jetzigen Film erziehe ich meine Zuschauerinnen und Zuschauer schon so, dass sie den Nachfolgefilm auch gucken wollen.

00:48:05: So weiter wie das andere machen.

00:48:07: Netflix haben natürlich auch schon Geschäftsmodelle wo die dich in Richtung Prime sagst nach dreimal Schmonzette will ich wieder ein Action-Film sehen.

00:48:16: Den haben wir auch zufällig gerade schon gedreht.

00:48:19: Das ist ja im Gange eigentlich auch, dass ich mir die Zuschauer forme, dass die an der Stange bleiben Dann wird es irgendwann ekelig oder bist sehr eklig.

00:48:30: Du kannst eben skalieren, du kannst... Ja ja das ist so.

00:48:34: Das ist dann das Problem.

00:48:35: da kannst du halt mit, dann kriegen die wenigen dies können, kriegen dann unendliche Macht und unendlichen Möglichkeiten sich in Szene zu setzen.

00:48:42: und wie du gesagt hast alle Kleinen oder die irgendwas anders machen werden nicht mehr wahrgenommen und sind dann auch

00:48:48: vielleicht

00:48:48: ne Zeit lang nicht lecker.

00:48:52: Also ich persönlich fände es wahnsinnig wichtig, dass man sich so ein Bereich Safe Space aufrechterhält.

00:48:57: Wo man weiß da sind echte Schauspielende bei echte Kreative die sich das ausgedacht haben vielleicht mit KI als Markenassistenten Nichts dagegen.

00:49:06: Auf der anderen Seite auch noch echte Synchronspielende, dass ich das weiß ... Dass man praktisch diese zwischenmenschliche Kommunikation hat über Bande.

00:49:14: Wenn nicht ganz wichtig.

00:49:15: Aber du hast vollkommen Recht!

00:49:16: Man ist immer im Zwiespalt sowohl als Wissenschaftler und Journalist, dass man nicht zu sehr bewertet und nicht zu selbst abnimmt um seine Sichtweise darauf aufzuoktoriieren.

00:49:27: Das ist ein schmaler Grad, auf dem man sich da bewegt.

00:49:31: Total, also ohne jetzt sozusagen irgendwie Leuten natürlich ihren geliebten Beruf oder so irgendwie Mardig machen zu wollen und den leicht hin drangeben zu wollen.

00:49:39: Ich nehme als Beispiel immer klassische Orchester wahnsinnig teuer im Betrieb eine gewisse Kultur-Bubble sicherlich nicht alle Achtzig Millionen Deutschen erhalten das für sinnvoll dass wir die Bezuschüssen da viel Geld reingeben.

00:49:53: Das ist sozusagen ne Förderung die eben für bestimmte Leute gemacht wird Gut finden und so weiter.

00:49:58: Dass es die gibt, dass die Musikerinnen und Musikern selber viele ja das die Chancen haben dort zu proben Dort in den großen Bühnen usw.

00:50:05: Zu spielen Und der noch muss kann man eben auch nüchtern sagen naja Das ist eben auch eine sozusagen Elitenförderung an irgendeiner Stelle und das Geld fehlt dann anderswo irgendwo oder so.

00:50:13: Oder wird vielleicht nicht in meinen geliebten Jazz oder was anderes gesteckt und andere Leute würden sie gerne ins Schwimmbad stecken oder?

00:50:18: Was weiß denn ich?

00:50:18: Ja also das ist natürlich immer so, wenn wir sagen wie wir machen Protektionismus an irgendeiner Stelle.

00:50:23: Wir leisten uns jetzt noch Synchronsprecher und Schauspieler

00:50:25: usw.,

00:50:26: mit öffentlichen Geldern letztendlich weil es der Markt nicht mehr hergibt.

00:50:31: Dann greifst du halt an irgender Stelle eins mit Mitteln die für alle Dinge zusammen nur einmal da sind.

00:50:39: Da können wir glaube ich nicht, da kommen wir nicht drum rum!

00:50:41: Das sind immer Verteilungsfragen ja?

00:50:45: Ich bin sehr beruhigt, dass es Podcast gibt wie euren die damit einen differenzierten Blick drauf blicken und auch ganz unterschiedliche Perspektiven zu Wort kommen lassen.

00:50:53: Ihr habt da immer Interviewgäste aus unterschiedlichen Bereichen.

00:50:57: das finde ich auch wirklich super!

00:50:58: Und ich verlinke gerne zwei drei Folgen von euch im Begleittext vor allen Dingen auch die Folge mit deinem Kollegen Tim der in einer Folge zu Gast war der er glaube ich digitalforensiker ist und das fand ich sehr interessant weil ich glaube das lohnt sich nochmal sehr.

00:51:11: zur Vertiefung weil er noch mal sehr genau da legt, wie er so rangeht.

00:51:16: Wenn er verifiziert zum Beispiel Pulsmessungen das geht aktuell noch aber er hat natürlich auch gesagt Katze Maus spielt.

00:51:21: also das ist auf jeden Fall hochinteressante Folie.

00:51:24: aber da muss man am Ball bleiben weil die kann sein dass das alles in drei Monaten wieder komplett absolvät ist.

00:51:29: dann

00:51:30: Ja ja das ist mir wichtig.

00:51:32: eben in dem Podcast sozusagen nur weil ich in KI forsche heißt es ja auch nicht dass sich alle Entwicklungen toll finden.

00:51:37: und über den grünen Kleinglobe das hast du heute hier auch auch gemerkt das muss man alles differenziert betrachten.

00:51:42: man kann natürlich immer versuchen Das Positive zu sehen, und auf der anderen Seite muss man das negative klar benennen.

00:51:47: Und zu versuchen eben aus unserer schwachen technologischen europäischen Perspektive trotzdem zu tun was machbar ist.

00:51:55: ich bin ja auch sehr stark dafür dass wir versuchen nicht nur nicht nur Souveränität herzustellen sondern dass wir uns überlegen wer in Europa KI eigentlich betreiben soll.

00:52:02: für uns also die Frage wäre wem wollen wir unsere gesamten Daten unser Gesundheitsdaten unser Lerndaten unsere privaten Daten unsere Arbeitsdaten?

00:52:09: Wer soll die zum Trainieren bekommen?

00:52:11: Im Moment verschenken wir sie.

00:52:13: Wir bezahlen ja mit unseren Daten und mit unseren Token, wir bezahlen immer zweimal im Moment.

00:52:18: Und das ist eigentlich nicht zu akzeptieren.

00:52:19: wer kann in Europa eben?

00:52:21: Und wer kann Pluralismus Wer kann Wertebasiertheit und alles was wie uns wünschen?

00:52:25: Ja wo wir gerade sehen die Firmen die gehen zum Teil berserk gerade Die lassen die Sicherheit außer acht und machen komische Dinge.

00:52:31: In China macht der Start halt Dinge mit Kai und wir wollen in europa irgendwie einen dritten Weg gehen und darüber müssen wir eben verhandeln und diskutieren.

00:52:39: Und dazu gehört aber auch und das sage ich dann auch immer, da müssen wir auch an irgendeiner Stelle Wertschöpfung mit dem Zeug machen.

00:52:45: Ganz ohne an irgender Stelle Produktivitätsgewinn einzufahren denn wir leben nun mal leider im Kapitalismus.

00:52:51: Geht es dann auch nicht?

00:52:52: Also nur Idealismus geht halt leider auch nicht.

00:52:53: also wir müssen schon irgendwo gucken welche Jobs, welche Dinge... Wir haben ja Fachkräfte und Arbeitskräftemangel, wo können wir irgendwas rausquetschen und auch mit der Technologie gute Dinge machen?

00:53:02: und dann können wir eine andere Stelle auch ohne die Technologie sagen, da wollen wir sie gerade nicht einsetzen!

00:53:07: im Gerichtssaal, was

00:53:09: weiß ich.

00:53:09: Genau.

00:53:10: Und an der Arztpraxis und hier und dort.

00:53:12: Da wollen wir sie nur unter bestimmten Voraussetzungen oder an bestimmten Stellen haben und dann anderen nicht.

00:53:17: Das ist meine Meinung nach eine Erscheidungsfreiheit die wir uns auch erarbeiten und erwirtschaften müssen.

00:53:24: Ich glaube das ist ein sehr gutes Schlusswort in dieser Zukunft gerichtet.

00:53:28: Ayusha vielen Dank für deine Zeit, die du dir heute Morgen aufnimmst.

00:53:36: Ich wünsche dir weiterhin viel Erfolg über den Podcast.

00:53:39: Vielen Dank für deine Zeit!

00:53:40: Ja, danke für die Einladung!