Hi, irgendwie ist Montag immer der schlimmste Tag in der Schule.
Stimmt. Vor allem nach dem geilen Wochenende und der Aufregung im Klassen tört.
Was war denn los?
Kannst du dir nicht vorstellen. In dem Chat wurde ein Video gepostet, das war ultra fanny.
Wieso? Komm, erzähl!
Schau mal auf dem Video sieht man einen Hund mit dem Gesicht eines Mädchens aus meiner Klasse.
Absolut witzig. Ich hab so gelacht, als der Hund dann an die Laterne gepinkelt hat.
Hier guck sie selbst an.
Hey! Wie geht denn das?
Es sieht voll echt aus.
Was hat denn das Mädchen dazu gesagt?
Die hat sich tierig aufgeregt und die Eltern von ihr sind heute in der Schule um mit der Lehrer zu sprechen.
Die sagen, dass es Mobbing.
Kann ich voll verstehen.
Nach dem Video musste ich erst mal wieder in die Schule trauen.
Ich finde es voll krass, wie echt das aussieht.
Man denkt wirklich, dass das real ist.
Aber wie macht man solche Videos?
Videos. Das ist so eine Deepfake Technologie. Deepfake? Man lebst so entharmont. Deepfake wird doch überall
eingesetzt. In Filmen bei Fotos überall. Komm, du bist doch genauso los, die ich. Oder hast du
gecheckt, wie das läuft und was man da alles mitmachen kann. Okay, entspann dich. Hast ja recht.
Vor allem sieht das so echt aus, dass man gar nicht mehr unterscheiden kann, ob es real ist.
Woher soll man denn noch wissen, ob ein Video oder ein Bild gefägt ist?
Das klingt doch nach einem Fall für die Digital-Dedektive.
Die Pfeig gefälschte Videos und Bilder.
Die Digital-Dedektive.
Wir checken das.
Schlaufragen und verständliche Antworten zur Digital-Team.
Der Podcast ist bereichs der hessischen Ministerin
für Digitalestrategie und Entwicklung.
Hallo Martin, wir haben ja gesagt, wir dutschen uns.
Ja, gut, meiner aus Martin Steinbeach. Ich bin Wissenschaftler und ich leite am Fraunhofer
SCT. Eine Abteilung zum Thema Multimedia-Sicherheit und IT-Vorrensik. Das heißt, ich
Forscher eben zu fragen, wie werden Medien gefälscht, wie kann man Fälschungen aufdecken,
aber auch Fragen, wie man zum Beispiel im Internet nach Desinformationen suchen kann oder
ähnliches. Was ist die überhaupt ein Deep Fake? Das ist auch eine ziemlich gute Frage,
man gar nicht so leicht beantworten kann. Also wir können uns erstmal Wort betrachten. Deepfake ist
zusammengesetzt aus Deep und Fake, wobei Deep für Deep Learning steht. Das ist eine Variante des
maschinen Lerns, bei der mit ziemlich komplizierten Netzen gelernt wird, wie Inhalte dargestellt sind.
Und Fake ist dann der englische Begriff für eine Felschung. Das heißt man sagt erstmal Deepfakes sind
Und dann, wenn man Deep Learning zum Felschen von Inhalten einsetzt und der klassische Deepfake,
was sich jeder drunter vorstellt, ist eigentlich das Felschen von einem Video, dadurch,
dass man in einem Video den Kopf von der gezeigten Person mit einer anderen Person austauscht.
In der Zwischenzeit gibt es aber ganz viele andere Varianten von Deepfakes.
Man kann Töne fälschen, man kann sogar Texte mit Deepfakes neu erstellen.
Und es gibt in der Zwischenzeit auch Varianten, bei denen man wirklich einfach nur ein Text vorgibt.
Dann wird ein neues Bild gezeigt, dass es vorher nicht gegeben hat.
Das fällt alles auch in dem Bereich.
Warum sind Deepfakes gefährlich?
Ja, Deepfakes selbst sind erst mal nicht gefährlich.
Das sind letztendlich Bilder oder Töne. Die Frage ist immer, was macht man damit? Man kann damit
sehr schöne Sachen machen. Man kann beispielsweise in einem Film einen Schauspieler austauschen,
wenn man zum Beispiel noch eine Jugendzehne von einem sehr alten Schauspieler treten möchte,
dann nimmt man vielleicht aus älteren Filmen das Gesicht von ihm und setzt irgendwo ein und dann
sieht das aus, ob er dies zehn auch getretet hat. Man kann aber genauso Deepfakes einsetzen,
um Desinformation zu befeuern, dass man also einen Politiker was sagen lässt, was er so nie
gesagt hat oder man kann es auch zum Mobbing einsetzen, indem man dann halt eben das Bild von einem
Klassenkammerat in irgendeinen Video einsetzt, indem er voran nie teilgenommen hat.
Das klingt ja echt schlimm. Was machen den Verbrecher mit Deepfakes?
Der große Vorteil von Deepfakes für Verbrecher ist halt, dass sie Dinge erzeugen können,
die es so nie gegeben hat.
Sie können also, wenn Sie jetzt so tun wollen, als ob ein Präsident etwas gesagt hat, was er
vorhin nie so gesagt hätte, einfach ihm das in dem Mund legen.
Da gibt es alle möglichen verschiedenen Varianten, wie man es mit Deepfakes erreichen kann,
aber man kann halt einfach Videos erzeugen, die lügen sehr glaubhaft da stehen lassen.
Verbrecher können aber auch dadurch, dass sie jetzt mit Deepfix sich das Gesicht und die Stimme
von jemand anderen quasi überstülten können. Zum Beispiel über ein Video anruf so tun,
als ob sie der Enkel von der Großmutter wäre und der sagt ich bin jetzt hier im Ausland,
ich hatte ein Autounfall, ich brauche dringend Geld. Ein Kumpelkampf vorbei,
gibt den einfach mal 5.000 Euro und das glaubt die ohma dann wahrscheinlich noch viel mehr als
dass es früher bei den Enkelgetricks mit einem Telefon war und was verbrechern natürlich auch
machen können und kriminelle ist dann hergehen und Fotos zu fälschen und Personen zu
erpressen also wenn es mit den politiker videos so ist das mit ihnen außen gibt weil man dadurch
die Bevölkerung verunsichern möchte kann man natürlich genauso sagen bei einer Privatperson
interessiert das wahrscheinlich in Großteil der Bevölkerung gar nicht. Aber in ihrem Freundeskreis würde
ihr sagen, ich möchte nicht, dass ich auf einem Foto nackt zu sehen bin oder ich möchte nicht,
dass ich auf einem Foto und Hund trete oder was auch immer. Und wenn ich dann also ein Foto erzeugen
kann, kann ich natürlich der Person e-Mail schaue und sagen, "Gibt mehr Geld?" oder ich verteile das
in einer WhatsApp-Gruppe oder was auch immer. Also gibt es sehr viele Dinge, die verbrecher damit tun
und für was werden Deepfix an sonststen verwendet? Kann ich damit auch gutes anstellen?
Deepfix werden für wirklich sehr viele verschiedene Varianten verwendet. Also wenn man
mal mit den Risiko-Reichen Sachen anfängt, dann würde ich sagen, es sind politische
der Zinformationskampagne. Wir haben also jetzt im Okraine-Krieg zum Beispiel Videos
von Zelenske, also auch von Putin gefälscht bekommen. Wir sehen auch, dass in Betrugsmaschen
Deepflex eingesetzt werden, dann ruft jemand mit der Stimme von einem Firmenleiter
irgendwo an und sagt, man soll Geld überweisen und das hat aber der Firmenchefinie gesagt,
sondern das hat jemand gefälscht und dann wird das Geld aber doch überwiesen und verschwindet
dann es gibt Mobbing und Erpressungsfälle, in dem man beispielsweise Personen von denen man
nur ein Porträt hat, in irgendwelche Bilder eingesetzt werden, die dann komprimentieren
sind, bei dem man sagt, das möchte ich aber nicht das mein Foto, mein Gesicht in so einem
Foto erscheint und dann bezahlt man vielleicht lieber Geld, wo man wird halt eben gehenselt,
weil das Foto verteilt wird. Es gibt aber auch eine ganze Reihe von guten Anwendungen.
Also, im vielen Filmstudios werden heute total die Pfex eingesetzt und zum Beispiel
Zähnen von einem Dubel mit dem Gesicht von dem Schausteller dann wieder zu ersetzen,
sodass die Zähnen besser aussehen oder man hat Jugendsten, die man noch wiederherstellen
kann, indem man damit ein Dubel arbeitet.
Es gibt auch schon Musikvideos, die mit die Pfex arbeiten.
Und es gibt eine Variante, das geht dann so in Baharbeiten von Videos rein.
Da kann man, wenn man sich in einem Video an einer Stelle verspricht.
D.h. ich dann einfach den Versprecher korrigieren.
Wenn man also ein falsches Wort gesagt hat, klickt man auf das Wort.
Tipp das richtige Wort ein.
Das Programm lernt wie die Stimme und die Aussprache ist.
Und erzeugt das richtige Wort dann mit der richtigen Stimme.
Und dann muss man halt nicht alles neu einsprechen, sondern kann das Video wie ein Text bearbeiten.
Und es gibt Deepfellkmethoden, die werden dazu eingesetzt, dass Videokonferenzen besser funktionieren.
Wenn man Videokonferenzen häufig irgendwo eine Stelle schaut, die nicht die Augen vom Gegenüber sind.
Und das wirkt auf dauer ziemlich komisch.
Weil man ja meistens entweder auf seinen Bildschirm oder in die Kamera schaut.
Aber das Gegenüber sieht mir eigentlich nicht.
Und gibt es eben Deepfellkmethoden, mit dem man quasi das Gesicht so anpassen kann,
dass es dann doch immer so aussieht, dass man den gegenüber anschaut und das ist natürlich viel
angenehmer beim Video. Kann ich auch einen Deepfake erstellen? Ja, also ein Deepfake kann man eigentlich
erstellen, sobald man einen Computer hat, der auch für aktuelle Computerspiele geeignet hat.
Also jeder Spiele PC, der eine aktuelle Grafikkarte hat, ist eigentlich leistungsfähig genug, um einen
Die Pfekz zu erstellen. Man muss aber schon sagen die Herausforderung bei der
Erstellung von Die Pfekz ist dann eigentlich eher, dass man geeignetes Material hat
und auch das Bild, das man dann einbringen möchte, passend aussieht.
Ich sage immer, wenn man jetzt von dem Politiker nur Bilder hat, die aus einem
Fernsehstudio stammen und man dann dem Politiker irgendwo in der Strandzehne rein kopieren möchte,
Dann hat man dann eine ganz andere Beleuchtung, der Politiker ist da meistens geschminkt.
Am Strand ist man dann natürlicher, hat vielleicht nach so hare und ähnliches.
Und all das Kindersprogramm halt alles von dem Politiker nicht, weil mehr er nur diese Stuteaufnahmen hat.
Und deshalb kann er so eine Strandstehende dann schlechter stellen, während er eine Stuteaufnahme sehr gut darstellen könnte.
Und wenn ich dann also selbst ein Deepfake erstellen möchte, dann muss ich halt gucken,
welches Video möchte ich den verändern und wenn ich dann zum Beispiel mir den Spaß mache zu sagen
ich nehme jetzt die Tageschau und schneide dann quasi das Gesicht vom Sprecher aus und
er setzt das mit meinem Gesicht dann sollte ich mich halt nach Möglichkeit auch in ähnlichen
Raum stellen und eine ähnliche Beleuchtung machen und vielleicht auch irgendwie meine Haare so
kämen wie der das hat und wenn der eine Brille aufhat auch eine Brille aufsetzen und wenn der im
Bart hat mir dann vielleicht auch ein Bart ankleben oder anmeilen. Also so nah wie möglich an
das andere Bild rankommen um so leichter hat der Computer das auch zu ersetzen. Also das ist
so das Wichtige, dass man wissen muss, dass es nicht nur um Rechen leisten geht sondern die
Bilder müssen auch einigermaßen zusammenpassen. Ist es denn strafbar, Deepfix zu erstellen und zum
Beispiel mit einem Messen ja zu verschicken? Nein also die Deepfix selbst sind nicht strafbar.
Ich muss natürlich dazu sagen, dass ich kein Jurist bin. Ich bin kein Rechtsanwalt, sondern
IT-Forscher, aber nach meinem Verständnis ist die Technologie selbst nicht verboten, genauso wie
Photoshop ja auch nicht verboten ist. Es kommt halt immer drauf an, was man damit macht. Es ist
natürlich strafbar, wenn man damit anfängt jemand zu erpressen oder wenn man Mobbing macht oder
ähnlich ist, aber es ist nicht strafbar die Technologie einzusetzen, also wenn man irgendwie sich den
Spaß macht, auf den Körper von dem eigenen Hund dann irgendwie das Foto von der Katze zu setzen
und dann ist das ein lustiges Bild, auch Deepfig aber gar kein Problem.
Okay, was brauche ich immer ein Deepfig zu erstellen, um wie funktioniert das genau?
Also ich brauche zum einen einen geeigneten Computer,
das ist ein Spiele-Computer mit einer guten Grafikart,
also wenn man aktuelles Spiel spielen kann, kann man damit eigentlich auch Deepfig zu erstellen.
Dann brauche ich das Video, das ich verändern möchte,
wenn ich jetzt so einen klassischen Deepfiger stelle.
Also ich habe ein Video und da sollen andere Gesicht rein und dann brauche ich von dem Gesicht,
dass da rein sollen, möglichst viele Aufnahmen.
Also früher hatten man da 10.000 gebraucht und dazwischenzeits ist mal vielleicht bei 100
und irgendwann ist man auch bei beeinzelnen.
Und mit diesen Aufnahmen lernt der Computer dann wieder das Gesicht aus sieht.
Also was der Computer eigentlich macht, ist der schaut sich in dem Video an, wie guckt
die Person gerade, dann nimmt der quasi diese Beschreibung aus welchem Winkel sehe ich die Person gerade, was für ein Gesichtsausdruck hat die Person gerade, und dann hat der aus den ganzen Bildern von der personen, die ich ersetzen will, gelernt wie die Person, wenn sie gerade den Gesichtsausdruck hat aussieht.
Und dann greift der quasi auf das richtige Referenzbild auf den richtigen Gesichtsausdruck zurück und erzeugt ein neues Gesicht von der zu ersetzenden Person, die halt den gleichen Gesichtsausdruck mit der gleichen Kopfhaltung hat und legt dann dieses neu berechnete Gesicht über das Bild von der anderen Person drüber, das heißt, wie so eine Art Aufklebemaske, die der Computer erstellt, die ja dann auf das Video draufklebt.
Okay, also heute braucht man nach schnellem Computer um wirklich gute und realistische
die Pficks zu erstellen.
Geht das bald auch schon mit dem Handy?
Ich glaube da muss man unterscheiden, ob man jetzt sagt, das soll auf dem Handy selbst
passieren oder man macht es über eine App, bei der dann die Rechenleistung irgendwo in
der Cloud liegt.
Das ist ja eigentlich das, was man typischerweise bei Handy Apps heute hat.
Ja, das heißt also, ich würde mal sagen, ja, das geht und das geht auch heute
schon. Also es gibt auch Apps, die Deepfakes nutzen. Gibt es glaube ich irgendwelche also jahretischen
Apps, bei dem man zum Beispiel sich in beliebte Musikvideos rein kopieren kann. Dann nimmt man
einfach ein Foto von sich und dann ist man in dem Musikvideo von dem Künstler und dann ist eben
das Video schon ganz ausführlich vorberechnet worden und setzt dann nur noch das andere Gesicht
rein. Und das geht problemlos auf dem Handy, aber das Handy selbst berechnet das Ganze nicht,
sondern das ist dann quasi nur die Fernbedienung für den Computer in der Cloud und ja ansonsten
nicht man auch bei den Handelst, bei den Smartphones wird man irgendwann genug Rechenleistung haben,
dass man einfache Deepfakes auch da direkt drauf erstellen kann, wenn man das wirklich möchte.
Aber ich würde sagen, da ist man schon noch ziemlich weit weg, weil das viel Speicherplatz
und viel Rechenleistung braucht.
So wie du das erklärt hast, vertauschen die Pfex auf Gesichter.
Geht es denn auch mit der Stimme?
Das kann man auch mit der Stimme machen.
Es gibt also auch Programme, mit denen man Tonaufnahmen vor spielen kann.
Und dann lernen die, wie die Stimme von der Person klingt.
Und dann kann man Textstippen.
Und der Text wird dann quasi in der Stimme von der Person gesagt.
Das ist auch ein Feld, das sich weiterentwickelt.
lang vor einer Weile noch ziemlich hölzern, aber das war auch mit anderen Computer-Stimmen
immer so, dass die am Anfang sehr monoton wie so alter Roboter geklungen haben.
Und als Zwischenzeit kennt man sehr von den ganzen Smart devices und so, dass die Stimmen
schon sehr angenehm klingen.
Von daher bin ich überzeugt, dass man auch Stimmdipfakes bald sehr gut hinbekommen wird.
Wie kann ich dir eine Kennt, ob in einem Video ein Deepfake verwendet wurde?
Das kommt dann ein bisschen drauf an, wie so die individuellen Möglichkeiten sind.
Die Pfakes sind selten perfekt. Das bedeutet also, wenn ich jetzt wirklich einfach nur das Video habe
und mir das anschau kann man eben drauf achten, passt überhaupt so die Röse vom Gesicht zum Kopf,
weil wenn man nicht die identische Kopfform von dem Ziel und der Quelle hat, also das was ausgetauscht wird,
tauscht wird, dann ist es natürlich so, dass der Computer ja ein schmales Gesicht auf vielleicht
einem breiten Kopf setzen muss und dann sieht das Ganze verzerrt aus. Also wenn man irgendwie
eine Spale also nimmt und dann eine breite Person drauf kopiert, irgendwie muss das Gesicht auf
dem Kopf gelegt werden. Das heißt also da kann man schon ganz häufig Unterschiede erkennen.
Man muss aber natürlich dann die Person auch gut kennen. Also wenn das von mir ist, ich
selbst kenn meinen Gesicht natürlich ziemlich gut und würde ich das sofort sehen. Aber wenn eben
das nicht der Fall ist, wenn die Kopf größer passt, dann wird es schon schwieriger. Dann kann man
schauen, ob der Computer vielleicht hin und wieder mal ein Fehler macht. Also dann würde ich sagen,
man achtet hauptsächlich darauf, wenn man sich mal zur Seite dreht oder wenn man irgendwie ein
ein untypische Kremass oder sowas macht, weil der Computer da weniger Referenzen hat und dadurch
eher malen Fehler macht. Und interessant ist es auch darauf zu achten, wie so der Übergang
von der Stürren zum H ansatz aussieht, weil diese Deepfakes kopieren ja das Gesicht auf das
existierende Bild drauf und irgendwo fängt der das Originalbild an und das kopierte Gesicht
wird auf und oft ist es so, dass man da noch so eine kleine Naht erkennen kann, weil so die Hautfarbe
nicht ganz identisch ist. Aber der darf man sich natürlich auch nicht drauf verlassen. So muss klar
sein, die Technik wird auch immer besser und irgendwann wird man so etwas vielleicht nicht mehr erkennen
können. Das ist jetzt das, wenn ich jetzt einfach nur das Video anschau. Was man dann macht,
wenn man ein bisschen recherchieren kann, dann kann man schauen, finde ich vielleicht das
Originalvideo. Also das haben wir bei diesen politiker Videos zum Beispiel häufig, dass dann
ein Politiker in irgendeinem Rede hält, die gefälscht ist und dann finden Leute aber die alte
Videoaufnahme von der Rede und der Politiker bewegt zum Beispiel seine Hände in beiden Videos
absolut identisch. Und dann weiß man, okay das kann kein Zufall sein, das es kopiert, dann kann ich
damit nachweisen, dass es ein Deepweg, das heißt ich muss letztendlich in der Art in
wir herse Videos suche machen. Manche Leute kennen dann eben auch ganz viele Videos schon gut,
weil sich viel mit Politik beschäftigen und erkennen das vielleicht auf den ersten Blick,
wo das herstand, sonst gibt es da aber auch Computerprogramme, mit dem man das machen kann.
Und was wir halt machen, das ist dann wirklich so die forensische Untersuchung. Wir gucken uns dann
so ein Video ganz genau an, lassen mit unserem Programm statistischer Eigenschaften berechnen,
sehen dann zum Beispiel, dass ein Video ein Bereich hat, den Bereich von dem gefälschten Gesicht,
der vielleicht ein bisschen vergrößert wurde, der vielleicht von einer anderen Kamera aufgenommen
wurde als der Rest vom Bild und dieser Vergleich, der hilft dann dabei, Deepfakes auch technisch zu erkennen.
Kannst du als Experte denn Deepfakes immer erkennen?
Das ist eine spannende Frage, weil, woher weiß ich, ob ich sie immer erkannt habe?
Ja, ich mein, wenn ich sie nicht erkennen und ich ein Video hab und es sind diebfärgend,
die sagt nein, wird mir ja niemand sagen, doch doch, das ist eine.
Aber ich würde mal sagen, bis jetzt haben wir alle gut erkennen können.
Aber ich würde jetzt auch nicht behaupten, dass ich die immer sofort auf dem ersten Blick
erkenne, sondern muss ich dann schon hinsetzen, muss ich die einzelnen Bilder von dem Video
anschauen und dann gibt es meistens doch hinweise.
Wie kann ich mich denn selbst vor diebfärg schützen?
Also wenn ich nicht will, dass von mir da irgendwas verändert wird.
Ja, das ist eine sehr spannende Frage.
Also letztendlich hat man früher gesagt,
möglichst wenig Inhalte von sich selbst im Netz verteilen,
weil die Deepfake-Verfahren ja viel Material zum Lernen brauchten.
Also die ursprünglichen Systeme.
In der Zwischenzeit gibt es aber schon erste Deepfakes,
die tatsächlich mit einem einzelnen Porträtfoto auch schon mimik erzeugen.
Das sieht noch nicht so gut aus wie bei meinem Film Material hat, aber es geht und man wird sehen,
wie sich die Technik da noch weiter entwickelt. Von daher ist so das Schützen davor,
dass jemand ein Deepfig von mir macht wirklich schwer, weil das eigentlich bedeutet,
dass ich verhindern müsste, dass andere Leute Fotos vor mir haben und das wird wahrscheinlich
nicht machbar sein. Wahrscheinlich muss man sich eher ja wappnen und gut verstehen,
wie Deepfix funktionieren, damit wenn so etwas passiert, wenn man dann durch ein Deepfix
beispielsweise gemobbt wird, dass man dann halt sehr schnell sagen kann. Das ist doch
eine Fälschung, guck mal da, da siehst du auch schon hier die Kante und guck mal,
dass es doch viel breiter als mein Gesicht oder ähnliches ist, aber von daher verstehen
und dagegen argumentieren können, es realistisch als ich wirklich davon zu schützen.
Ja, man sollte halt auch nicht einfach nach Deepfake in Google oder ähnlichen suchen
und blind auf alles klicken, weil dann kann man durchaus auch ein sehr hässliche Bereiche
des Internets reinkommen.
Nimm die Politik die Betrohung denn ernst und geht dagegen vor?
Ja, also ich würde schon sagen, dass es ernst genommen wird.
Wir haben ja selbst zum Beispiel auch vom Land Hessen Forschungsvorhaben,
indem wir Deepfax erforschen und uns zum Beispiel auch anschauen,
wie das mit der Echtzeitfähigkeit von Deepfax und Deepfalkerkennung ist,
wie man sich da fortschützen kann, dass Deepfax verschleiert werden,
dass man also dann technisch nicht mehr erkennen kann, dass es Deepfax gibt.
Also da forschen wir auch für das Land Hessen dran und das suchen das.
Und ja, auch sonst, also in den Universitäten wird viel zu dem Thema gemacht,
auch in den hessischen Universitäten vielleicht sogar vor allem, in den hessischen Universitäten das.
Dazu müsste ich die anderen besser kennen.
Und ich habe auch davon gehört, dass man Beratungsstellen und Ähnliches hat, die halt eben dann es erlauben,
Jugendlichen oder Eltern die Probleme mit Mobbing durch die Pfilkshaben da unterstützt zu werden.
Ja, also ich denke schon, dass es ernst genommen wird, klar.
Was gibt es denn überhaupt Möglichkeiten gegen Deepfakes vorzugehen?
Ja, vorgehen bei Deepfakes ist ja keine so einfache Sache.
Man kann ja tatsächlich nur gegen die missbräuchliche Verwendung von Deepfakes
sorgern, weil Deepfakes selbst ja für alles möglich eingesetzt werden kann.
Und die Politik sieht das Problem und fördert viele Projekte, die sich mit dem Thema
Deepfakes beschäftigen, mit Deepfaker-Kennung beschäftigen und das auch interdisziplinär.
Das heißt, das sind also nicht nur Computer-Experten, sondern auch Soziologen oder Psychologen
und Medienwissenschaftler, die sich halt auch ganz verschieden im Perspektiven damit beschäftigen,
wie man mit Deepfakes umgingen kann. Und natürlich gibt es eben auch Juristen, die sich dann
Gedanken darüber machen, wie kriege ich denn eine rechtliche Hand habe, so dass ich natürlich
zum einen nicht verhindern, dass man schöne Sachen mit Deepfakes macht, aber zum anderen,
wenn sie illegal eingesetzt werden, man das auch entsprechend bestrafen kann.
Und dann gibt es natürlich auch noch beauftragte Sputien, die dann veröffentlicht werden,
dass jeder, der sich für das Thema interessiert, nachlesen kann, was so das Risiko von Deepfakes
sind. Also das, was wir hier auch besprechen, da gibt es auch ganz viele Texte, in denen man das
zu nachlesen könnte. Also wird einiges getan. Und reicht das, was gemacht wird?
Wenn du ein wissenschaftler fragst, ob es ausreicht, dann wird er immer sagen, da muss man
noch viel mehr dran forschen. Und ich glaube, das Problem ist eher, dass man noch nicht in der Lage ist,
die Geschwindigkeit mit der sich die Deepfakes verändern, die mit den üblichen Projekten und
Fördermethoden anzugehen. Das heißt also, ich sehe jetzt im Augenblick so alle halbe Jahre wirklich
eine ganz große Veränderung im Bereich der Deepfakes. Wir waren Ende 2021 an dem Punkt,
als es plötzlich möglich war, Deepfakes in Echtzeit zu verstellen. Wir waren jetzt Mitte 22 an dem
Punkt, an dem man plötzlich Texte im Müt schmachen konnte. Also gar keine Videos mehr braucht oder keine
Fotos, dann einfach sagen konnte. Ich möchte jetzt das und das Bild haben und dann erzeugte
Computer, das einfach ein Förderprojekt dauernd halt lange bis man das genehmigt hat und bis man
das dann umsetzt. Das heißt wahrscheinlich müsste man schauen, dass man das, was man tut,
einfach noch schneller und man sagt dann immer Agile, also Flinke gewannter macht, als das,
ich vielleicht jetzt noch der Fall ist. Insgesamt wissen ja erst wenige Leute überhaupt, dass so was
Wie können wir denn andere auf Deepfakes aufmerksam machen?
Gut, man kommt dann glaube ich immer darauf an, was die anderen so lesen oder schauen.
Also ich glaube, dass andere aufmerksam machen, ist hauptsächlich eine Frage des Kanals.
Man muss wahrscheinlich das richtige Medium finden und dem Kanal, dann Informationen bringe ich
glaube, die Deepfakes selbst sind so spannend, dass wenn man die zeigt und wenn man erklärt,
was so dahinter steht, das verstehen die Leute sehr schnell, weil es ja auch total
intuitiv ist. Ich zeige ein Video von einem Schauspieler und dann kopiere ich
mein Gesicht rein und dann lauf ich plötzlich in dem Film rum. Das versteht
jeder sofort und dass das dann auch ein Risiko sein kann.
Ich glaube auch, aber es ist halt die Frage, ob man dann zum Beispiel das auf
entsprechenden Social Media Kanälen verbreiten muss oder ob man in Magazinen
Berichte veröffentlichen muss oder ob es in irgendeinem Fernsehprogramm mal
angebracht werden muss. Also das ist wirklich dann die Sache, wie erreichig
wehen. Wie kann man denn die Fähigkeiten stärken,
die Pfähkse zu erkennen? Die aller einfachste Antwort ist in dem man versteht,
wie die Pfähkse funktionieren. Also wenn ich weiß, dass ein Deepfake nur das
Gesicht ausschneidet und zum Beispiel häufig noch die Stürn so lässt, wie sie ist oder zumindest
mal den Haaransatz, dann weiß ich ja auch, wo ich gucken muss. Also wenn ich wie ein Bild anschauer
und ein Video und überprüfen soll, ob das ein Deepfack ist oder nicht.
Dann gucke ich gar nicht auf das Gesicht, weil ich weiß, wenn das ausgetauscht ist,
sehe ich da so, also nicht viel, sondern ich gucke gleich mal so am Rand vom Gesicht entlang.
Das hilft dann meistens schon. Und ich glaube einfach besser zu verstehen,
wie die Pfacks funktionieren, was Deepfacks machen, ist schon der allererste Schritt.
Und dann vielleicht noch angewöhnen, bilden auch mal auf was anderen wie im Smartphone anzuschauen.
Also auch eine persönliche Erfahrung, Smartphone Bildschirm, hat zwar eine tolle Auflösung und tolle Farben,
aber dadurch, dass das Display dann noch meistens sehr klein ist, sieht man manche Details nicht so gut,
wie man sehr auf einem guten Monitor sehen kann.
Also ich hatte die persönliche Erfahrung, dass mir mal ein Fernseh-Team auch ein Deepfake gezeigt hat, den Sie gemacht haben.
Das habe ich mir dann immer nur auf meinem Laptop angeschaut und hätte gesagt, eine Superfälschung.
und als ich das auf einem guten großen Monitor gesehen habe,
ich sehe hier sieht man schon, dass der Gesichtbereich noch eine rötlicherer Hautfarbe hat
als der Rest vom Körper und so.
Das sieht man aber eben dann nur mit einer entsprechenden Auflösung
und idealerweise mit einem guten kalibrierten Monitor.
Vielen Dank, Martin.
Das waren jetzt ganz schön viele Infos zu Deepfakes.
Ja, ich finde schon ein bisschen unheimlich.
Vor allem, wenn man sich überlegt, dass das immer einfacher wird.
So was zu produzieren, meine ich.
Ich glaube, ich guck ab sofort immer ganz genau hin,
bei Videos aus dem Internet.
Kann ja immer sein, dass das nicht echt ist.
Ich auch.
Und vor allem guck ich ab sofort immer auf den H-Ansatz.
Ja, wieder was gelernt.
Die Pfake gefälschte Videos und Bilder.
Wir haben das gecheckt.
*Musik*
[Musik]
*Klingel*