WEBVTT

00:00:00.000 --> 00:00:06.000
Hi, irgendwie ist Montag immer der schlimmste Tag in der Schule.


00:00:06.000 --> 00:00:10.000
Stimmt. Vor allem nach dem geilen Wochenende und der Aufregung im Klassen tört.


00:00:10.000 --> 00:00:12.000
Was war denn los?


00:00:12.000 --> 00:00:17.000
Kannst du dir nicht vorstellen. In dem Chat wurde ein Video gepostet, das war ultra fanny.


00:00:17.000 --> 00:00:19.000
Wieso? Komm, erzähl!


00:00:19.000 --> 00:00:24.000
Schau mal auf dem Video sieht man einen Hund mit dem Gesicht eines Mädchens aus meiner Klasse.


00:00:24.000 --> 00:00:29.000
Absolut witzig. Ich hab so gelacht, als der Hund dann an die Laterne gepinkelt hat.


00:00:29.000 --> 00:00:31.000
Hier guck sie selbst an.


00:00:31.000 --> 00:00:34.000
Hey! Wie geht denn das?


00:00:34.000 --> 00:00:35.000
Es sieht voll echt aus.


00:00:35.000 --> 00:00:37.000
Was hat denn das Mädchen dazu gesagt?


00:00:37.000 --> 00:00:42.000
Die hat sich tierig aufgeregt und die Eltern von ihr sind heute in der Schule um mit der Lehrer zu sprechen.


00:00:42.000 --> 00:00:44.000
Die sagen, dass es Mobbing.


00:00:44.000 --> 00:00:45.000
Kann ich voll verstehen.


00:00:45.000 --> 00:00:49.000
Nach dem Video musste ich erst mal wieder in die Schule trauen.


00:00:49.000 --> 00:00:52.000
Ich finde es voll krass, wie echt das aussieht.


00:00:52.000 --> 00:00:54.000
Man denkt wirklich, dass das real ist.


00:00:54.000 --> 00:00:56.000
Aber wie macht man solche Videos?


00:00:56.000 --> 00:01:04.200
Videos. Das ist so eine Deepfake Technologie. Deepfake? Man lebst so entharmont. Deepfake wird doch überall


00:01:04.200 --> 00:01:10.680
eingesetzt. In Filmen bei Fotos überall. Komm, du bist doch genauso los, die ich. Oder hast du


00:01:10.680 --> 00:01:16.080
gecheckt, wie das läuft und was man da alles mitmachen kann. Okay, entspann dich. Hast ja recht.


00:01:16.080 --> 00:01:21.320
Vor allem sieht das so echt aus, dass man gar nicht mehr unterscheiden kann, ob es real ist.


00:01:21.320 --> 00:01:26.080
Woher soll man denn noch wissen, ob ein Video oder ein Bild gefägt ist?


00:01:26.080 --> 00:01:28.920
Das klingt doch nach einem Fall für die Digital-Dedektive.


00:01:28.920 --> 00:01:31.880
Die Pfeig gefälschte Videos und Bilder.


00:01:31.880 --> 00:01:34.000
Die Digital-Dedektive.


00:01:34.000 --> 00:01:36.000
Wir checken das.


00:01:36.000 --> 00:01:40.760
Schlaufragen und verständliche Antworten zur Digital-Team.


00:01:40.760 --> 00:01:43.600
Der Podcast ist bereichs der hessischen Ministerin


00:01:43.600 --> 00:01:45.800
für Digitalestrategie und Entwicklung.


00:01:45.800 --> 00:01:50.440
Hallo Martin, wir haben ja gesagt, wir dutschen uns.


00:01:50.440 --> 00:01:56.560
Ja, gut, meiner aus Martin Steinbeach. Ich bin Wissenschaftler und ich leite am Fraunhofer


00:01:56.560 --> 00:02:01.960
SCT. Eine Abteilung zum Thema Multimedia-Sicherheit und IT-Vorrensik. Das heißt, ich


00:02:01.960 --> 00:02:08.720
Forscher eben zu fragen, wie werden Medien gefälscht, wie kann man Fälschungen aufdecken,


00:02:08.720 --> 00:02:15.320
aber auch Fragen, wie man zum Beispiel im Internet nach Desinformationen suchen kann oder


00:02:15.320 --> 00:02:19.640
ähnliches. Was ist die überhaupt ein Deep Fake? Das ist auch eine ziemlich gute Frage,


00:02:19.640 --> 00:02:25.700
man gar nicht so leicht beantworten kann. Also wir können uns erstmal Wort betrachten. Deepfake ist


00:02:25.700 --> 00:02:31.500
zusammengesetzt aus Deep und Fake, wobei Deep für Deep Learning steht. Das ist eine Variante des


00:02:31.500 --> 00:02:40.020
maschinen Lerns, bei der mit ziemlich komplizierten Netzen gelernt wird, wie Inhalte dargestellt sind.


00:02:40.020 --> 00:02:47.180
Und Fake ist dann der englische Begriff für eine Felschung. Das heißt man sagt erstmal Deepfakes sind


00:02:47.180 --> 00:02:54.860
Und dann, wenn man Deep Learning zum Felschen von Inhalten einsetzt und der klassische Deepfake,


00:02:54.860 --> 00:03:01.220
was sich jeder drunter vorstellt, ist eigentlich das Felschen von einem Video, dadurch,


00:03:01.220 --> 00:03:07.580
dass man in einem Video den Kopf von der gezeigten Person mit einer anderen Person austauscht.


00:03:07.580 --> 00:03:12.100
In der Zwischenzeit gibt es aber ganz viele andere Varianten von Deepfakes.


00:03:12.100 --> 00:03:18.100
Man kann Töne fälschen, man kann sogar Texte mit Deepfakes neu erstellen.


00:03:18.100 --> 00:03:24.100
Und es gibt in der Zwischenzeit auch Varianten, bei denen man wirklich einfach nur ein Text vorgibt.


00:03:24.100 --> 00:03:27.100
Dann wird ein neues Bild gezeigt, dass es vorher nicht gegeben hat.


00:03:27.100 --> 00:03:29.100
Das fällt alles auch in dem Bereich.


00:03:29.100 --> 00:03:31.100
Warum sind Deepfakes gefährlich?


00:03:31.100 --> 00:03:36.100
Ja, Deepfakes selbst sind erst mal nicht gefährlich.


00:03:36.100 --> 00:03:43.540
Das sind letztendlich Bilder oder Töne. Die Frage ist immer, was macht man damit? Man kann damit


00:03:43.540 --> 00:03:51.460
sehr schöne Sachen machen. Man kann beispielsweise in einem Film einen Schauspieler austauschen,


00:03:51.460 --> 00:03:56.340
wenn man zum Beispiel noch eine Jugendzehne von einem sehr alten Schauspieler treten möchte,


00:03:56.340 --> 00:04:01.860
dann nimmt man vielleicht aus älteren Filmen das Gesicht von ihm und setzt irgendwo ein und dann


00:04:01.860 --> 00:04:07.620
sieht das aus, ob er dies zehn auch getretet hat. Man kann aber genauso Deepfakes einsetzen,


00:04:07.620 --> 00:04:13.700
um Desinformation zu befeuern, dass man also einen Politiker was sagen lässt, was er so nie


00:04:13.700 --> 00:04:19.940
gesagt hat oder man kann es auch zum Mobbing einsetzen, indem man dann halt eben das Bild von einem


00:04:19.940 --> 00:04:25.140
Klassenkammerat in irgendeinen Video einsetzt, indem er voran nie teilgenommen hat.


00:04:25.140 --> 00:04:28.940
Das klingt ja echt schlimm. Was machen den Verbrecher mit Deepfakes?


00:04:28.940 --> 00:04:35.180
Der große Vorteil von Deepfakes für Verbrecher ist halt, dass sie Dinge erzeugen können,


00:04:35.180 --> 00:04:36.700
die es so nie gegeben hat.


00:04:36.700 --> 00:04:44.380
Sie können also, wenn Sie jetzt so tun wollen, als ob ein Präsident etwas gesagt hat, was er


00:04:44.380 --> 00:04:48.180
vorhin nie so gesagt hätte, einfach ihm das in dem Mund legen.


00:04:48.180 --> 00:04:52.020
Da gibt es alle möglichen verschiedenen Varianten, wie man es mit Deepfakes erreichen kann,


00:04:52.020 --> 00:04:58.660
aber man kann halt einfach Videos erzeugen, die lügen sehr glaubhaft da stehen lassen.


00:04:58.660 --> 00:05:05.440
Verbrecher können aber auch dadurch, dass sie jetzt mit Deepfix sich das Gesicht und die Stimme


00:05:05.440 --> 00:05:11.820
von jemand anderen quasi überstülten können. Zum Beispiel über ein Video anruf so tun,


00:05:11.820 --> 00:05:17.780
als ob sie der Enkel von der Großmutter wäre und der sagt ich bin jetzt hier im Ausland,


00:05:17.780 --> 00:05:21.700
ich hatte ein Autounfall, ich brauche dringend Geld. Ein Kumpelkampf vorbei,


00:05:21.700 --> 00:05:28.700
gibt den einfach mal 5.000 Euro und das glaubt die ohma dann wahrscheinlich noch viel mehr als


00:05:28.700 --> 00:05:34.700
dass es früher bei den Enkelgetricks mit einem Telefon war und was verbrechern natürlich auch


00:05:34.700 --> 00:05:40.460
machen können und kriminelle ist dann hergehen und Fotos zu fälschen und Personen zu


00:05:40.460 --> 00:05:45.460
erpressen also wenn es mit den politiker videos so ist das mit ihnen außen gibt weil man dadurch


00:05:45.460 --> 00:05:50.700
die Bevölkerung verunsichern möchte kann man natürlich genauso sagen bei einer Privatperson


00:05:50.700 --> 00:05:55.860
interessiert das wahrscheinlich in Großteil der Bevölkerung gar nicht. Aber in ihrem Freundeskreis würde


00:05:55.860 --> 00:06:00.820
ihr sagen, ich möchte nicht, dass ich auf einem Foto nackt zu sehen bin oder ich möchte nicht,


00:06:00.820 --> 00:06:07.140
dass ich auf einem Foto und Hund trete oder was auch immer. Und wenn ich dann also ein Foto erzeugen


00:06:07.140 --> 00:06:12.580
kann, kann ich natürlich der Person e-Mail schaue und sagen, "Gibt mehr Geld?" oder ich verteile das


00:06:12.580 --> 00:06:19.260
in einer WhatsApp-Gruppe oder was auch immer. Also gibt es sehr viele Dinge, die verbrecher damit tun


00:06:19.260 --> 00:06:24.940
und für was werden Deepfix an sonststen verwendet? Kann ich damit auch gutes anstellen?


00:06:24.940 --> 00:06:32.260
Deepfix werden für wirklich sehr viele verschiedene Varianten verwendet. Also wenn man


00:06:32.260 --> 00:06:39.220
mal mit den Risiko-Reichen Sachen anfängt, dann würde ich sagen, es sind politische


00:06:39.220 --> 00:06:44.100
der Zinformationskampagne. Wir haben also jetzt im Okraine-Krieg zum Beispiel Videos


00:06:44.100 --> 00:06:51.820
von Zelenske, also auch von Putin gefälscht bekommen. Wir sehen auch, dass in Betrugsmaschen


00:06:51.820 --> 00:06:56.940
Deepflex eingesetzt werden, dann ruft jemand mit der Stimme von einem Firmenleiter


00:06:56.940 --> 00:07:02.900
irgendwo an und sagt, man soll Geld überweisen und das hat aber der Firmenchefinie gesagt,


00:07:02.900 --> 00:07:07.620
sondern das hat jemand gefälscht und dann wird das Geld aber doch überwiesen und verschwindet


00:07:07.620 --> 00:07:14.280
dann es gibt Mobbing und Erpressungsfälle, in dem man beispielsweise Personen von denen man


00:07:14.280 --> 00:07:19.360
nur ein Porträt hat, in irgendwelche Bilder eingesetzt werden, die dann komprimentieren


00:07:19.360 --> 00:07:23.520
sind, bei dem man sagt, das möchte ich aber nicht das mein Foto, mein Gesicht in so einem


00:07:23.520 --> 00:07:28.380
Foto erscheint und dann bezahlt man vielleicht lieber Geld, wo man wird halt eben gehenselt,


00:07:28.380 --> 00:07:34.040
weil das Foto verteilt wird. Es gibt aber auch eine ganze Reihe von guten Anwendungen.


00:07:34.040 --> 00:07:39.560
Also, im vielen Filmstudios werden heute total die Pfex eingesetzt und zum Beispiel


00:07:39.560 --> 00:07:46.280
Zähnen von einem Dubel mit dem Gesicht von dem Schausteller dann wieder zu ersetzen,


00:07:46.280 --> 00:07:52.820
sodass die Zähnen besser aussehen oder man hat Jugendsten, die man noch wiederherstellen


00:07:52.820 --> 00:07:55.240
kann, indem man damit ein Dubel arbeitet.


00:07:55.240 --> 00:07:58.840
Es gibt auch schon Musikvideos, die mit die Pfex arbeiten.


00:07:58.840 --> 00:08:04.920
Und es gibt eine Variante, das geht dann so in Baharbeiten von Videos rein.


00:08:04.920 --> 00:08:08.200
Da kann man, wenn man sich in einem Video an einer Stelle verspricht.


00:08:08.200 --> 00:08:11.640
D.h. ich dann einfach den Versprecher korrigieren.


00:08:11.640 --> 00:08:14.520
Wenn man also ein falsches Wort gesagt hat, klickt man auf das Wort.


00:08:14.520 --> 00:08:16.040
Tipp das richtige Wort ein.


00:08:16.040 --> 00:08:19.920
Das Programm lernt wie die Stimme und die Aussprache ist.


00:08:19.920 --> 00:08:22.920
Und erzeugt das richtige Wort dann mit der richtigen Stimme.


00:08:22.920 --> 00:08:28.040
Und dann muss man halt nicht alles neu einsprechen, sondern kann das Video wie ein Text bearbeiten.


00:08:28.040 --> 00:08:36.040
Und es gibt Deepfellkmethoden, die werden dazu eingesetzt, dass Videokonferenzen besser funktionieren.


00:08:36.040 --> 00:08:43.040
Wenn man Videokonferenzen häufig irgendwo eine Stelle schaut, die nicht die Augen vom Gegenüber sind.


00:08:43.040 --> 00:08:45.040
Und das wirkt auf dauer ziemlich komisch.


00:08:45.040 --> 00:08:49.040
Weil man ja meistens entweder auf seinen Bildschirm oder in die Kamera schaut.


00:08:49.040 --> 00:08:51.040
Aber das Gegenüber sieht mir eigentlich nicht.


00:08:51.040 --> 00:08:56.040
Und gibt es eben Deepfellkmethoden, mit dem man quasi das Gesicht so anpassen kann,


00:08:56.040 --> 00:09:00.720
dass es dann doch immer so aussieht, dass man den gegenüber anschaut und das ist natürlich viel


00:09:00.720 --> 00:09:08.600
angenehmer beim Video. Kann ich auch einen Deepfake erstellen? Ja, also ein Deepfake kann man eigentlich


00:09:08.600 --> 00:09:13.840
erstellen, sobald man einen Computer hat, der auch für aktuelle Computerspiele geeignet hat.


00:09:13.840 --> 00:09:20.600
Also jeder Spiele PC, der eine aktuelle Grafikkarte hat, ist eigentlich leistungsfähig genug, um einen


00:09:20.600 --> 00:09:26.560
Die Pfekz zu erstellen. Man muss aber schon sagen die Herausforderung bei der


00:09:26.560 --> 00:09:32.240
Erstellung von Die Pfekz ist dann eigentlich eher, dass man geeignetes Material hat


00:09:32.240 --> 00:09:36.240
und auch das Bild, das man dann einbringen möchte, passend aussieht.


00:09:36.240 --> 00:09:42.400
Ich sage immer, wenn man jetzt von dem Politiker nur Bilder hat, die aus einem


00:09:42.400 --> 00:09:49.600
Fernsehstudio stammen und man dann dem Politiker irgendwo in der Strandzehne rein kopieren möchte,


00:09:49.600 --> 00:09:55.520
Dann hat man dann eine ganz andere Beleuchtung, der Politiker ist da meistens geschminkt.


00:09:55.520 --> 00:09:59.400
Am Strand ist man dann natürlicher, hat vielleicht nach so hare und ähnliches.


00:09:59.400 --> 00:10:04.400
Und all das Kindersprogramm halt alles von dem Politiker nicht, weil mehr er nur diese Stuteaufnahmen hat.


00:10:04.400 --> 00:10:11.400
Und deshalb kann er so eine Strandstehende dann schlechter stellen, während er eine Stuteaufnahme sehr gut darstellen könnte.


00:10:11.400 --> 00:10:17.800
Und wenn ich dann also selbst ein Deepfake erstellen möchte, dann muss ich halt gucken,


00:10:17.800 --> 00:10:22.440
welches Video möchte ich den verändern und wenn ich dann zum Beispiel mir den Spaß mache zu sagen


00:10:22.440 --> 00:10:28.080
ich nehme jetzt die Tageschau und schneide dann quasi das Gesicht vom Sprecher aus und


00:10:28.080 --> 00:10:32.440
er setzt das mit meinem Gesicht dann sollte ich mich halt nach Möglichkeit auch in ähnlichen


00:10:32.440 --> 00:10:37.040
Raum stellen und eine ähnliche Beleuchtung machen und vielleicht auch irgendwie meine Haare so


00:10:37.040 --> 00:10:42.240
kämen wie der das hat und wenn der eine Brille aufhat auch eine Brille aufsetzen und wenn der im


00:10:42.240 --> 00:10:47.600
Bart hat mir dann vielleicht auch ein Bart ankleben oder anmeilen. Also so nah wie möglich an


00:10:47.600 --> 00:10:51.840
das andere Bild rankommen um so leichter hat der Computer das auch zu ersetzen. Also das ist


00:10:51.840 --> 00:10:55.840
so das Wichtige, dass man wissen muss, dass es nicht nur um Rechen leisten geht sondern die


00:10:55.840 --> 00:11:01.560
Bilder müssen auch einigermaßen zusammenpassen. Ist es denn strafbar, Deepfix zu erstellen und zum


00:11:01.560 --> 00:11:06.960
Beispiel mit einem Messen ja zu verschicken? Nein also die Deepfix selbst sind nicht strafbar.


00:11:06.960 --> 00:11:10.520
Ich muss natürlich dazu sagen, dass ich kein Jurist bin. Ich bin kein Rechtsanwalt, sondern


00:11:10.520 --> 00:11:17.360
IT-Forscher, aber nach meinem Verständnis ist die Technologie selbst nicht verboten, genauso wie


00:11:17.360 --> 00:11:22.520
Photoshop ja auch nicht verboten ist. Es kommt halt immer drauf an, was man damit macht. Es ist


00:11:22.520 --> 00:11:26.920
natürlich strafbar, wenn man damit anfängt jemand zu erpressen oder wenn man Mobbing macht oder


00:11:26.920 --> 00:11:33.280
ähnlich ist, aber es ist nicht strafbar die Technologie einzusetzen, also wenn man irgendwie sich den


00:11:33.280 --> 00:11:38.600
Spaß macht, auf den Körper von dem eigenen Hund dann irgendwie das Foto von der Katze zu setzen


00:11:38.600 --> 00:11:42.600
und dann ist das ein lustiges Bild, auch Deepfig aber gar kein Problem.


00:11:42.600 --> 00:11:46.600
Okay, was brauche ich immer ein Deepfig zu erstellen, um wie funktioniert das genau?


00:11:46.600 --> 00:11:51.600
Also ich brauche zum einen einen geeigneten Computer,


00:11:51.600 --> 00:11:54.600
das ist ein Spiele-Computer mit einer guten Grafikart,


00:11:54.600 --> 00:11:59.600
also wenn man aktuelles Spiel spielen kann, kann man damit eigentlich auch Deepfig zu erstellen.


00:11:59.600 --> 00:12:03.600
Dann brauche ich das Video, das ich verändern möchte,


00:12:03.600 --> 00:12:06.600
wenn ich jetzt so einen klassischen Deepfiger stelle.


00:12:06.600 --> 00:12:12.880
Also ich habe ein Video und da sollen andere Gesicht rein und dann brauche ich von dem Gesicht,


00:12:12.880 --> 00:12:15.600
dass da rein sollen, möglichst viele Aufnahmen.


00:12:15.600 --> 00:12:20.760
Also früher hatten man da 10.000 gebraucht und dazwischenzeits ist mal vielleicht bei 100


00:12:20.760 --> 00:12:23.160
und irgendwann ist man auch bei beeinzelnen.


00:12:23.160 --> 00:12:29.240
Und mit diesen Aufnahmen lernt der Computer dann wieder das Gesicht aus sieht.


00:12:29.240 --> 00:12:35.000
Also was der Computer eigentlich macht, ist der schaut sich in dem Video an, wie guckt


00:12:35.000 --> 00:12:55.000
die Person gerade, dann nimmt der quasi diese Beschreibung aus welchem Winkel sehe ich die Person gerade, was für ein Gesichtsausdruck hat die Person gerade, und dann hat der aus den ganzen Bildern von der personen, die ich ersetzen will, gelernt wie die Person, wenn sie gerade den Gesichtsausdruck hat aussieht.


00:12:55.000 --> 00:13:24.000
Und dann greift der quasi auf das richtige Referenzbild auf den richtigen Gesichtsausdruck zurück und erzeugt ein neues Gesicht von der zu ersetzenden Person, die halt den gleichen Gesichtsausdruck mit der gleichen Kopfhaltung hat und legt dann dieses neu berechnete Gesicht über das Bild von der anderen Person drüber, das heißt, wie so eine Art Aufklebemaske, die der Computer erstellt, die ja dann auf das Video draufklebt.


00:13:24.000 --> 00:13:30.280
Okay, also heute braucht man nach schnellem Computer um wirklich gute und realistische


00:13:30.280 --> 00:13:31.480
die Pficks zu erstellen.


00:13:31.480 --> 00:13:33.520
Geht das bald auch schon mit dem Handy?


00:13:33.520 --> 00:13:38.920
Ich glaube da muss man unterscheiden, ob man jetzt sagt, das soll auf dem Handy selbst


00:13:38.920 --> 00:13:43.840
passieren oder man macht es über eine App, bei der dann die Rechenleistung irgendwo in


00:13:43.840 --> 00:13:44.840
der Cloud liegt.


00:13:44.840 --> 00:13:48.720
Das ist ja eigentlich das, was man typischerweise bei Handy Apps heute hat.


00:13:48.720 --> 00:13:53.960
Ja, das heißt also, ich würde mal sagen, ja, das geht und das geht auch heute


00:13:53.960 --> 00:13:59.720
schon. Also es gibt auch Apps, die Deepfakes nutzen. Gibt es glaube ich irgendwelche also jahretischen


00:13:59.720 --> 00:14:04.840
Apps, bei dem man zum Beispiel sich in beliebte Musikvideos rein kopieren kann. Dann nimmt man


00:14:04.840 --> 00:14:09.200
einfach ein Foto von sich und dann ist man in dem Musikvideo von dem Künstler und dann ist eben


00:14:09.200 --> 00:14:14.200
das Video schon ganz ausführlich vorberechnet worden und setzt dann nur noch das andere Gesicht


00:14:14.200 --> 00:14:20.000
rein. Und das geht problemlos auf dem Handy, aber das Handy selbst berechnet das Ganze nicht,


00:14:20.000 --> 00:14:27.260
sondern das ist dann quasi nur die Fernbedienung für den Computer in der Cloud und ja ansonsten


00:14:27.260 --> 00:14:33.840
nicht man auch bei den Handelst, bei den Smartphones wird man irgendwann genug Rechenleistung haben,


00:14:33.840 --> 00:14:39.280
dass man einfache Deepfakes auch da direkt drauf erstellen kann, wenn man das wirklich möchte.


00:14:39.280 --> 00:14:45.320
Aber ich würde sagen, da ist man schon noch ziemlich weit weg, weil das viel Speicherplatz


00:14:45.320 --> 00:14:47.320
und viel Rechenleistung braucht.


00:14:47.320 --> 00:14:51.120
So wie du das erklärt hast, vertauschen die Pfex auf Gesichter.


00:14:51.120 --> 00:14:53.120
Geht es denn auch mit der Stimme?


00:14:53.120 --> 00:14:55.120
Das kann man auch mit der Stimme machen.


00:14:55.120 --> 00:14:59.320
Es gibt also auch Programme, mit denen man Tonaufnahmen vor spielen kann.


00:14:59.320 --> 00:15:03.320
Und dann lernen die, wie die Stimme von der Person klingt.


00:15:03.320 --> 00:15:04.820
Und dann kann man Textstippen.


00:15:04.820 --> 00:15:08.320
Und der Text wird dann quasi in der Stimme von der Person gesagt.


00:15:08.320 --> 00:15:12.320
Das ist auch ein Feld, das sich weiterentwickelt.


00:15:12.320 --> 00:15:17.080
lang vor einer Weile noch ziemlich hölzern, aber das war auch mit anderen Computer-Stimmen


00:15:17.080 --> 00:15:22.320
immer so, dass die am Anfang sehr monoton wie so alter Roboter geklungen haben.


00:15:22.320 --> 00:15:27.940
Und als Zwischenzeit kennt man sehr von den ganzen Smart devices und so, dass die Stimmen


00:15:27.940 --> 00:15:29.320
schon sehr angenehm klingen.


00:15:29.320 --> 00:15:34.080
Von daher bin ich überzeugt, dass man auch Stimmdipfakes bald sehr gut hinbekommen wird.


00:15:34.080 --> 00:15:37.960
Wie kann ich dir eine Kennt, ob in einem Video ein Deepfake verwendet wurde?


00:15:37.960 --> 00:15:42.960
Das kommt dann ein bisschen drauf an, wie so die individuellen Möglichkeiten sind.


00:15:42.960 --> 00:15:49.960
Die Pfakes sind selten perfekt. Das bedeutet also, wenn ich jetzt wirklich einfach nur das Video habe


00:15:49.960 --> 00:15:56.960
und mir das anschau kann man eben drauf achten, passt überhaupt so die Röse vom Gesicht zum Kopf,


00:15:56.960 --> 00:16:03.960
weil wenn man nicht die identische Kopfform von dem Ziel und der Quelle hat, also das was ausgetauscht wird,


00:16:03.960 --> 00:16:10.120
tauscht wird, dann ist es natürlich so, dass der Computer ja ein schmales Gesicht auf vielleicht


00:16:10.120 --> 00:16:16.360
einem breiten Kopf setzen muss und dann sieht das Ganze verzerrt aus. Also wenn man irgendwie


00:16:16.360 --> 00:16:22.920
eine Spale also nimmt und dann eine breite Person drauf kopiert, irgendwie muss das Gesicht auf


00:16:22.920 --> 00:16:28.840
dem Kopf gelegt werden. Das heißt also da kann man schon ganz häufig Unterschiede erkennen.


00:16:28.840 --> 00:16:33.640
Man muss aber natürlich dann die Person auch gut kennen. Also wenn das von mir ist, ich


00:16:33.640 --> 00:16:39.200
selbst kenn meinen Gesicht natürlich ziemlich gut und würde ich das sofort sehen. Aber wenn eben


00:16:39.200 --> 00:16:44.280
das nicht der Fall ist, wenn die Kopf größer passt, dann wird es schon schwieriger. Dann kann man


00:16:44.280 --> 00:16:48.480
schauen, ob der Computer vielleicht hin und wieder mal ein Fehler macht. Also dann würde ich sagen,


00:16:48.480 --> 00:16:53.880
man achtet hauptsächlich darauf, wenn man sich mal zur Seite dreht oder wenn man irgendwie ein


00:16:53.880 --> 00:17:00.840
ein untypische Kremass oder sowas macht, weil der Computer da weniger Referenzen hat und dadurch


00:17:00.840 --> 00:17:07.240
eher malen Fehler macht. Und interessant ist es auch darauf zu achten, wie so der Übergang


00:17:07.240 --> 00:17:13.280
von der Stürren zum H ansatz aussieht, weil diese Deepfakes kopieren ja das Gesicht auf das


00:17:13.280 --> 00:17:18.920
existierende Bild drauf und irgendwo fängt der das Originalbild an und das kopierte Gesicht


00:17:18.920 --> 00:17:24.280
wird auf und oft ist es so, dass man da noch so eine kleine Naht erkennen kann, weil so die Hautfarbe


00:17:24.280 --> 00:17:28.960
nicht ganz identisch ist. Aber der darf man sich natürlich auch nicht drauf verlassen. So muss klar


00:17:28.960 --> 00:17:33.440
sein, die Technik wird auch immer besser und irgendwann wird man so etwas vielleicht nicht mehr erkennen


00:17:33.440 --> 00:17:39.560
können. Das ist jetzt das, wenn ich jetzt einfach nur das Video anschau. Was man dann macht,


00:17:39.560 --> 00:17:44.240
wenn man ein bisschen recherchieren kann, dann kann man schauen, finde ich vielleicht das


00:17:44.240 --> 00:17:50.120
Originalvideo. Also das haben wir bei diesen politiker Videos zum Beispiel häufig, dass dann


00:17:50.120 --> 00:17:56.640
ein Politiker in irgendeinem Rede hält, die gefälscht ist und dann finden Leute aber die alte


00:17:56.640 --> 00:18:02.000
Videoaufnahme von der Rede und der Politiker bewegt zum Beispiel seine Hände in beiden Videos


00:18:02.000 --> 00:18:07.400
absolut identisch. Und dann weiß man, okay das kann kein Zufall sein, das es kopiert, dann kann ich


00:18:07.400 --> 00:18:11.680
damit nachweisen, dass es ein Deepweg, das heißt ich muss letztendlich in der Art in


00:18:11.680 --> 00:18:16.480
wir herse Videos suche machen. Manche Leute kennen dann eben auch ganz viele Videos schon gut,


00:18:16.480 --> 00:18:19.800
weil sich viel mit Politik beschäftigen und erkennen das vielleicht auf den ersten Blick,


00:18:19.800 --> 00:18:24.000
wo das herstand, sonst gibt es da aber auch Computerprogramme, mit dem man das machen kann.


00:18:24.000 --> 00:18:30.000
Und was wir halt machen, das ist dann wirklich so die forensische Untersuchung. Wir gucken uns dann


00:18:30.000 --> 00:18:36.400
so ein Video ganz genau an, lassen mit unserem Programm statistischer Eigenschaften berechnen,


00:18:36.400 --> 00:18:43.880
sehen dann zum Beispiel, dass ein Video ein Bereich hat, den Bereich von dem gefälschten Gesicht,


00:18:43.880 --> 00:18:49.360
der vielleicht ein bisschen vergrößert wurde, der vielleicht von einer anderen Kamera aufgenommen


00:18:49.360 --> 00:18:55.680
wurde als der Rest vom Bild und dieser Vergleich, der hilft dann dabei, Deepfakes auch technisch zu erkennen.


00:18:55.680 --> 00:18:58.800
Kannst du als Experte denn Deepfakes immer erkennen?


00:18:58.800 --> 00:19:03.280
Das ist eine spannende Frage, weil, woher weiß ich, ob ich sie immer erkannt habe?


00:19:03.280 --> 00:19:07.520
Ja, ich mein, wenn ich sie nicht erkennen und ich ein Video hab und es sind diebfärgend,


00:19:07.520 --> 00:19:10.760
die sagt nein, wird mir ja niemand sagen, doch doch, das ist eine.


00:19:10.760 --> 00:19:14.600
Aber ich würde mal sagen, bis jetzt haben wir alle gut erkennen können.


00:19:14.600 --> 00:19:19.320
Aber ich würde jetzt auch nicht behaupten, dass ich die immer sofort auf dem ersten Blick


00:19:19.320 --> 00:19:24.280
erkenne, sondern muss ich dann schon hinsetzen, muss ich die einzelnen Bilder von dem Video


00:19:24.280 --> 00:19:27.440
anschauen und dann gibt es meistens doch hinweise.


00:19:27.440 --> 00:19:30.360
Wie kann ich mich denn selbst vor diebfärg schützen?


00:19:30.360 --> 00:19:34.200
Also wenn ich nicht will, dass von mir da irgendwas verändert wird.


00:19:34.200 --> 00:19:36.640
Ja, das ist eine sehr spannende Frage.


00:19:36.640 --> 00:19:40.360
Also letztendlich hat man früher gesagt,


00:19:40.360 --> 00:19:44.400
möglichst wenig Inhalte von sich selbst im Netz verteilen,


00:19:44.400 --> 00:19:50.000
weil die Deepfake-Verfahren ja viel Material zum Lernen brauchten.


00:19:50.000 --> 00:19:52.200
Also die ursprünglichen Systeme.


00:19:52.200 --> 00:19:55.880
In der Zwischenzeit gibt es aber schon erste Deepfakes,


00:19:55.880 --> 00:20:00.520
die tatsächlich mit einem einzelnen Porträtfoto auch schon mimik erzeugen.


00:20:00.520 --> 00:20:05.680
Das sieht noch nicht so gut aus wie bei meinem Film Material hat, aber es geht und man wird sehen,


00:20:05.680 --> 00:20:11.400
wie sich die Technik da noch weiter entwickelt. Von daher ist so das Schützen davor,


00:20:11.400 --> 00:20:17.480
dass jemand ein Deepfig von mir macht wirklich schwer, weil das eigentlich bedeutet,


00:20:17.480 --> 00:20:22.600
dass ich verhindern müsste, dass andere Leute Fotos vor mir haben und das wird wahrscheinlich


00:20:22.600 --> 00:20:28.700
nicht machbar sein. Wahrscheinlich muss man sich eher ja wappnen und gut verstehen,


00:20:28.700 --> 00:20:34.980
wie Deepfix funktionieren, damit wenn so etwas passiert, wenn man dann durch ein Deepfix


00:20:34.980 --> 00:20:39.940
beispielsweise gemobbt wird, dass man dann halt sehr schnell sagen kann. Das ist doch


00:20:39.940 --> 00:20:44.620
eine Fälschung, guck mal da, da siehst du auch schon hier die Kante und guck mal,


00:20:44.620 --> 00:20:49.820
dass es doch viel breiter als mein Gesicht oder ähnliches ist, aber von daher verstehen


00:20:49.820 --> 00:20:54.660
und dagegen argumentieren können, es realistisch als ich wirklich davon zu schützen.


00:20:54.660 --> 00:21:00.660
Ja, man sollte halt auch nicht einfach nach Deepfake in Google oder ähnlichen suchen


00:21:00.660 --> 00:21:05.100
und blind auf alles klicken, weil dann kann man durchaus auch ein sehr hässliche Bereiche


00:21:05.100 --> 00:21:06.260
des Internets reinkommen.


00:21:06.260 --> 00:21:11.420
Nimm die Politik die Betrohung denn ernst und geht dagegen vor?


00:21:11.420 --> 00:21:15.020
Ja, also ich würde schon sagen, dass es ernst genommen wird.


00:21:15.020 --> 00:21:20.580
Wir haben ja selbst zum Beispiel auch vom Land Hessen Forschungsvorhaben,


00:21:20.580 --> 00:21:24.620
indem wir Deepfax erforschen und uns zum Beispiel auch anschauen,


00:21:24.620 --> 00:21:29.620
wie das mit der Echtzeitfähigkeit von Deepfax und Deepfalkerkennung ist,


00:21:29.620 --> 00:21:34.220
wie man sich da fortschützen kann, dass Deepfax verschleiert werden,


00:21:34.220 --> 00:21:37.740
dass man also dann technisch nicht mehr erkennen kann, dass es Deepfax gibt.


00:21:37.740 --> 00:21:43.220
Also da forschen wir auch für das Land Hessen dran und das suchen das.


00:21:43.820 --> 00:21:49.700
Und ja, auch sonst, also in den Universitäten wird viel zu dem Thema gemacht,


00:21:49.700 --> 00:21:54.580
auch in den hessischen Universitäten vielleicht sogar vor allem, in den hessischen Universitäten das.


00:21:54.580 --> 00:21:57.020
Dazu müsste ich die anderen besser kennen.


00:21:57.020 --> 00:22:03.980
Und ich habe auch davon gehört, dass man Beratungsstellen und Ähnliches hat, die halt eben dann es erlauben,


00:22:03.980 --> 00:22:10.460
Jugendlichen oder Eltern die Probleme mit Mobbing durch die Pfilkshaben da unterstützt zu werden.


00:22:10.460 --> 00:22:13.380
Ja, also ich denke schon, dass es ernst genommen wird, klar.


00:22:13.380 --> 00:22:17.860
Was gibt es denn überhaupt Möglichkeiten gegen Deepfakes vorzugehen?


00:22:17.860 --> 00:22:23.380
Ja, vorgehen bei Deepfakes ist ja keine so einfache Sache.


00:22:23.380 --> 00:22:28.700
Man kann ja tatsächlich nur gegen die missbräuchliche Verwendung von Deepfakes


00:22:28.700 --> 00:22:32.380
sorgern, weil Deepfakes selbst ja für alles möglich eingesetzt werden kann.


00:22:32.380 --> 00:22:39.140
Und die Politik sieht das Problem und fördert viele Projekte, die sich mit dem Thema


00:22:39.140 --> 00:22:43.620
Deepfakes beschäftigen, mit Deepfaker-Kennung beschäftigen und das auch interdisziplinär.


00:22:43.620 --> 00:22:49.700
Das heißt, das sind also nicht nur Computer-Experten, sondern auch Soziologen oder Psychologen


00:22:49.700 --> 00:22:54.340
und Medienwissenschaftler, die sich halt auch ganz verschieden im Perspektiven damit beschäftigen,


00:22:54.340 --> 00:23:01.540
wie man mit Deepfakes umgingen kann. Und natürlich gibt es eben auch Juristen, die sich dann


00:23:01.540 --> 00:23:07.620
Gedanken darüber machen, wie kriege ich denn eine rechtliche Hand habe, so dass ich natürlich


00:23:07.620 --> 00:23:12.260
zum einen nicht verhindern, dass man schöne Sachen mit Deepfakes macht, aber zum anderen,


00:23:12.260 --> 00:23:16.980
wenn sie illegal eingesetzt werden, man das auch entsprechend bestrafen kann.


00:23:16.980 --> 00:23:22.260
Und dann gibt es natürlich auch noch beauftragte Sputien, die dann veröffentlicht werden,


00:23:22.260 --> 00:23:28.340
dass jeder, der sich für das Thema interessiert, nachlesen kann, was so das Risiko von Deepfakes


00:23:28.340 --> 00:23:33.620
sind. Also das, was wir hier auch besprechen, da gibt es auch ganz viele Texte, in denen man das


00:23:33.620 --> 00:23:39.940
zu nachlesen könnte. Also wird einiges getan. Und reicht das, was gemacht wird?


00:23:39.940 --> 00:23:45.420
Wenn du ein wissenschaftler fragst, ob es ausreicht, dann wird er immer sagen, da muss man


00:23:45.420 --> 00:23:53.540
noch viel mehr dran forschen. Und ich glaube, das Problem ist eher, dass man noch nicht in der Lage ist,


00:23:53.540 --> 00:24:00.220
die Geschwindigkeit mit der sich die Deepfakes verändern, die mit den üblichen Projekten und


00:24:00.220 --> 00:24:06.900
Fördermethoden anzugehen. Das heißt also, ich sehe jetzt im Augenblick so alle halbe Jahre wirklich


00:24:06.900 --> 00:24:13.700
eine ganz große Veränderung im Bereich der Deepfakes. Wir waren Ende 2021 an dem Punkt,


00:24:13.700 --> 00:24:20.380
als es plötzlich möglich war, Deepfakes in Echtzeit zu verstellen. Wir waren jetzt Mitte 22 an dem


00:24:20.380 --> 00:24:25.100
Punkt, an dem man plötzlich Texte im Müt schmachen konnte. Also gar keine Videos mehr braucht oder keine


00:24:25.100 --> 00:24:30.540
Fotos, dann einfach sagen konnte. Ich möchte jetzt das und das Bild haben und dann erzeugte


00:24:30.540 --> 00:24:36.700
Computer, das einfach ein Förderprojekt dauernd halt lange bis man das genehmigt hat und bis man


00:24:36.700 --> 00:24:41.900
das dann umsetzt. Das heißt wahrscheinlich müsste man schauen, dass man das, was man tut,


00:24:41.900 --> 00:24:48.020
einfach noch schneller und man sagt dann immer Agile, also Flinke gewannter macht, als das,


00:24:48.020 --> 00:24:53.460
ich vielleicht jetzt noch der Fall ist. Insgesamt wissen ja erst wenige Leute überhaupt, dass so was


00:24:53.460 --> 00:24:56.900
Wie können wir denn andere auf Deepfakes aufmerksam machen?


00:24:56.900 --> 00:25:02.740
Gut, man kommt dann glaube ich immer darauf an, was die anderen so lesen oder schauen.


00:25:02.740 --> 00:25:08.100
Also ich glaube, dass andere aufmerksam machen, ist hauptsächlich eine Frage des Kanals.


00:25:08.100 --> 00:25:12.540
Man muss wahrscheinlich das richtige Medium finden und dem Kanal, dann Informationen bringe ich


00:25:12.540 --> 00:25:18.700
glaube, die Deepfakes selbst sind so spannend, dass wenn man die zeigt und wenn man erklärt,


00:25:18.700 --> 00:25:23.100
was so dahinter steht, das verstehen die Leute sehr schnell, weil es ja auch total


00:25:23.100 --> 00:25:28.600
intuitiv ist. Ich zeige ein Video von einem Schauspieler und dann kopiere ich


00:25:28.600 --> 00:25:32.340
mein Gesicht rein und dann lauf ich plötzlich in dem Film rum. Das versteht


00:25:32.340 --> 00:25:35.660
jeder sofort und dass das dann auch ein Risiko sein kann.


00:25:35.660 --> 00:25:41.720
Ich glaube auch, aber es ist halt die Frage, ob man dann zum Beispiel das auf


00:25:41.720 --> 00:25:45.780
entsprechenden Social Media Kanälen verbreiten muss oder ob man in Magazinen


00:25:45.780 --> 00:25:50.900
Berichte veröffentlichen muss oder ob es in irgendeinem Fernsehprogramm mal


00:25:50.900 --> 00:25:55.340
angebracht werden muss. Also das ist wirklich dann die Sache, wie erreichig


00:25:55.340 --> 00:25:58.460
wehen. Wie kann man denn die Fähigkeiten stärken,


00:25:58.460 --> 00:26:03.300
die Pfähkse zu erkennen? Die aller einfachste Antwort ist in dem man versteht,


00:26:03.300 --> 00:26:08.700
wie die Pfähkse funktionieren. Also wenn ich weiß, dass ein Deepfake nur das


00:26:08.700 --> 00:26:14.060
Gesicht ausschneidet und zum Beispiel häufig noch die Stürn so lässt, wie sie ist oder zumindest


00:26:14.060 --> 00:26:19.900
mal den Haaransatz, dann weiß ich ja auch, wo ich gucken muss. Also wenn ich wie ein Bild anschauer


00:26:19.900 --> 00:26:23.740
und ein Video und überprüfen soll, ob das ein Deepfack ist oder nicht.


00:26:23.740 --> 00:26:27.380
Dann gucke ich gar nicht auf das Gesicht, weil ich weiß, wenn das ausgetauscht ist,


00:26:27.380 --> 00:26:31.340
sehe ich da so, also nicht viel, sondern ich gucke gleich mal so am Rand vom Gesicht entlang.


00:26:31.340 --> 00:26:36.980
Das hilft dann meistens schon. Und ich glaube einfach besser zu verstehen,


00:26:36.980 --> 00:26:41.460
wie die Pfacks funktionieren, was Deepfacks machen, ist schon der allererste Schritt.


00:26:41.460 --> 00:26:48.540
Und dann vielleicht noch angewöhnen, bilden auch mal auf was anderen wie im Smartphone anzuschauen.


00:26:48.540 --> 00:26:54.340
Also auch eine persönliche Erfahrung, Smartphone Bildschirm, hat zwar eine tolle Auflösung und tolle Farben,


00:26:54.340 --> 00:26:59.780
aber dadurch, dass das Display dann noch meistens sehr klein ist, sieht man manche Details nicht so gut,


00:26:59.780 --> 00:27:02.260
wie man sehr auf einem guten Monitor sehen kann.


00:27:02.260 --> 00:27:09.380
Also ich hatte die persönliche Erfahrung, dass mir mal ein Fernseh-Team auch ein Deepfake gezeigt hat, den Sie gemacht haben.


00:27:09.380 --> 00:27:13.860
Das habe ich mir dann immer nur auf meinem Laptop angeschaut und hätte gesagt, eine Superfälschung.


00:27:13.860 --> 00:27:17.540
und als ich das auf einem guten großen Monitor gesehen habe,


00:27:17.540 --> 00:27:23.460
ich sehe hier sieht man schon, dass der Gesichtbereich noch eine rötlicherer Hautfarbe hat


00:27:23.460 --> 00:27:26.060
als der Rest vom Körper und so.


00:27:26.060 --> 00:27:30.060
Das sieht man aber eben dann nur mit einer entsprechenden Auflösung


00:27:30.060 --> 00:27:33.500
und idealerweise mit einem guten kalibrierten Monitor.


00:27:33.500 --> 00:27:34.900
Vielen Dank, Martin.


00:27:34.900 --> 00:27:42.660
Das waren jetzt ganz schön viele Infos zu Deepfakes.


00:27:42.660 --> 00:27:44.860
Ja, ich finde schon ein bisschen unheimlich.


00:27:44.860 --> 00:27:48.380
Vor allem, wenn man sich überlegt, dass das immer einfacher wird.


00:27:48.380 --> 00:27:50.260
So was zu produzieren, meine ich.


00:27:50.260 --> 00:27:53.260
Ich glaube, ich guck ab sofort immer ganz genau hin,


00:27:53.260 --> 00:27:54.660
bei Videos aus dem Internet.


00:27:54.660 --> 00:27:57.060
Kann ja immer sein, dass das nicht echt ist.


00:27:57.060 --> 00:27:58.060
Ich auch.


00:27:58.060 --> 00:28:01.660
Und vor allem guck ich ab sofort immer auf den H-Ansatz.


00:28:01.660 --> 00:28:03.860
Ja, wieder was gelernt.


00:28:03.860 --> 00:28:07.060
Die Pfake gefälschte Videos und Bilder.


00:28:07.060 --> 00:28:09.060
Wir haben das gecheckt.


00:28:09.060 --> 00:28:13.060
*Musik*


00:28:13.060 --> 00:28:15.060
[Musik]


00:28:15.060 --> 00:28:17.060
*Klingel*