Das Geschäft mit den Deepfakes
Der KI-Chatbot ChatGPT ist in aller Munde. Und das mit Recht, denn die Qualität, die dieses KI-Sprachmodell inzwischen erreichen kann, beeindruckt viele Menschen und rückt das Thema der künstlichen Intelligenz (KI) aktuell stark in den Vordergrund.
Nach nur zwei Monaten erreichte das Unternehmen OpenAI mit ChatGPT-3 die historische Marke von 100 Millionen Nutzer:innen weltweit. Damit handelt es sich um die am schnellsten in der Nutzung angewachsene Applikation der Geschichte – noch vor bekannten Namen wie Instagram, TikTok, Spotify oder Facebook. ChatGPT formuliert Antworten (meist) sehr treffend, versteht den Inhalt von Texten in einem erstaunlichen Ausmaß und ist auch in der Lage, selbstständig präzisen Code zu schreiben. Viele Berufe im Kreativbereich oder rund um Software-Development stehen wohl vor einem historischen Umschwung.
Doch bei aller Faszination für die Möglichkeiten von künstlicher Intelligenz bedeutet diese Entwicklung auch, dass bald schon große Probleme auf uns zukommen werden. Technologie ist eben nahezu immer ein zweischneidiges Schwert, und im Fall der künstlichen Intelligenz könnte dieses in vielen Bereichen recht tief einschneiden. Denn eine der kritischsten KI-Technologien, die gerade ebenso ein kritisches Niveau erreichen, sind sogenannte Deepfakes.
Die Zeit der Deepfakes bricht an
Unter Deepfakes – ein Kofferwort aus „Deep Learning“ und „Fake“ – versteht man täuschend echt wirkende künstlich erstellte Videos, Bilder oder Audiomaterial, das mithilfe von künstlicher Intelligenz erzeugt wird. Bekannt sind diese vor allem in jüngster Zeit durch Kinofilme geworden, in denen die Gesichter und Stimmen bekannter Schauspieler nahezu lebensecht im Computer generiert wurden. Auf diese Weise wurden verstorbene Hollywood-Größen wieder zum Leben erweckt.
Durch Deepfakes können sich aber auch Personen mit weniger guten Absichten fremde Gesichter einfach wie digitale Masken aufsetzen und mit fremden Stimmen sprechen. Lange Zeit waren Deepfakes aufgrund ihrer geringen Qualität leicht mit freiem Auge zu erkennen und stellten daher keine große Gefahr dar. Doch mit der rasanten Weiterentwicklung von künstlicher Intelligenz und benötigter Rechenleistung wird diese Unterscheidung zwischen Wahrheit und Fake in naher Zukunft immer schwerer fallen. Es wird der Tag kommen, an dem sich Deepfakes allein durch unsere menschlichen Sinne nicht mehr von der Wahrheit unterscheiden lassen. Und damit öffnen sich auch die Schleusen für eine ganz neue Generation von diversen Betrugsmethoden.
Deepfakes erlauben die Imitation von echten Menschen in den unterschiedlichsten Fällen. Hacker:innen sind damit in der Lage, Bankdaten von Menschen zu erlangen, indem sie Verifizierungsprozesse überlisten. Sie können sich am Telefon als eine andere Person ausgeben und jemanden so um Geld erleichtern. Es gab bereits mehrere Fälle, in denen sich Betrüger:innen als Mitarbeiter:innen oder Geschäftspartner:innen ausgegeben haben und illegale Geldüberweisungen veranlasst haben. Man kann theoretisch einen Auftritt von Elon Musk fälschen, in dem er die Insolvenz von Tesla bekannt gibt, während im Hintergrund Betrüger:innen auf fallende Aktienkurse des Unternehmens wetten.
Dank Deepfakes sind der Kreativität von Betrüger:innen aller Art bald wenige bis gar keine Grenzen mehr gesetzt. Abseits von diesem Themengebiet existieren zudem viele Risiken, die Deepfakes für politische und gesellschaftliche Realitäten bedeuten können.
Das Ende der Wahrheit im Internet
Zugegeben: Um den Wahrheitsgehalt im Internet stand es noch nie gut. „On the Internet, nobody knows you’re a dog“ – diesen Spruch, getätigt durch zwei Hunde vor einem PC, fand man im Jahr 1993 in einer Karikatur des New Yorker. Dieses – damals noch physische – Meme symbolisiert den Übergang des Internets vom Nischenphänomen einiger, in der Regel untereinander bekannter, Personen hin zum Massenmedium. Es ist eine Art von Sinnspruch dafür, wie das Internet nun fundamental funktioniert. Wir wissen in der Regel einfach nicht, wer unser Gegenüber darin ist.
Mit den jüngsten Entwicklungen rund um künstliche Intelligenz erleben wir einen weiteren Übergang aus dem aktuellen Internet in eine Form, wo wir unseren Augen und Ohren nicht mehr trauen können. Fälschungen von Bildern, Videos oder Audioaufnahmen oder die Imitation von Menschen werden nun zu einem realistischen Problemfeld. Lange Zeit waren die erzeugten Fälschungen bestenfalls zur Unterhaltung gut, da diese einfach noch nicht ein glaubhaftes Niveau erreichten und nur in Ausnahmefällen täuschten.
Diese Zeiten sind vorbei. Längst streiten sich auf YouTube Joe Biden, Barack Obama und Donald Trump, während sie gemeinsam Minecraft spielen, und Podcaster Joe Rogan unterhält sich mit Computerspiel-Bösewichten über deren politischen Ansichten. Die Stimmen dieser bekannten Persönlichkeiten klingen dabei täuschend echt. Mit einem menschlichen Gehörsinn allein kann man bereits nicht mehr eindeutig sagen, ob es sich beim Gehörten um tatsächlich Gesagtes handelt. Nur der inhaltliche Kontext rettet einen noch.
Die Hürden dafür, bekannte Persönlichkeiten glaubhaft zu fälschen, werden stets kleiner. Bald wird es sich nicht mehr nur um bekannte Persönlichkeiten handeln, von denen ausreichend Ton- und Bildmaterial vorhanden ist, um eine KI damit zu trainieren. Für eine glaubhafte Imitation der Sprache eines Menschen sind bereits jetzt nur noch wenige Minuten an echtem Audiomaterial nötig. Diese Datenmenge reicht aus, um einer KI die Art und Weise beizubringen, wie ein beliebiger Mensch zu sprechen gewohnt ist, woraufhin diese KI von da an ebenso sprechen kann wie das Original. Für Microsofts künstliche Intelligenz VALL-E würden anscheinend bereits drei Sekunden an Audiomaterial ausreichen, um die Stimme eines Menschen imitieren zu können. In dem Bereich Deepfake-Fälschung der dazugehörigen Gesichter zeigt sich ebenso viel Entwicklung, wie die Beispiele von DeepSwap oder Swapface veranschaulichen. All das sind faszinierende Innovationen. Was alles auf der einen Seite faszinierend klingen mag, eröffnet leider damit auch eine neue Ära des Internetbetrugs.
Wo mit Deepfakes Geld gestohlen wird
Wir wissen, dass Deepfakes kommen werden, und wir können uns auch denken, wo sie besonders häufig vorkommen werden. Betrügereien mit Deepfakes sind bereits jetzt dort auf dem Vormarsch, wo es ganz einfach Geld damit zu holen gibt. Beliebteste Ziele sind unter anderem leichtgläubige Personen auf der Suche nach Zuneigung im Internet sowie Nutzer:innen von Kryptowährungen und des Web3, der Weiterentwicklung des Internets durch digitale Ökosysteme. In diesen Bereichen scheint es für Kriminelle eine ausgesprochen erfolgreiche Strategie zu sein, Emotionen zu erzeugen, die den logischen Verstand überschreiben, um damit die Zielpersonen um ihr Geld zu erleichtern. Vorbei sind wohl bald die Zeiten des nigerianischen Prinzen, der den Menschen über E-Mails Geld schenken (bzw. stehlen) möchte, angebrochen ist die Zeit des Video-Deepfakes.
So ging im Mai 2022 bereits ein gefälschtes Video eines Bühnenauftritts von Elon Musk viral, in welchem dieser angeblich eine betrügerische Handelsplattform bewarb, die hohe Gewinne versprach. Dieses Deepfake-Werk ging wohl aber vorwiegend aufgrund der geringen Qualität dieser Fälschung viral, die eher Vergnügen erzeugte (Cheapfake), als erfolgreich jemanden hereinzulegen. Doch die Qualität von KI-erzeugter Sprache und Bildmaterial ist inzwischen bereits wesentlich höher, als es dieses vereinzelte Video vermitteln mag. Im August 2022 gab Patrick Hillman, Kommunikationsleiter der weltweit größten Kryptowährungsbörse Binance, bekannt, dass Hacker sein Gesicht sowie seine Stimme via Deepfake-Technologie gefälscht hätten, um wiederholt potenzielle Gesprächspartner in die Irre zu führen. Die Fälschungen sollen dabei so glaubwürdig gewesen sein, dass die Drahtzieher:innen dahinter mit mehreren Unternehmen im Kryptowährungsumfeld geschäftliche Termine via Videocall abhalten konnten. In Wirklichkeit sprachen diese jedoch nie mit tatsächlich verantwortlichen Mitarbeitern von Binance. Diese Art des Betrugs wird in Zukunft wohl noch viele große Unternehmen (wie auch Wiener Bürgermeister) zum Ziel haben.
Neben dem Web3 spielen aber auch die traditionellen Betrugskanäle weiterhin eine gewichtige Rolle. Sogenannte Lovescammer geben sich in Videochats vermehrt als andere Personen aus. Im Internet treffen sie auf vulnerable Personen, denen sie ihre Zuneigung hinter einer Deepfake-Maske vorgaukeln können. Schnell wird von der vermeintlichen Internetbekanntschaft dann ein Grund gefunden, warum sie dringend Geld benötigt. Schon bald wird beispielsweise auch der bekannte Enkeltrick um jene Dimension erweitert, dass durch Deepfake-Technologien gefälschte Sprach- oder Videonachrichten basierend auf den echten Enkeln erzeugt werden können. Synapsen-Kaperung par excellence. Die Notwendigkeit, sich gegen Deepfakes im Internet zur Wehr zu setzen, wird in den kommenden Jahren eine wichtige Rolle spielen. Und das nicht nur zur Betrugsbekämpfung – sondern natürlich auch, weil die Politik von dieser Technologie nicht verschont bleiben wird.
Die Rolle des Web3 im Kampf gegen Deepfakes
Es lässt sich ein interessanter Trend identifizieren: Aktuell entwickelt sich das Internet auf das Web3 hin. Mit dem Web3 wird der Versuch unternommen, dieses mit neuen wirtschaftlichen Dimensionen auszustatten. Die Etablierung digitaler Ökosysteme (siehe DeFi), Selbstverwaltung von direkt in den Internetbrowser integrierter Vermögensverwaltung (siehe Metamask), Schaffung von digitaler Seltenheit oder Einzigartigkeit für zuvor beliebig multiplizierbare digitale Werke (siehe Non-fungible Token) – das Web3 hat viele Gesichter. Dieser großen Idee unterliegt jedoch immer der Grundgedanke, dass dem Internet ein weiterer Layer hinzugefügt wird, welcher sich auf die unterschiedlichen Möglichkeiten für die Ausgestaltung der Existenz digitaler Vermögenswerte fokussiert. Gibt man nun den diversen Internetbetrüger:innen dieser Welt bald immer besser werdende Deepfake-Technologie in die Hand, ist nicht schwer zu erraten, wo diese zum Einsatz kommen wird.
Es ist logisch, davon auszugehen, dass hier zwei Welten aufeinanderstoßen werden, die diametral unterschiedliche Ziele verfolgen und zudem über viele Ressourcen verfügen. Eines der größten Schlachtfelder im Kampf gegen Deepfakes wird sich in diesem Teil des Internets eröffnen, denn das fundamentalste Ziel von Web3 muss es sein, Vertrauen im Internet zu schaffen. Ohne Vertrauen in die digitale Infrastruktur der Zukunft, die zudem einen signifikanten Anteil der Wertschöpfung der Welt digital abbilden soll, kann sich diese Idee langfristig nicht durchsetzen. KI-unterstützer Betrug wird eine der Feuerproben des Web3 werden. Zu lukrativ wird dieser Sektor für Deepfakes werden. Zu viel Geld gibt es hier zu ergaunern. Jedoch sucht sich die Deepfake-Gefahr damit gleichzeitig auch einen der größten Gegner aus. Künstliche Intelligenz wird dabei eine große Rolle spielen und von einigen der klügsten und innovativsten Köpfe angeführt werden.
Der Kampf gegen Deepfakes kann und muss gewonnen werden. Die Alternative hierzu wäre ein trübseliges Internet im ständigen Zwielicht zwischen Wahrheit und Fake. Eine traurige Vorstellung. Man mag sich dann auch gar nicht mehr ausmachen, wie das Metaversum einmal aussehen wird. Blockchain-Technologie bietet bereits jetzt viele Anwendungen für den Kampf gegen Deepfakes, wie etwa die Schaffung von Vertrauen in dezentrale Organisationsysteme und in dem Management von digitalen Identitäten. Bilder, Videos und Audiodaten können beispielsweise auch damit einen Echtheitsnachweis erhalten, der beweist, dass eine Datei dem Ausgangsmaterial übereinstimmt.
Die richtigen Herausforderungen, hochwertige Deepfakes davon abzuhalten, Wirtschaft und Gesellschaft zu unterminieren, kommen jedoch erst noch auf uns zu, und auf dem Weg dahin treffen sie wahrscheinlich auf genau jenen Bereich, der am ehesten dazu in der Lage ist, dem kommenden Problem der Deepfakes Lösungen entgegenzusetzen und das Internet zu einem besseren Ort für alle zu machen.
LUKAS LEYS ist Unternehmer, Gründer des Legal-Tech-Startups kontractory und Betreiber der Plattformen immobily.io, mietrecht.ai und gmbh.legal. Ihn treibt ein starkes Interesse am technologischen Fortschritt und an den gesellschaftlichen Auswirkungen, die diese mit sich bringen wird. Sein Schwerpunkt liegt auf Blockchain-Technologie, Smart Contracts und dem Metaverse.
