Bei dem „ausgeklügelten Betrug“ sei ein Angestellter des betroffenen Unternehmens nach einer zunächst per E-Mail erfolgten Zahlungsaufforderung vom vermeintlichen Finanzchef zu der Videokonferenz eingeladen worden, heißt es dazu bei CNN. So wie viele andere berichtete auch der US-Sender am Sonntag über den zuvor von der Hongkonger Polizei bekanntgegebenen Fall.
Wie sich später herausstellte, waren die vermeintlichen Teilnehmer der Videokonferenz größtenteils KI-generierte Nachbildungen von echten Menschen. Zum Einsatz kam somit eine als Deepfake bekannte Technologie, die zuletzt etwa auch mit gefälschten Bildern von Popsuperstar Taylor Swift in sozialen Netzwerken für Schlagzeilen gesorgt hatte.
Kein Einzelfall
Der Hongkonger Deepfake-Betrugsfall ist den Berichten zufolge erst nach Tagen und nach bereits erfolgter Überweisung der eingeforderten 200 Millionen Hongkong-Dollar auf mehrere Konten aufgeflogen. Um welches Unternehmen es sich handelt, bleibt offen – wie die Hongkonger Polizei bei der Bekanntgabe des Falles nahelegte, dürfte es sich allerdings keineswegs um einen Einzelfall handeln.
Vielmehr habe es zuletzt gleich mehrere Festnahmen im Zusammenhang mit ähnlichen Betrügereien gegeben, wie Medien mit Verweis auf Polizeiangaben berichten. Dazu kämen Dutzende, mit Hilfe von gestohlenen Hongkonger Personalausweisen und Deepfake-Technologie gestellte Kreditanträge sowie etliche Fälle, bei denen Deepfakes zur Umgehung von Gesichtserkennungsprogrammen verwendet worden seien.
„Fake President“ im neuen Gewand
Betrugsfälle, bei denen Gelder an angebliche Vorgesetzte überwiesen werden – Stichwort „Chef-Masche“, „Fake President“ oder „CEO Fraud“ –, gibt es zwar schon lange, und Betrüger hätten auch ohne generative künstliche Intelligenz wie ChatGPT Erfolg, wie das Finanzportal Der Treasurer zuletzt erinnerte. Dank KI würde die Zahl derartiger Fälle momentan aber rapide steigen, wie es mit Verweis auf Zahlen eines Versicherers weiter heißt.
Behörden auf der ganzen Welt seien laut CNN jedenfalls „zunehmend besorgt über die Raffinesse der Deepfake-Technologie“ – außer Frage stehe zudem, dass es mit fortschreitender Technologie immer schwieriger werde, Deepfakes zu erkennen. Als abschreckendes Beispiel verweist der US-Sender auf die im Jänner in sozialen Netzwerken veröffentlichten KI-generierten Nacktbilder von Swift.
Die Verbreitung der Bilder sorgte für Empörung bis in die US-Regierung hinein. Eine Sprecherin erklärte bei einer Pressekonferenz, das Weiße Haus werde „alles in seiner Macht Stehende tun, um dieses Problem zu lösen“. Sie forderte den Kongress auf, gesetzgeberisch tätig zu werden. Auch Abgeordnete beider Parteien äußerten sich entsetzt und verlangten schärfere Regulierungen.