KI macht Deepfakes zum Kinderspiel

Die Redaktion von Arstechnica hat den Versuch gemacht und dafür einen KI-Bildgenerator namens Stable Diffusion (Version 1.5) sowie eine Technik namens Dreambooth verwendet. Der KI wurde beigebracht, aus sieben simulierten Social-Web-Fotos einer fiktiven Person, dem "Grundschullehrer John", Bilder in beliebigen Stilen und den verschiedensten Situationen zu erstellen. Das Team hatte anfangs erwogen, Bilder einer echten Person zu verwenden, sich dann aber dagegen entschieden, weil die Ergebnisse zu realistisch geworden wären. Das "Reputationsrisiko" für den Betreffenden sei zu groß gewesen, schreiben die Autoren.

Der Trainingsprozess, in dem die KI lernte, Bilder von John zu reproduzieren, dauerte etwa eine Stunde und war dank eines testweise gebuchten Google-Cloud-Computing-Dienstes kostenlos. Nachdem das Training abgeschlossen war, dauerte die Erstellung der Bilder mehrere Stunden, weil das Team aus vielen weniger perfekten Bildern die besten auswählen musste. Dennoch schwören die Autoren, dass die Arbeiten unterm Strich viel einfacher gewesen seien, als beispielsweise das Unterfangen, mit Photoshop realistische Nachbildungen zu erstellen.

Sie interessieren sich für Deep Fakes? Dann lesen Sie auch:

• Was sind Deepfakes?

• Ist Ihr Bewerber ein Deepfake?

• Wie Hacker mit Machine Learning angreifen

John duscht nackt mit einer Schülerin

John wurde so dargestellt, als würde er illegale oder unmoralische Handlungen begehen - zum Beispiel in ein Haus einbrechen, illegale Drogen konsumieren oder gemeinsam mit einer seiner Schülerinnen nackt duschen. Mit zusätzlichen KI-Modellen, die für Pornografie optimiert sind, wäre es keine Raketenwissenschaft gewesen, John in einen Pornostar zu verwandeln.

Viele Situationen, die sich auf diese Art und Weise erzeugen ließen, können durchaus böse rechtliche Konsequenzen haben, warnen die Autoren - beispielsweise bei Bildern, in denen jemand, der aus beruflichen Gründen nüchtern bleiben muss, scheinbar in einer Bar Alkohol trinkt. Oder ein Straftäter verschafft sich ein Alibi, indem er seine Anwesenheit an einem Ort nachweist, an dem er sich defacto nicht aufgehalten hat.

John kann jung oder alt aussehen, fettleibig oder dünn, mit oder ohne Brille, Im Anzug oder im Obdachlosen-Outfit. Er kann in lustige, gefährliche oder fantastische Situationen versetzt werden - ins Mittelalter etwa oder als Astronaut auf den Mond.

Fotos im Social Web können zur Bedrohung werden

Arstechnica empfiehlt Menschen, die arglos Bilder in sozialen Medien posten, ihr Verhalten zu überdenken. Deepfakes seien heute äußerst einfach zu erstellen. Wurde ein KI-ModellKI-Modell erst einmal darauf trainiert, ein Foto zu rendern, wird das Bild zu einer Blaupause: Es lässt sich in unendlich viele Situationen einbinden. Dabei können Straftäter KI-Modelle auch einfach weitergeben, so dass andere ebenfalls Bilder dieser Person erstellen können. (hv) Alles zu Künstliche Intelligenz auf CIO.de