
Diese KI erkennt Deepfakes und deren Ursprung
Facebook hat gerade ein neues Deepfake-Erkennungstool angekündigt, das auf künstlicher Intelligenz basiert. Es trennt nicht nur gefälschte Bilder von echten, sondern leitet auch die Parameter ab, die bei ihrer Erzeugung verwendet wurden, um ihre Quelle zu identifizieren.
Es gibt bereits auf künstlicher Intelligenz basierende Tools, die die Spuren bekannter Deepfake-Erzeugungsmuster identifizieren können. Die Anzahl der Modelle nimmt jedoch regelmäßig zu, was das Interesse an diesen Erkennungswerkzeugen einschränkt. Das von Facebook entwickelte Verfahren verwendet Reverse Engineering, um die Quelle des Bildes zu ermitteln. Es verlässt sich auf den Fingerabdruck des Bildes, den das verwendete Modell hinterlässt. Indem sie dies verallgemeinern, sind sie in der Lage, nie zuvor gesehene Muster zu erkennen.
Ein System, das Desinformationskampagnen identifizieren kann
Sobald der Fingerabdruck bestimmt ist, ist das Tool in der Lage, bestimmte Parameter zu erkennen, die bei der Erzeugung des Deepfakes verwendet wurden, z. B. die Anzahl der Blöcke und die Art der in jedem Block verwendeten Operationen. Es wird also eine Darstellung des Modells erstellt, auch wenn diese neu ist.
Dieser Fortschritt ist nicht auf die einfache Erkennung von Deepfakes beschränkt. Anhand dieser Darstellung kann das Tool eine Reihe von Bildern vergleichen, um festzustellen, ob sie aus derselben Quelle stammen. Mit dieser Funktion können soziale Netzwerke zum Beispiel eine Desinformationskampagne schnell erkennen.
Urhebender Autor: Edward Back

Marlene ist seit 25 Jahren Fotografin und Künstlerin. Ihre Leidenschaft für Sprachen und interkulturelle Kommunikation entwickelte sie durch internationale fotojournalistische Arbeiten. Heute nutzt sie ihre weitreichende Erfahrung auch als Korrekturleserin und übersetzt journalistische Artikel vom Französischen ins Deutsche. Marlene stellt sicher, dass jeder Text seine Authentizität bewahrt und an die sprachlichen sowie kulturellen Besonderheiten des deutschsprachigen Publikums angepasst wird.

