Internet

Diese KI erkennt Deepfakes und deren Ursprung

Facebook hat gerade ein neues Deepfake-Erkennungstool angekündigt, das auf künstlicher Intelligenz basiert. Es trennt nicht nur gefälschte Bilder von echten, sondern leitet auch die Parameter ab, die bei ihrer Erzeugung verwendet wurden, um ihre Quelle zu identifizieren.

deepfakes und deren ursprung 300x169 - Diese KI erkennt Deepfakes und deren UrsprungDeepfakes werden immer besser, bis zu dem Punkt, an dem es für Menschen unmöglich wird, das Echte vom Gefälschten zu unterscheiden. Diese gefälschten Bilder und Videos werden häufig für Desinformationszwecke verwendet, da sie es ermöglichen, Personen mit völlig erfundenen Handlungen oder Worten in Verbindung zu bringen. Um diese Geißel zu bekämpfen, hat sich Facebook mit der Universität von Michigan zusammengetan, um eine neue Art von Erkennungswerkzeug zu entwickeln.

Es gibt bereits auf künstlicher Intelligenz basierende Tools, die die Spuren bekannter Deepfake-Erzeugungsmuster identifizieren können. Die Anzahl der Modelle nimmt jedoch regelmäßig zu, was das Interesse an diesen Erkennungswerkzeugen einschränkt. Das von Facebook entwickelte Verfahren verwendet Reverse Engineering, um die Quelle des Bildes zu ermitteln. Es verlässt sich auf den Fingerabdruck des Bildes, den das verwendete Modell hinterlässt. Indem sie dies verallgemeinern, sind sie in der Lage, nie zuvor gesehene Muster zu erkennen.

Ein System, das Desinformationskampagnen identifizieren kann

Sobald der Fingerabdruck bestimmt ist, ist das Tool in der Lage, bestimmte Parameter zu erkennen, die bei der Erzeugung des Deepfakes verwendet wurden, z. B. die Anzahl der Blöcke und die Art der in jedem Block verwendeten Operationen. Es wird also eine Darstellung des Modells erstellt, auch wenn diese neu ist.

Dieser Fortschritt ist nicht auf die einfache Erkennung von Deepfakes beschränkt. Anhand dieser Darstellung kann das Tool eine Reihe von Bildern vergleichen, um festzustellen, ob sie aus derselben Quelle stammen. Mit dieser Funktion können soziale Netzwerke zum Beispiel eine Desinformationskampagne schnell erkennen.

Urhebender Autor: Edward Back

Zukunft der Zahnmedizin: Diese Auswirkungen haben die Digitalisierung, KI und das Internet der Dinge

Zukunft der Zahnmedizin: Diese Auswirkungen haben die Digitalisierung, KI und das Internet der Dinge

Mehr erfahren
Starlink von SpaceX bald auf der ganzen Welt verfügbar

Starlink bald auf der ganzen Welt verfügbar

Mehr erfahren