Wir wollen uns auch im Netz sicher fühlen. Doch das wird zusehends schwieriger. Selbst wenn sie Interviews von bekannten Politikern im Internet sehen – ist noch lange nicht klar, dass die Politiker das jemals gesagt haben. Möglich machen das sogenannte Deepfakes. Dabei werden mithilfe von Künstlicher Intelligenz Bilder, Videos oder Audiodateien so manipuliert, dass sie echt wirken, obwohl sie es nicht sind. In Rheinland-Pfalz geht die Polizei jetzt neue Wege um Deepfakes schneller zu erkennen.
Dieses Bild wirkt täuschend echt. Aber: Es ist ein Deepfake – künstlich erzeugt, sehr realistisch. Solche Fälschungen werden immer besser und stellen Polizei und Justiz vor große Herausforderungen. Rheinland-Pfalz setzt jetzt auf ein neues Werkzeug im Kampf gegen die digitale Manipulation. Einen KI-basierten Deepfake-Detector.
Philipp Römer, Polizeipräsidium Einsatz, Logistik und Technik
„Der Detektor macht eine Prüfung über entsprechend hinterlegte KI, die die Bilder noch einmal gegencheckt. Jede KI die Veränderung in einem Bild erzeugt, erzeugt auch in einem Bild eine veränderte Pixeldarstellung und das kann KI herausarbeiten.“
Nach der Prüfung zeigt das Programm an wie hoch die Wahrscheinlichkeit ist das Bild eine Fälschung ist. Das endgültige Urteil fällt aber immer noch ein Mensch. Entwickelt wurde der Detektor vom Landeskriminalamt und der Digitalisierungskooperation der Polizei Rheinland-Pfalz, kurz: DigiKoRP. Hier arbeiten IT- und Fachexperten der Polizei Hand in Hand. Rheinland-Pfalz ist mit dem Deepfake Detector bundesweit Vorreiter.
Michael Ebling (SPD), Innenminister RLP
„Tatsächlich ist das eine einzigartige Entwicklung in Deutschland die heraussticht, die auch mit Stolz zu präsentieren ist als ein Zeichen der Kompetenz und des Fachwissens, das wir bei der rheinland-pfälzischen Polizei haben. Aber gleichzeitig entwickeln wir nie auch nur für uns. Polizei arbeitet länderübergreifend zusammen und natürlich tauschen wir uns auch weiter aus.“
Deepfakes sind ein immer größer werdendes Problem. Künstliche Intelligenz macht es Kriminellen immer einfacher, manipulierte Videos und Bilder zu erstellen und zum Beispiel Falschinformationen zu verbreiten. Und auch bei der Ermittlung von prekären Kriminalitätsformen sorgen Deepfakes für Probleme.
Mario Germano, Landeskriminalamt RLP
„Wir haben auch schon kinderpornografische Abbildungen sicherstellen können, die mittels Deepfake generiert waren. Und wenn man diese Deepfakes nicht als solche dann erkennen kann, dann suchen sie möglicherweise auch nach einem Opfer im Rahmen eines Gefahrenüberhangs, das es nicht gibt.“
Ab März startet der Pilotbetrieb des Deepfake Detectors im Polizeipräsidium Rheinpfalz. Sollte sich die Anwendung bewähren, soll sie in Zukunft auch landesweit zum Einsatz kommen.
