Deepfakes sind Fotos, Videos oder Audiodateien, welche mithilfe von KI verändert sind. Zusammengesetzt aus den Begriffen „Deep Learning“ (eine Methode, durch die eine KI lernt) und bedeutet so viel wie „fake“, also Fälschung bzw. Verfälschung. Deepfakes versteht sich als Überbegriff für verschiedene Formen von audiovisueller (medialer) Manipulation und deren Echtheit bzw. Manipulation ist mit dem bloßen Auge nicht mehr bzw. nur schwer feststellbar.
Umfangreiche Datensätze
Dazu nutzen Deepfake-Technologien umfangreiche Datensätze echter audiovisueller Materialien, um ein neuronales Netz zu trainieren, das fähig ist, bestimmte Aspekte dieser Materialien wie Gesichtszüge, Stimmmuster oder spezifische Bewegungsabläufe zu imitieren oder vollständig neue Inhalte zu generieren. Diese sind meistens bestimmten realen Personen nachempfunden. Durch Verfahren wie Face Swapping (Gesichtertausch), Lip Syncing (Lippensynchronisation) und Voice Cloning (Stimmklonung) lassen sich Personen in Situationen darstellen oder Aussagen treffen, welche nie stattfanden.
Diese Technologie hat bedeutende rechtliche und sicherheitstechnische Fragen, insbesondere im Hinblick auf Datenschutz und den Schutz der Integrität von Individuen. Die potenzielle Nutzung von Deepfakes reicht von harmloser Unterhaltung bis hin zur Fälschung von Beweismaterial in juristischen Auseinandersetzungen und Durchführung gezielter Phishing-Angriffe.
Rasante Entwicklung
Angesichts der rasanten Entwicklung und Verfeinerung dieser Technologien ist es zunehmend schwieriger, gefälschte Inhalte von authentischen zu unterscheiden. Daher sind robusten Detektionsmethoden, rechtlichen Rahmenbedingungen und eine breite Aufklärung über die Risiken und Implikationen dieser Technologie erforderlich. In einer Zeit wachsender digitaler Bedrohungen lassen sich mit Deepfakes überzeugende audiovisuelle Fälschungen erstellen und somit die traditionellen Sicherheitsmaßnahmen untergraben. So lassen sich biometrische Sicherheitssysteme, welche auf Gesichts- oder Stimmerkennung basieren, täuschen. Indem diese in der Lage sind, das Aussehen oder die Stimme einer berechtigten Person mit hoher Genauigkeit nachzuahmen und Angreifer erhalten so Zugang zu gesicherten Systemen. Eine direkte Bedrohung für die Sicherheit vertraulicher Informationen.
Phishing in neuer Dimension
Auch Phishing erhält eine neue Dimension, indem es ermöglicht, äußerst authentisch wirkende, gefälschte Kommunikationsmittel zu erschaffen. Diese reichen von E‑Mails, die mit manipulierten Video- oder Audioanlagen versehen sind, über künstlich generierte Sprachnachrichten bis hin zu komplett inszenierten Videoanrufen.
Wenn Mitarbeiter einem solchen Betrug zum Opfer fallen, entstehen komplexe Fragen bezüglich der potenziellen rechtlichen Konsequenzen. Die Arbeitnehmerhaftung bedarf in diesem Fall einer detaillierten und einzelfallbezogenen Betrachtung. Dabei spielen das Maß der Fahrlässigkeit, die Umstände des Betrugsfalls und die im Unternehmen etablierten präventiven Maßnahmen sowie die technischen organisatorischen Maßnahmen eine wesentliche Rolle.
Maßnahmen
Die Verhinderung von Betrug durch Deepfakes im Unternehmen erfordert ein mehrschichtiges präventives Vorgehen, das sowohl technologische Lösungen als auch organisatorische Maßnahmen und die Sensibilisierung der Mitarbeiter umfasst.
Zunächst ist die Aufklärung und Schulung von Mitarbeitern von entscheidender Bedeutung, um ein Bewusstsein für die Existenz und die potenziellen Gefahren von Deepfakes zu schaffen. Mitarbeiter sollten kritisch hinterfragen und verifizieren können, bevor sie auf Anfragen reagieren, die über digitale Kommunikationskanäle eingehen, insbesondere wenn diese Aufforderungen zur Weitergabe sensibler Informationen oder zur Durchführung finanzieller Transaktionen beinhalten. Mitarbeitende sind daher zu ermutigen, auf eine entsprechende Aufforderung – etwa per (Deepfake-)Anruf oder Videocall – mit einem Rückruf unter den ihnen bekannten Wegen zu reagieren, um die Aufgabe bestätigen zu lassen. Auf technischer Ebene könnten Unternehmen ebenfalls Maßnahmen einführen, um Deepfakes entgegenzuwirken. So kommt Deepfake-Detektionssoftware zum Einsatz, die darauf spezialisiert ist, Manipulationen in audiovisuellen Materialien zu identifizieren, um gefälschte Inhalte proaktiv zu erkennen und zu blockieren.
Strategie
Die effektive Prävention von Betrug durch Deepfakes erfordert eine dynamische Strategie, die fortlaufende Schulungen, die Kommunikation klarer Richtlinien und eine kontinuierliche Anpassung an neue Bedrohungsszenarien umfasst. Diese Maßnahmen, initiiert durch den Arbeitgeber, bilden das Fundament für den Schutz vor derartigen Angriffen.
Also lassen Sie sich gut beraten.