„Deep Fakes“: Die dunkle Seite der Künstlichen Intelligenz

Neue Technologien und digitale Medien sind aus dem täglichen Leben nicht mehr wegzudenken. Doch aus der Kombination beider Bereiche entsteht derzeit eine neuartige Bedrohung, die als „Deep Fake“ bekannt ist. Immer häufiger tauchen im Internet und den sozialen Medien extrem realistisch wirkende Fälschungen von Fotos und Videos auf, die mit Hilfe Künstlicher Intelligenz erzeugt werden. Was für Film- und Unterhaltungsindustrie kreatives Potenzial mit sich bringt, führt in anderen Bereichen zu völlig neuen Risiken: Denn „Deep Fakes“ können das Konzept der Realität systematisch aushebeln und zur Desinformation und gezielten Manipulation der öffentlichen Meinung eingesetzt werden. „Die ‚Deep Fake‘-Technologie verfügt in unserer multimedial vernetzten Welt über enormes destruktives Potential und hat speziell in liberalen Demokratien eine gefährliche politische und gesellschaftliche Dimension, die nicht unterschätzt werden darf“, sagt Dr. Heinz-Werner Rapp, Gründer und Leiter des FERI Cognitive Finance Institute. Die Hintergründe und Gefahren medialer Manipulation durch Techniken der Künstlichen Intelligenz beschreibt das aktuelle Cognitive Briefing des FERI Cognitive Finance Institute „Herausforderung ‚Deep Fake‘ – Wie digitale Fälschungen die Realität zerstören“.

Absichtliche Verfälschung der Realität

Die Verständigung darüber, was „real“ ist, setze voraus, dass es objektive Belege gebe, mit deren Hilfe sich Informationen zweifelsfrei identifizieren und verifizieren ließen, heißt es in der Analyse. Dabei spiele das Kriterium der Sichtbarkeit eine besondere Rolle: Als „wahr“ gelte, was mit den eigenen Augen gesehen werde. „Deep Fakes“ missbrauchten diese „visuelle Kredibilität“, indem sie eine eigene, täuschend echt wirkende „virtuelle Realität“ schafften, die als authentisch wahrgenommen und weiterverbreitet würde. „Beispiele dafür sind etwa Videoaufnahmen von Politikern oder prominenten Persönlichkeiten, deren Äußerungen und Mimik digital so umgestaltet werden, dass der ursprüngliche Sinn der Botschaften entstellt oder sogar ins Gegenteil verkehrt wird. Damit ist der absichtlichen Täuschung Tür und Tor geöffnet“, so Rapp. Da „Deep Fakes“ aufgrund ihrer technisch hohen Qualität für den normalen Betrachter kaum erkennbar und digitale Fälschungen oft selbst mit modernsten Mitteln nicht mehr nachweisbar seien, würde das Vertrauen in die Legitimität und Authentizität von visuellen Informationen unterminiert. Damit wirkten „Deep Fakes“ in zwei Richtungen: Gefälschte Aufnahmen könnten für echt gehalten und – womöglich noch gefährlicher – echte Aufnahmen für gefälscht gehalten werden. „Politik und Wirtschaft, kritische Medien oder gesellschaftliche Gruppen können auf diese Weise gezielt diskreditiert, manipuliert und ‚gelenkt‘ werden – ebenso wie die breite Öffentlichkeit“, warnt Rapp.

Erhöhte Wachsamkeit gefordert

Aufgrund rapider Fortschritte speziell im Bereich der KI werde das Potential von „Deep Fakes“ rapide zunehmen und schon in naher Zukunft eine völlig neue Dimension digitaler Datenmanipulation hervorbringen. Ein weiterer Beschleunigungsfaktor sei die hohe Durchdringung moderner Gesellschaften mit digitalen „sozialen Medien“, was speziell Videos eine enorme – meist sogar globale – Verbreitung ermögliche. Die Verknüpfung von politischer Skrupellosigkeit, manipulierten Bildern und massiver Reichweite sozialer Medien schaffe dann den perfekten Nährboden für ein chaotisches System alternativer Realitäten, die parallel und gleichrangig zur „wahren“ Realität existieren könnten. „Darin liegt eine sehr ernste Herausforderung, die in Zukunft nicht nur Nachrichtenredaktionen und Anlegern an den Kapitalmärkten schlaflose Nächte bereiten wird, sondern auch die Arbeit von Regierungen oder den Zusammenhalt ganzer Gesellschaften gefährden kann“, warnt Rapp. Erhöhte Transparenz zum Phänomen der „Deep Fakes“ sowie ein gezieltes Problemverständnis auf der Ebene von Politik und Öffentlichkeit seien daher dringend geboten.

Das Cognitive Briefing des FERI Cognitive Finance Institute zum Thema „Herausforderung ‚Deep Fake‘ – Wie digitale Fälschungen die Realität zerstören“ steht im Downloadbereich zur Verfügung.