Künstliche Intelligenz (KI) kann sehr hilfreich sein, weist aber auch Schattenseiten auf. KI-basierte Sprachgeneratoren lassen sich beispielsweise für betrügerische Zwecke einsetzen. In jüngster Zeit machten etwa Schockanrufe von sich reden, bei denen Opfer mit täuschend echt imitierten Stimmen von Angehörigen um erhebliche Geldbeträge geprellt werden sollten. Einige Berühmtheit erlangte auch ein Deepfake-Video von Bundeskanzler Olaf Scholz, in welchem dieser angeblich ein Verbot der AfD ankündigte – eine glatte Fälschung, wie sich kurze Zeit später herausstellte. Bei der Aktion handelte es sich zwar um Satire, derlei Aktivitäten sind jedoch alles andere als ein Spaß und können schwerwiegende Konsequenzen nach sich ziehen.


„Project Mockingbird“ soll Audio-Deepfakes erkennen
Solche akustischen Fälschungen lassen sich – wenn sie hinreichend gut gemacht sind – nur mit einiger Mühe erkennen. Und je weiter die Entwicklung generativer KI fortschreitet, desto schwieriger wird es, Original und Imitation zu unterscheiden. McAfee will diesem Problem entgegenwirken, und zwar ebenfalls mit Künstlicher Intelligenz. Das auf Anti-Malware-Lösungen spezialisierte Unternehmen stellte jetzt im Rahmen der diesjährigen Consumer Electronics Show sein „Project Mockingbird“ vor. Die Technik ist der Pressemitteilung zufolge in der Lage, Audio-Deepfakes zu erkennen und entsprechende Warnungen auszugeben. Die Trefferquote liegt dabei laut McAfee bei über 90 Prozent.

Schutz vor betrügerischen Anrufen und Video-Chats
Grundlage von „Project Mockingbird“ und künftig darauf aufbauenden Sicherheitsanwendungen ist ein spezielles Trainingsmodell. Es umfasst kontext- und verhaltensbezogene Analysen sowie kategoriale Erkennungsmuster. Das System ist dadurch unter anderem in der Lage, Audio-Inhalte in Videos auf Authentizität zu überprüfen. Konsumenten sollen sich dadurch unter anderem bei Anrufen oder Videochats etwa über WhatsApp vor Betrügern schützen können. Ihre Stärken könnte die Technik aber auch ausspielen, wenn – wie im Falle von Olaf Scholz – Politikern Aussagen in den Mund gelegt werden, welche sie nie getätigt haben. Experten rechnen beispielsweise damit, dass Deepfakes im US-amerikanischen Wahlkampf genutzt werden könnten, um Kandidaten zu diskreditieren. Laut McAfee ließen sich solche Fälschungen mit „Project Mockingbird“ schnell entlarven. Das Projekt befindet sich derzeit noch im Entwicklungsstadium, darauf basierende Apps gibt es bislang nicht. Wann die ersten Anwendungen erscheinen, teilte McAfee nicht mit.