Hirn reagiert auf Deepfake-Stimmen anders als auf natürliche

13 June 2024 11:31

Supporting partner

Zürich - Forschende der Universität Zürich haben herausgefunden, dass das Hirn auf künstlich generierte Stimmen anders reagiert als auf natürliche. Das verdeutliche die menschliche Widerstandsfähigkeit gegenüber gefälschten Informationen, so die Studienleiterin.

Das menschliche Gehirn reagiert unterschiedlich auf natürliche Stimmen und sogenannte Deepfake-Imitationen. Das hat ein Forschungsteam der Universität Zürich (UHZ) jetzt herausgefunden. Seine Studie zeigt, dass Menschen die geklaute Identität in einem Deepfake-Audio zwar oft für eine natürliche Stimme halten, ihr Gehirn jedoch nicht.

Neueste Algorithmen zur Stimmsynthese seien inzwischen in der Lage, täuschend echte Stimmklone zu erstellen, so die UZH in einem Bericht. Demnach war es noch nie so leicht, mit Deepfake-Technologien natürliche Stimmen zu imitieren, entweder für Betrugsversuche am Telefon oder um dem Sprachassistenten die Stimme der Lieblingsschauspielerin zu geben. Doch das Gehirn lässt nicht so leicht überrumpeln.

Für die Untersuchung haben die Forschenden zunächst die Stimmen von vier männlichen Sprechern aufgenommen und generierten daraus Deepfake-Stimmen. Im Hauptexperiment sollten 25 Probandinnen und Probanden heraushören, ob es sich um künstliche oder natürliche Stimmen handelte. In zwei Dritteln der Fälle konnten sie die gefälschten Stimmen zuordnen. „Dies verdeutlicht, dass aktuelle Deepfake-Stimmen zwar nicht perfekt die Identität imitieren, aber das Potenzial haben, die Wahrnehmung von Menschen zu täuschen“, wird Claudia Roswandowitz zitiert. Sie ist Post-Doktorandin am Institut für Computerlinguistik der UZH und Erstautorin der Studie.

Gleichzeitig jedoch stellten die Forschenden in zwei Hirnarealen bisher unbekannte Reaktionen fest. Bildgebende Verfahren zeigten signifikant weniger oder mehr Aktivität beim Verarbeiten von Deepfake-Audios als beim Hören natürlicher Stimmen. Daraus folgert Roswandowitz, dass der Mensch „also nur teilweise durch Deepfakes getäuscht werden“ kann. „Besonders die neuronalen Mechanismen, die bei der Verarbeitung von Deepfakes identifiziert wurden, verdeutlichen die menschliche Widerstandsfähigkeit gegenüber gefälschten Informationen, die uns im Alltag immer häufiger begegnen.“ ce/js

Supporting partner

Swiss Pavilion Digital

Previous newsletters