Wovor man sich bei KI fürchten sollteSpezial

So funktioniert es

Warum wir uns ausgerechnet vor Robotern fürchten

Die meisten Ängste vor KI haben wir aus Filmen gelernt. Der aufständische Roboter, die Maschine, die Gedanken liest, der Computer, der leidet. Das sind gute Geschichten, deshalb bleiben sie hängen. Der Chatbot, mit dem Sie reden, ist dabei das, was Sie in Folge 2 gesehen haben. Er schätzt das nächste Wort nach Mustern aus Texten. Von sich aus will er nichts, er tut, was ein Mensch ihm aufträgt, er sieht nichts außer dem, was Sie ihm schreiben, und ob er etwas fühlt, lässt sich weder beweisen noch widerlegen. Über Gefühle schreibt er, weil Menschen in den Texten, aus denen er gelernt hat, darüber geschrieben haben.

Die echte Gefahr sieht anders aus und ist langweiliger. Modelle nach demselben Prinzip können eine Stimme aus einer kurzen Aufnahme nachahmen, ein Video mit einem fremden Gesicht zusammensetzen und eine Betrugs-E-Mail ohne einen einzigen Fehler schreiben. Nichts davon tut die KI von sich aus. Das tut ein Mensch, der sie gegen Sie einsetzt.

• Im Film gibt es einen Roboter, der etwas will. Und das kann uns Angst machen.
• In Wirklichkeit ist es aber ein Mensch, der Ihr Geld, Ihre Passwörter oder Ihre Daten will und die KI als Werkzeug benutzt.

So funktioniert es

Wovor man sich wirklich fürchten sollte

Drei Dinge passieren schon heute. Zwei davon beruhen auf demselben Prinzip wie ein Chatbot: Ein Modell hat Muster aus riesigen Datenmengen gelernt und erzeugt danach etwas, das echt aussieht. Eine Stimme und ein Gesicht. Das dritte ist älter: Was Sie einmal auf einen fremden Server schreiben, haben Sie nicht mehr unter Kontrolle.

Keins davon erfordert Genialität. Die Werkzeuge sind frei verfügbar, und ein Betrüger braucht nur Ihr Video aus den sozialen Netzwerken, Ihre Telefonnummer oder Ihr Passwort, das Sie auch anderswo benutzt haben.

• Eine nachgeahmte Stimme: ein Anruf „vom Kind“ oder „vom Chef“, Eile, Geld. Was dagegen hilft, zeigt die nächste Folge.
• Ein gefälschtes Video: Ein bekanntes Gesicht empfiehlt eine Geldanlage, ein Medikament oder einen Onlineshop. Prüfen Sie es bei der Quelle, nicht im Video.
• Ein durchgesickertes Gespräch: Was Sie in einen Chatbot schreiben, kann bei manchen Diensten ein Mensch lesen, und es kann durchsickern, wenn Ihnen jemand das Konto stiehlt. Dagegen hilft: nichts Sensibles teilen und die Zwei-Faktor-Authentifizierung nutzen.

Quellen: FTC (US-Verbraucherschutzbehörde): Scammers use AI to enhance their family emergency schemes (März 2023); Europol: Facing reality? Law enforcement and the challenge of deepfakes (2022)

So funktioniert es

Deepfake, ein gefälschtes Video, das echt wirkt

Ein Deepfake ist ein Bild oder Video, das ein Modell so zusammengesetzt hat, dass es einen Menschen zeigt, wie er etwas tut oder sagt, das er nie getan oder gesagt hat. Dafür braucht es nur genug Aufnahmen dieses Gesichts, und von Menschen aus Fernsehen, Politik oder sozialen Netzwerken gibt es viele. Die Stimme ergänzt ein anderes Modell, dem eine kurze Aufnahme reicht. Darum geht es in der nächsten Folge.

Die häufigste Verwendung ist kein Scherz, sondern Betrug. Ein bekanntes Gesicht empfiehlt im Video eine Geldanlage, ein Wundermittel oder einen Onlineshop, und unter dem Video steht ein Link. Gefälschte Videos mit bekannten Moderatoren und Ärzten kursieren auch in Deutschland seit Jahren. Nach Fehlern im Bild zu suchen funktioniert immer schlechter. Hände, Lippen und Blinzeln werden von Jahr zu Jahr besser.

Die Abwehr hängt nicht davon ab, wie das Video aussieht. Entscheidend ist, ob dieser Mensch es wirklich irgendwo sagt, wo Sie es prüfen können. Auf seiner Website, auf seinem Kanal, in der Sendung, aus der das Video angeblich stammt. Steht es dort nicht, ist er es nicht.

• Ein bekanntes Gesicht, ein außergewöhnliches Angebot, ein Link und Eile. Diese vier zusammen sind Betrug, egal wie das Video aussieht.
• Suchen Sie keine Fehler im Bild. Suchen Sie, ob der Mensch es an einer prüfbaren Stelle sagt.
• Leiten Sie nichts weiter. Melden Sie das Video der Plattform und schreiben Sie der Person, die es Ihnen geschickt hat.
• Klicken Sie nie auf den Link unter so einem Video. Wenn Sie das Produkt wollen, suchen Sie es selbst.

Quelle: Europol: Facing reality? Law enforcement and the challenge of deepfakes (2022)