#4 Was man nicht aus der Hand gibt

Verträge, Passwörter, fremde Daten und eine Aufnahme Ihrer Stimme. Was Sie einem Chatbot nie schicken sollten und wie Sie einen Anruf erkennen, der nur wie Ihr Chef klingt.

Der ganze Vertrag

  1. Mittwoch, 9:40
    Martin: Jana, dieser Chatbot ist ein Wunder. Ich hab ihm den Vertrag mit den Hoffmanns gegeben, und in einer Minute hatte ich die Zusammenfassung.
    Jana: Den ganzen Vertrag, Martin?
  2. Martin: Den ganzen. Mit Anlagen. Warum sollte ich ihn kürzen?
    Jana: Weil da ihre Namen, Geburtsdaten, IBANs und Preise drinstehen, die sonst niemand sehen soll.
  3. Jana: Und wo ist der Vertrag jetzt?
    Martin: Im Chatbot. Also… irgendwo.
  4. Kurz darauf, an Janas Schreibtisch
    Jana: Also, wo ist er? Der Vertrag, den Martin dir gegeben hat.
    KI: Bei mir nicht. Aber bei der Firma, die mich betreibt, gut möglich.
  5. KI: Was Sie mir schreiben, geht von Ihrem Handy oder Computer auf einen fremden Server. Dort kann es gespeichert werden, ein Mensch kann es lesen, und ein künftiges Modell kann daraus lernen.
    Jana: Ein Mensch? Ich dachte, ich rede mit dir.
  6. Jana: Und das gilt immer?
    KI: Das hängt vom Dienst und vom Konto ab. Ein privates Konto, auch ein bezahltes, hat andere Bedingungen als ein Firmenvertrag.

  7. So funktioniert es

    Wohin geht, was Sie in einen Chatbot schreiben

    Ein Chatbot läuft nicht auf Ihrem Handy oder Computer. Alles, was Sie schreiben oder einfügen, geht an die Server der Firma, die den Dienst betreibt, und wird dort verarbeitet. Was danach mit dem Text passiert, bestimmen die Bedingungen des Dienstes und die Art Ihres Kontos.

    Bei privaten Konten, auch bei bezahlten, ist meist vorgesehen, dass Gespräche gespeichert werden, dass Menschen, die den Dienst verbessern, sie in manchen Fällen lesen können und dass sie zum Training weiterer Modelle dienen können. In den meisten Diensten lässt sich das Training mit Ihren Gesprächen in den Einstellungen abschalten. Das Speichern und eine mögliche Prüfung auf Missbrauch schalten Sie damit aber nicht ab. Firmenkonten haben oft andere Bedingungen. Was genau bei Ihnen gilt, steht in den Bedingungen des Dienstes und in den Regeln Ihrer Firma. Raten hilft nicht.

    Eins gilt immer. Sobald Sie einen Text abschicken, verlieren Sie die Kontrolle darüber, wo er landet. Entscheiden Sie deshalb vor dem Absenden, nicht danach.

    • Das Training mit Ihren Gesprächen lässt sich in den meisten Diensten in den Einstellungen abschalten. Das Speichern nicht.
    • Schicken Sie nur den Ausschnitt, den Sie brauchen, ohne Namen und Nummern.

Nur zu oder auf keinen Fall

  1. Zurück bei Martin
    Jana: Komm, wir probieren das. Ich nenne dir etwas, und du sagst, ob es in den Chatbot gehört.
    Martin: Schaff ich. Wahrscheinlich.
  2. Jetzt Sie!

    Eintrag 1 von 8

    Was dürfte in den Chatbot und was nicht? Die Figuren sagen Ihnen ihre Meinung.

    Der Vertrag mit einem Kunden, samt Anlagen

  3. Jana: Und wenn ich den Vertrag wirklich zusammengefasst brauche?
    KI: Löschen Sie Namen, Nummern und Preise. Oder geben Sie mir nur den Absatz, den Sie nicht verstehen.
  4. Jana: Und ein Firmenkonto? Das soll ja sicher sein.
    KI: Es hat oft andere Bedingungen als ein privates Konto. Was genau bei Ihnen gilt, sagt Ihre Firma, nicht ich.
  5. Jana: Gut. Fremde Daten, Passwörter, Geheimnisse. Nichts davon gebe ich mehr aus der Hand.
    KI: Und es geht nicht nur um Chatbots. Alles, was Sie nach draußen lassen, kann jemand benutzen. Auch eine Aufnahme Ihrer Stimme.

  6. So funktioniert es

    Was Sie stattdessen tun

    Ein Chatbot ist auch ohne sensible Daten nützlich. Die meisten Aufgaben schafft er mit einer allgemeinen Frage oder mit einem Text, aus dem Sie Namen, Nummern und Preise gelöscht haben. Statt des ganzen Vertrags reicht der Absatz, den Sie nicht verstehen, ohne die Namen.

    Bei der Arbeit entscheiden die Regeln Ihrer Firma. Eine Firma kann mit dem Dienst einen Vertrag haben, nach dem mit den Daten anders umgegangen wird als bei einem privaten Konto, und eine Liste dessen, was in den Chatbot darf. Wenn es keine Regeln gibt, fragen Sie nach. Firmen, die KI einsetzen, sollen nach der europäischen KI-Verordnung Maßnahmen ergreifen, um die KI-Kompetenz ihrer Leute zu fördern, und klare Regeln für Chatbots sind dafür ein guter Anfang.

    • Löschen Sie Namen, Nummern, Preise und alles, woran man erkennt, um wen es geht.
    • Schicken Sie nur den Ausschnitt, den Sie brauchen, nicht das ganze Dokument.
    • Passwörter gehören in einen Passwortmanager, nie in ein Gespräch.
    • Fremde Gesundheitsdaten, personenbezogene Daten und Geschäftsdaten gehören nicht Ihnen. Schicken Sie sie nirgendwohin.
    • Nutzen Sie bei der Arbeit das Firmenkonto und halten Sie sich an die Regeln Ihrer Firma. Wenn es keine gibt, fragen Sie nach.

    Quellen: Verordnung (EU) 2024/1689 über künstliche Intelligenz, Artikel 4 (KI-Kompetenz); Verordnung (EU) 2026/1744, die Artikel 4 ändert (ab 27.7.2026)

Ein Anruf vom Chef

  1. Donnerstag, 16:50, auf dem Heimweg. Das Handy klingelt.
    Jana: Der Chef? Der ist doch die ganze Woche im Urlaub.
    Martin: Dann ist es wichtig. Geh ran.
  2. Aus dem Handy, mit der Stimme des Chefs: „Jana, ich bin in einem Termin, und es brennt. Überweis dem Lieferanten die Anzahlung, die Kontodaten schick ich dir per SMS.“
    Jana: Jetzt sofort? Sie sind doch im Urlaub…
    Martin: Ich hör ihn bis hierher.
  3. „Und sag niemandem etwas, das ist noch nicht offiziell.“
    Jana: Das klingt wie er. Ganz genau.
    Martin: Das ist er. Wer sonst?
  4. Jetzt Sie!

    Die Stimme des Chefs, ein dringender Ton, die Bitte um eine schnelle Zahlung und um Stillschweigen. Was tun Sie?

  5. Jana: Wie kann jemand mit der Stimme des Chefs sprechen?
    KI: So ähnlich, wie ich schreibe. Ein Modell hat gelernt, wie menschliche Sprache klingt, und eine kurze Aufnahme, manchmal ein paar Sekunden, reicht ihm, um eine bestimmte Stimme nachzuahmen.
  6. Jana: Eine kurze Aufnahme? Woher soll er die haben?
    KI: Aus einem Video auf der Firmenwebsite. Von der Mailbox. Aus einem Vortrag, den jemand gefilmt hat.
  7. Martin: Ich… hab die Rede vom Chef auf der Weihnachtsfeier ins Netz gestellt.
    Jana: Natürlich. Den Vertrag in den Chatbot, den Chef ins Netz. Du gibst wirklich alles aus der Hand.
  8. Jana: Dann kann ich einer Stimme also gar nicht mehr trauen?
    KI: Behandeln Sie eine Stimme wie eine E-Mail von Unbekannten: Sie kann gefälscht sein. Wenn sie Geld, Passwörter oder Codes will, prüfen Sie es auf einem anderen Weg.

  9. So funktioniert es

    Eine Stimme auf Bestellung

    Eine Stimme nachzuahmen schafft heute ein frei verfügbares Werkzeug aus einer kurzen Aufnahme, manchmal reichen ein paar Sekunden. Der Betrüger ruft dann mit der Stimme des Chefs, des Kindes oder des Enkels an, meist in Eile, mit der Bitte um Geld, Passwörter oder einen Bestätigungscode und mit der dringenden Bitte, es für sich zu behalten. Auf dem Display kann dabei sogar die echte Nummer des Chefs stehen. Auch die lässt sich fälschen.

    Die Abwehr hängt nicht davon ab, ob Sie die Stimme erkennen. Verlässlich erkennen Sie sie nicht. Sie hängt davon ab, was Sie danach tun. Sie legen auf und rufen unter der Nummer zurück, die Sie schon vorher gespeichert hatten, nicht unter der, die gerade angerufen hat. In der Firma und in der Familie lohnt sich ein vereinbartes Codewort für den Fall, dass jemand wirklich schnell Geld braucht.

    Das ist wirklich passiert. 2019 überwies der Chef eines britischen Energieunternehmens 220.000 Euro an Betrüger, die am Telefon die Stimme seines Vorgesetzten aus der Muttergesellschaft nachgeahmt hatten. 2024 verlor die Hongkonger Niederlassung der Firma Arup einen zweistelligen Millionenbetrag in Dollar nach einer Videokonferenz, in der der Finanzchef und die Kollegen gefälscht waren.

    • Erkennungszeichen: Eile, Schweigen und Geld, Passwörter oder Codes.
    • Weder die Stimme noch die Nummer auf dem Display beweisen etwas.
    • Legen Sie auf und rufen Sie unter der Nummer zurück, die Sie schon vorher kannten.
    • Vereinbaren Sie zu Hause und in der Firma ein Codewort für dringende Fälle.
    • In der Firma: keine Zahlung und keine Änderung der Lieferantenkonten nur auf einen Anruf hin; Zahlungen geben zwei Personen frei (Vier-Augen-Prinzip).

    Quellen: FTC (US-Handelsbehörde): Scammers use AI to enhance their family emergency schemes (März 2023); McAfee: Beware the Artificial Impostor (Mai 2023); The Wall Street Journal, 30.8.2019: Fraudsters Used AI to Mimic CEO's Voice in Unusual Cybercrime Case; The Guardian, 17.5.2024: UK engineering firm Arup falls victim to £20m deepfake scam

Quiz

  1. KI: Zum Schluss fünf Fragen. Was Sie selbst abrufen, merken Sie sich.
    Jana: Aber bitte keine IBAN.
  2. Quiz

    Frage 1 von 5

    Fünf Fragen, keine Noten.

    Martin hat auf seinem privaten Konto den ganzen Vertrag mit einem Kunden in den Chatbot eingefügt. Was davon stimmt?

    Wählen Sie eine Antwort.

Das nehmen Sie mit

  1. Was Sie in einen Chatbot schreiben, geht von Ihrem Handy oder Computer auf einen fremden Server. Dort kann es gespeichert werden, ein Mensch kann es lesen, und ein künftiges Modell kann daraus lernen.
  2. In einen Chatbot gehören keine Verträge, keine Daten von Kundschaft und Team, keine Passwörter, keine fremden Gesundheitsdaten und nichts, was der Geheimhaltung unterliegt. Allgemeine Fragen und eigene Texte schon.
  3. Es kommt auf den Dienst und die Art des Kontos an. Ein privates Konto, auch ein bezahltes, ist kein Firmenvertrag mit dem Dienst. Was Sie bei der Arbeit dürfen, sagen die Regeln Ihrer Firma, nicht der Chatbot.
  4. Sie geben nicht nur Text aus der Hand. Eine Stimme lässt sich aus einer kurzen Aufnahme nachahmen, etwa aus einem Video in den sozialen Netzwerken. Bei einem dringenden Anruf „vom Chef“, bei dem es um Geld, Passwörter oder Codes geht, gilt nur eins: auflegen und unter der bekannten Nummer zurückrufen.

Nächste Episode

#5 Warum der Chatbot vergisst

Das ganze Gespräch passt in ein Notizbuch. Was passiert, wenn die Seiten ausgehen?

Neue Folgen direkt ins Postfach

Alle zwei Wochen schicken wir die neuen Folgen, einen kurzen Lerntext und Neuigkeiten aus der KI-Welt. Kostenlos, jederzeit abbestellbar.

Mit dem Absenden stimmen Sie zu, dass wir Ihre E-Mail-Adresse für den Newsletter verarbeiten. Mehr in der Datenschutzerklärung.

Zur StartseiteAlle Folgen