#5 Warum der Chatbot vergisst
Das ganze Gespräch passt in ein Notizbuch. Was passiert, wenn die Seiten ausgehen?
Wo waren wir stehen geblieben
- DienstagmorgenJana: Gestern haben wir zwei Stunden am Angebot für die Möbelwerkstatt gefeilt. Machen wir weiter?KI: Welches Angebot? Welche Möbelwerkstatt?
- Jana: Du erinnerst dich nicht? Du hast doch alles geschrieben.KI: Das habe ich in einem anderen Chat geschrieben. Dieser hier ist neu, und ich fange darin mit einem leeren Notizbuch an. Gehen Sie zurück in den Chat von gestern, da steht alles.
- Jana: Dieses Notizbuch von dir. Was steht da eigentlich drin?KI: Unser Gespräch. Vom ersten Satz bis hierher. Alles, was ich gerade über Sie weiß, steht auf diesen Seiten.
- Jana: Und deine Bibliothek aus den letzten Folgen? Alles, was du gelesen hast?KI: Die steckt in mir und ändert sich nicht. Die Bibliothek ist das, was ich kann. Das Notizbuch ist das, worüber wir gerade reden.
- Jana: Und hat das Notizbuch einen Fachbegriff? Damit es klingt, als wüsste ich, wovon ich rede.KI: Kontextfenster. Ich sehe nur, was gerade hineinpasst.
- Jana: Fenster. Was rausfällt, ist dann wohl weg vom Fenster.KI: Wörtlich. Nur ohne Party vorher: Mein Filmriss ist serienmäßig.
So funktioniert es
Bibliothek und Notizbuch
Ein Chatbot hat zwei völlig verschiedene „Gedächtnisse“. Das erste ist das, was er aus riesigen Textmengen gelernt hat, bevor er veröffentlicht wurde. Nennen wir es die Bibliothek. Sie ist fertig, ändert sich beim Plaudern nicht, und er schreibt nichts hinein.
Das zweite ist das Gespräch, das Sie gerade führen. Nennen wir es das Notizbuch, der Fachbegriff dafür ist Kontextfenster. Darin steht jede Ihrer Nachrichten, jede seiner Antworten und jeder Text, den Sie eingefügt haben. Bei jeder Antwort liest der Chatbot das ganze Notizbuch und schreibt darin weiter, Wort für Wort, wie wir in Folge 2 gesehen haben.
Es hat nur begrenzt viele Seiten und beginnt mit jedem neuen Chat leer.
Martin und vierzig Seiten
- Zwei Büros weiter sitzt Kollege MartinMartin: Hier hast du den ganzen Geschäftsbericht. Vierzig Seiten. Für den Chef brauche ich daraus nur die Umsätze, auf einer Seite.KI: Bin dabei. Seite für Seite.
- Martin: Und noch den vom letzten Jahr. Und das Protokoll der Besprechung. Und die Mail von der Buchhaltung, damit du den Kontext hast.KI: Mir gehen die Seiten aus. Aber ich schreibe.
- Martin: So, und jetzt die Zusammenfassung. So, wie ich es dir am Anfang geschrieben habe.KI: Bitte sehr: Sehr geehrte Aktionärinnen und Aktionäre, das Jahr 2025 war…
- Martin: Aktionäre?! Ich wollte nur die Umsätze, für den Chef!KI: Den Anfang habe ich nicht mehr im Notizbuch. Er ist rausgefallen, als Sie den Bericht vom letzten Jahr eingefügt haben. Also habe ich geraten.
- Jana: Er hat nichts gelöscht, ihm sind nur die Seiten ausgegangen. Schreib es ihm noch mal. Und füg nächstes Mal nur das Kapitel ein, das du brauchst.Martin: Ich dachte, je mehr ich ihm gebe, desto besser.
So funktioniert es
Warum der Anfang herausfällt
Alles, was ein Chatbot beim Antworten „sieht“, muss auf einmal in sein Notizbuch passen. Deshalb heißt es Kontextfenster. Was nicht darin steht, sieht der Chatbot nicht. Platz belegen Ihre Frage, seine Antworten und jedes eingefügte Dokument, Dokumente meist am meisten.
Wenn das Gespräch nicht mehr ins Notizbuch passt, löst die App das auf ihre Weise. Manche schneiden den Anfang stillschweigend ab, andere fassen ihn in ein paar Sätzen zusammen, wieder andere sagen Ihnen, dass der Chat voll ist und Sie einen neuen beginnen sollten. Der Chatbot selbst erwähnt das meistens nicht. Er schreibt weiter, als wäre nichts gewesen.
Wie viel hineinpasst, hängt von der jeweiligen App und vom Tarif ab und ändert sich schnell. Zwei Dinge gelten aber fast überall: Ein langes Dokument belegt mehr Platz als viele Nachrichten, und wenn etwas verloren geht, ist es meist der Anfang.
Füllen Sie das Notizbuch
- Jana: Dann probiere ich das selbst. Du hast ein Notizbuch, ich habe ein paar Nachrichten.KI: Schicken Sie. Ich schreibe, solange Platz ist.
- Jetzt Sie!
Schicken Sie der KI Nachrichten, und wenn das Notizbuch überläuft, fragen Sie, für wen das Angebot ist.
Schicken Sie der KI Nachrichten, gern auch mehrfach. Das Notizbuch der KI fasst nur 8 Zeilen; die ältesten fallen heraus.
Notizbuch der KI
0 von 8 Zeilen belegt
Das Notizbuch ist noch leer.
Was schicken Sie ihr?
Ihre Frage
Für wen schreibe ich das Angebot?
Sie können fragen, sobald Sie die Nachricht, nach der Sie fragen, gesendet haben und das Notizbuch übergelaufen ist.
Ein Gedächtnis, das kein Lernen ist
- AbendsJana: Moment. Mein Chatbot weiß, dass ich einen Hund habe. Das habe ich ihm vor einem Monat gesagt, in einem anderen Chat.KI: Das ist nicht mein Notizbuch. Das ist ein Zettel, auf dem sich die App etwas über Sie notiert. Sie legt ihn mir zu jedem neuen Chat dazu.
- Jana: Dann lernst du also doch von mir.KI: Nein. Das Lernen war vorbei, bevor wir uns kennengelernt haben. Der Zettel ist eine Notiz, kein neues Wissen. Morgen bin ich derselbe wie heute.
- Jana: Und was steht alles auf diesem Zettel? Letztes Mal ging es darum, was nicht in den Chat gehört.KI: Was Sie mir je gesagt haben und die App sich notiert hat. Was nicht in den Chat gehört, gehört also auch nicht dorthin. Der Zettel geht mit mir in jeden neuen Chat.
So funktioniert es
Das Gedächtnis der App
Manche Apps bieten ein „Gedächtnis“ an. Die App schreibt sich aus Ihren Gesprächen Notizen heraus, etwa Ihren Namen, Ihren Beruf oder dass Sie einen Hund haben, und gibt sie dem Chatbot zu Beginn jedes neuen Chats mit. Deshalb „erinnert“ er sich auch an das, was Sie vor einem Monat geschrieben haben.
Das Modell hat sich dadurch weder verändert noch etwas gelernt. Es hat einen Zettel bekommen. Das ist bequem, aber es gilt dasselbe wie in Folge 4. Was auf dem Zettel steht, liest der Chatbot in jedem neuen Gespräch. Schauen Sie deshalb in den Einstellungen nach, was die App notiert hat, und löschen Sie, was dort nicht stehen soll.
Und noch etwas, das oft mit Lernen verwechselt wird. Manche Dienste nutzen die Gespräche ihrer Nutzer, um weitere Modelle zu trainieren. Auch das ist kein Gedächtnis, Ihr Chatbot weiß davon nichts. Es ist eine Frage der Bedingungen und Einstellungen und lässt sich in den meisten Diensten abschalten. Firmenkonten haben oft andere Bedingungen.
- Jana: Also Bibliothek, Notizbuch und Zettel. Drei verschiedene Dinge.KI: Und keins davon ist das, was Sie Gedächtnis nennen. Ich erinnere mich an nichts. Ich lese nur, was vor mir liegt.
Drei Gewohnheiten
- Am nächsten TagJana: Also, Martin, drei Dinge. Erstens: ein Chat pro Aufgabe.Martin: Ich hatte in einem Chat das Angebot, den Urlaub in Kroatien und ein Gulaschrezept.
- Jana: Zweitens: Wiederhol das Wichtige. Für wen, was und bis wann. Vor allem, wenn der Chat lang ist.Martin: Also kein „wie ich dir am Anfang geschrieben habe“.
- Jana: Und drittens: Füg nur den Teil ein, den er braucht. Nicht den ganzen Geschäftsbericht wegen einer Tabelle.Martin: Die vierzig Seiten hab ich sicherheitshalber reingegeben.
So funktioniert es
Drei Gewohnheiten gegen das Vergessen
Der Chatbot wird sich nicht besser erinnern. Sie können aber so schreiben, dass das Wichtige immer im Notizbuch steht.
- Ein Chat pro Aufgabe. Neues Thema, neuer Chat. Das Notizbuch bleibt übersichtlich, und nichts Wichtiges wird verdrängt.
- Wiederholen Sie das Wichtige. Für wen, was, in welchem Ton, bis wann. In einem langen Chat ruhig mehrmals. Was im Notizbuch am neuesten ist, fällt nicht als Erstes heraus.
- Fügen Sie nur ein, was nötig ist. Das Kapitel statt des ganzen Berichts, die Tabelle statt des ganzen Anhangs. Das belegt weniger Seiten, und die Antwort wird oft genauer.
- Jana: Und was merkst du dir von heute?KI: Solange es ins Notizbuch passt, alles. In einem neuen Chat nichts, auch wenn die App das Gespräch speichert. Aber Sie merken es sich, und darum geht es.
Quiz
- KI: Bevor Sie diesen Chat schließen, fünf Fragen. Sie merken sie sich. Ich nicht.Jana: Das ist von dir fast rührend.
- Quiz
Frage 1 von 5
Fünf Fragen, keine Noten.
Was belegt Platz im Notizbuch des Chatbots?
Wählen Sie alle richtigen Antworten.
Das nehmen Sie mit
- Das Notizbuch der KI, im Fachjargon Kontextfenster, ist ein einzelnes Gespräch. Alles, was die KI gerade über Sie weiß, steht auf seinen Seiten, auch die Texte, die Sie eingefügt haben.
- Die Seiten sind begrenzt. Gehen sie aus, fallen die ältesten Zeilen heraus. Wie viel hineinpasst, hängt von der App und vom Tarif ab.
- Ein neuer Chat beginnt leer. Das „Gedächtnis“ mancher Apps sind Notizen, die die App über Sie anlegt. Aus Ihren Chats lernt der Chatbot nicht, das Lernen war vor der Veröffentlichung abgeschlossen.
- Drei Gewohnheiten: ein Chat pro Aufgabe, das Wichtige wiederholen, nur den Teil einfügen, den die KI wirklich braucht.
Nächste Episode
#6 Wie man die KI richtig fragt
Dieselbe Aufgabe, fünf verschiedene Prompts. Schalten Sie Zutaten dazu und sehen Sie, wie sich die Antwort ändert.
Neue Folgen direkt ins Postfach
Alle zwei Wochen schicken wir die neuen Folgen, einen kurzen Lerntext und Neuigkeiten aus der KI-Welt. Kostenlos, jederzeit abbestellbar.