Es ist ein wenig irreführend, dass Menschen besser im kontinuierlichen Lernen sind als aktuelle KI-Systeme. Wir leiden auch unter katastrophalem Vergessen: Nimm irgendeine durchschnittliche Person und bitte sie, ihre Prüfungen aus der High School / Universität erneut abzulegen. Sie werden kläglich scheitern. Unser Langzeitgedächtnis verschlechtert sich und wir vergessen zuvor erlernte Fähigkeiten. Wo wir glänzen, ist vielleicht die intelligentere Nutzung unseres Kontextfensters (im Gehirn) und die Fähigkeit, Werkzeuge zu verwenden. Wir neigen dazu, irgendwie zu wissen, was wir alles im Hinterkopf behalten müssen, um gute Arbeit zu leisten und gut zu leben. Den Rest delegieren wir an die Welt über Dateien, Werkzeuge oder andere Menschen. Die nächste Generation von LLMs wird das kontinuierliche Lernen auf die gleiche Weise "lösen". Ob sie neue Dinge durch Aktualisierung von Gewichten oder über Notizen/Dateien oder KV-Cache erinnern werden, ich vermute, es wird eine schrittweise Verbesserung über die Zeit sein und bevor wir es wissen, werden wir erwarten, dass unsere KI-Systeme mit uns im Laufe der Zeit besser werden.