人間が現在のAIシステムよりも継続的な学習に優れているというのは、やや誤解を招く呼び方です。 また、私たちは壊滅的な忘却にも悩まされています。普通の人に高校や大学の試験をもう一度受けさせてみて。彼らはひどく失敗するだろう。長期記憶は劣化し、以前に習得したスキルを忘れてしまいます。 私たちが優れているのは、おそらく脳内のコンテキストウィンドウをより賢く使うことと、ツールを使う能力です。私たちは、良い仕事をし、良い人生を送るために何を覚えておくべきかを何となく知っている傾向があります。残りはファイルやツール、あるいは他の人を通じて世界に委ねます。 次世代のLLMも同じ方法で継続的な学習を「解決」します。重みを更新したり、ノートやファイル、KVキャッシュで新しいことを覚えたりするにせよ、時間をかけて徐々に改善していくと思いますし、気づけばAIシステムも私たちと一緒に進化していくでしょう。