Het is een beetje een misvatting dat mensen beter zijn in continu leren dan de huidige AI-systemen. We lijden ook aan catastrofaal vergeten: neem een gemiddelde persoon en vraag hen om hun middelbare school / universiteit examens opnieuw te maken. Ze zullen miserabel falen. Ons langetermijngeheugen degradeert en we vergeten eerder geleerde vaardigheden. Waar we uitblinken is misschien een slimmer gebruik van onze contextvenster (in de hersenen) en het vermogen om tools te gebruiken. We hebben de neiging om op de een of andere manier te weten wat we allemaal in gedachten moeten houden om goed werk te leveren en goed te leven. De rest delegeren we aan de wereld via bestanden, tools of andere mensen. De volgende generatie LLM's zal continu leren op dezelfde manier "oplossen". Of ze nieuwe dingen zullen onthouden door gewichten bij te werken of via notities/bestanden of KV-cache, ik vermoed dat het een geleidelijke verbetering in de loop van de tijd zal zijn en voordat we het weten, zullen we verwachten dat onze AI-systemen met ons meegroeien in de loop van de tijd.