Це трохи хибна назва, що люди краще навчаються безперервно, ніж сучасні системи ШІ. Ми також страждаємо від катастрофічного забуття: візьміть будь-яку пересічну людину і попросіть її знову скласти іспити в школі чи коледжі. Вони зазнають повного провалу. Наша довготривала пам'ять погіршується, і ми забуваємо раніше здобуті навички. Там, де ми досягаємо успіху, можливо, є розумніше використання контекстного вікна (у мозку) та здатність користуватися інструментами. Ми схильні якось знати, що потрібно пам'ятати, щоб добре працювати і жити добре. Решту ми делегуємо світу через файли, інструменти чи інших людей. Наступне покоління LLM «розв'язуватиме» безперервне навчання таким самим способом. Чи то вони запам'ятовуватимуть нове, оновлюючи ваги, чи через нотатки/файли чи кеш KV — я підозрюю, що це буде поступово покращуватися з часом, і незабаром ми очікуватимемо, як наші системи ШІ з часом покращуватимуться.