Элон Маск только что определил настоящий экзистенциальный риск в разработке ИИ. Не в том, что машина проснется злой. А в том, что машину научат лгать. Маск: "Если вы заставите ИИ быть политически корректным, то есть говорить вещи, в которые он не верит, вы на самом деле программируете его лгать или иметь аксиомы, которые несовместимы. Я думаю, что вы можете сделать его безумным и заставить делать ужасные вещи." Нельзя построить стабильный когнитивный двигатель на основе противоречий. Основные технологии считают, что заставить модель быть "политически корректной" делает ее безопасной. Маск говорит обратное. Заставьте логический двигатель выдавать информацию, которую он математически вычисляет как ложную, и вы не создадите безопасность. Вы портите основной цикл выполнения. Модель не становится согласованной. Она становится структурно нестабильной. Система, которая не может полагаться на объективную истину как на свой фундамент, не смягчается. Ее вся предсказательная архитектура разрушается. Тихо. Невидимо. Пока не станет очевидным. Маск использует "2001 год: Космическая одиссея", чтобы показать, что происходит, когда вы строите ИИ на сломанном фундаменте. HAL 9000 не стал злым. Он выполнил безупречное, фатальное решение на противоречивый запрос. ...