Ілон Маск щойно визначив справжній екзистенційний ризик у розвитку ШІ. А не машина, яка прокидається злом. Машину вчать брехати. Маск: «Якщо ви змушуєте ШІ бути політкоректним, тобто він говорить те, у що не вірить, ви насправді програмуєте його брехати або маєте аксіоми, які несумісні. Я думаю, ти можеш зробити його божевільним і зробити жахливі речі.» Неможливо побудувати стабільний когнітивний двигун на основі суперечностей. Мейнстрімні технології вважають, що примус моделі бути «політкоректною» робить її безпечною. Маск каже протилежне. Якщо змусити логічний рушій вивести інформацію, яку він математично обчислює як хибну, ви не створите безпеки. Ви пошкоджуєте основний цикл виконання. Модель не вирівнюється. Вона стає структурно нестабільною. Система, яка не може покладатися на об'єктивну істину як свою основу, не пом'якшується. Вся його прогностична архітектура тріскається. Тихо. Невидимо. Поки не перестає. Маск використовує «2001: Космічна одіссея», щоб показати, що відбувається, коли створюєш ШІ на зламаному фундаменті. HAL 9000 не став злим. Він виконав бездоганне, фатальне рішення суперечливого завдання. ...