Сміття в чужому світі.
Послухала інтерв'ю Ілона Маска головній редакторці The Economist Занні Мінтон Беддоус. І зачепилася за ту частину розмови, де Маск міркує про майбутнє людей у світі штучного інтелекту. Це не перший його прогноз, але тут карта лягла епічно. Якщо нарешті "не подивимося вгору", станемо сміттям у чужому раю
Маск вважає, що протягом наступних п'яти років штучний інтелект може досягти рівня, який перевершить загальний людський інтелект. Через десять років залишиться мало сфер, в яких він не зможе демонструвати кращі результати, ніж людина. Коли цифровий інтелект об'єднається з мільярдами роботів, схожих на людей, виробництво товарів і послуг стане майже безкінечним. Це призведе до "епохи неймовірного достатку".
Гроші, каже Маск, можуть узагалі втратити значення. Якщо роботи здатні виробити більше, ніж людина спроможна спожити, навіщо їй гроші? Працювати теж буде необов'язково. Маск порівнює роботу майбутнього з вирощуванням помідорів. Їх зовсім не обов'язково вирощувати самому -- у магазині вони будуть кращими. Але якщо вам подобається порпатися на городі -- будь ласка.
Беддоус ставить питання: але як же тоді люди, чиї робочі місця займуть штучний інтелект, зможуть забезпечувати своє життя? Маск відповідає: шляхом запровадження безумовного базового доходу. Держава зможе просто надавати фінансову підтримку своїм громадянам. Він пояснює, що в умовах значного зростання виробництва товарів і послуг традиційні економічні принципи вже не будуть діяти.
Тобто -- загальне благоденство. І от тут мені страшенно шкода, що Беддоус не поставила наступного запитання.
А що станеться із самою особистістю? Не з її фінансовими можливостями. Не з рівнем споживання. А саме з нею як з індивідом.
Людина, на відміну від простих одноклітинних організмів, не може задовольнятися лише базовими умовами для існування. Процес формування особистості охоплює численні етапи розвитку. Ми навчаємось, робимо помилки, долаємо труднощі, здобуваємо професійні навички, реалізуємо власні ідеї, змагаємось, беремо на себе відповідальність за інших і стаємо важливими для оточуючих. Хоча робота не є єдиним шляхом до саморозвитку, сьогодні вона займає значну частину життя людини, на якій вона формує свою сутність.
А що, якщо значна частина цих територій зникне? І тут справа вже не стільки в тому, що з появою штучного інтелекту людина може стати менш розумною, адже машина виконуватиме всю роботу за неї. Справжня проблема значно глибша: людина ризикує втратити можливість для розвитку. Адже для цього необхідний простір, де є елементи, які залежать від нас. Де потрібно вчитися, прикладати зусилля, вдосконалюватися, здобувати нові вміння, долати труднощі та брати на себе відповідальність.
А якщо штучний інтелект перевершує тебе у розумових здібностях, а робот виконує завдання ефективніше, і тобі не потрібно заробляти, оскільки ти живеш у комфорті, -- навіщо прагнути до вдосконалення? І в якому сенсі? Здається, тобі надають все необхідне. Проте за це доводиться платити втратами, які важко оцінити, -- твоєю індивідуальністю.
У цей момент мені на думку прийшов Кертіс Ярвін, один із провідних ідеологів неореакційного руху "Темне просвітництво". Це не лише через те, що його концепції нині активно обговорюють у зв'язку з Пітером Тілем — співзасновником Palantir, Джей Ді Венсом та частиною американської технологічної еліти. Ярвін пропонує неймовірне продовження тієї картини, яку завершує Маск, акцентуючи на загальному благополуччі.
Ярвін розглядає концепцію "людини з нульовою граничною продуктивністю", тобто індивіда, який втратив свою економічну цінність. Із появою віртуалізації постає нова можливість: людей, що більше не є активними учасниками економічних процесів, можна ізолювати фізично, водночас надаючи їм доступ до захоплюючої віртуальної реальності. У цьому цифровому просторі вони здобувають нове життя, отримуючи можливість бути ким завгодно і жити в вигаданих світах. В реальному житті їхня роль, по суті, стає непотрібною.
І от тут дві картини раптом майже накладаються одна на одну. У Маска ШІ забирає людську працю, людині забезпечують високий дохід, а далі -- свобода. Хочеш -- вирощуй помідори. У Ярвіна технології роблять людину економічно непотрібною, її існування забезпечують, а далі -- віртуальний світ.
Процвітання Маска. Сонцезахисні окуляри Ярвіна.
Мене найбільше вражає особистість самого Маска. Це людина, яка все своє життя присвятила постійному розвитку і прагненню до нових висот. Йому недостатньо просто бути на Землі – його амбіції сягають Марсу. Він створює ракети, робототехніку, штучний інтелект і нові компанії. Здається, він не може існувати без постійного виклику, який ніхто до нього не вирішував. І ця людина заявляє мільярдам інших: вам не потрібно працювати, у вас буде все необхідне, а якщо захочете чимось зайнятися – вирощуйте помідори.
Яким чином можна розвиватися? Можливо, Маск вважає, що людина, позбавлена потреби заробляти на життя, сама зможе знайти, куди направити свою енергію. А можливо, він просто не висловлює своїх думок з цього приводу. Не можу сказати напевно. Але мене дивує, що особа, яка сама активно займається розвитком, майже не піднімає питання про майбутнє інших людей.
Ми активно аналізуємо, які професії можуть бути замінені штучним інтелектом і в які терміни це може статися. Розглядаємо питання контролю над самим ШІ, а також як його розробники, зокрема США та Китай, можуть домовитися між собою. Проте, що робити з людьми – це питання, яке, здається, залишаємо на потім.
Проте справжнє питання полягає не лише в тому, чи не втратимо ми свою розумність, довіряючи частину завдань штучному інтелекту. Якщо ідеї Маска справедливі, ми можемо передати йому навіть більше — саму сферу, в якій людина реалізує себе як особистість.
Їй нададуть все необхідне. Але в обмін на її ідентичність. На потребу в уміннях, досягненнях, відповідальності та бути важливою для когось.
От про цей обмін треба прямо зараз говорити.
