"Подвійна пастка" недовіри: Харарі визначив ключову проблему, з якою стикаються лідери в епоху штучного інтелекту.

Історик назвав ШІ-революцію найбільшим викликом для лідерства в історії людства.

Ізраїльський історик та футуролог Ювал Ной Харарі під час Milan Leadership Forum в Італії зазначив, що виклики, пов'язані зі штучним інтелектом, є найбільшими за всю історію управлінських практик. Він підкреслив, що революція в сфері ШІ відкриває "незвичайні можливості, але водночас і створює безпрецедентні загрози та ризики". Для того, щоб людство могло не лише вижити, а й розвиватися в епоху штучного інтелекту, необхідні лідери, які здатні запропонувати новаторські ідеї, зберігаючи при цьому та укріплюючи довірливі міжособистісні зв'язки.

"Якщо люди не можуть довіряти одне одному, ми всі станемо легкою здобиччю для неконтрольованих надрозумних ШІ", -- заявив Харарі.

Вежа, яка будується сама

Для роз'яснення ситуації історик звернувся до біблійного міфу про Вавилонську вежу, який також згадував Папа Лев XIV у своїй травневій енцикліці про штучний інтелект. У цьому міфі люди, які спілкуються однією мовою, намагаються збудувати вежу, що сягне небес. Однак Бог не зупиняє їх за допомогою природних катастроф, а позбавляє їх спільної мови. У той же час Харарі вказує на дві ключові відмінності між цим міфом і сучасністю.

Перша: мова більше не інструмент будівництва. Харарі зазначив, що "сьогодні мова сама є вежею, яку ми будуємо". За його словами, ШІ -- це нова універсальна мова, мова комп'ютерного коду, яка може вийти з-під контролю й перетворитися з покірного інструмента на самостійного агента.

Другий аспект: у міфології розпад співпраці призупинив будівництво, тоді як тепер ситуація кардинально змінилася. Футуролог звернув увагу на те, що "людська співпраця зазнає руйнації, тоді як будівельний проєкт продовжує набирати обертів". Він стверджує, що міжнародний порядок розпадається, суспільства по всьому світу стикаються з хаосом, а люди втрачають спільну реальність, а також здатність розуміти і довіряти один одному.

Двостороння пастка

Історик зазначив, що саме брак довіри підштовхує до активного розвитку вежі: як корпорації, так і держави не вірять одне одному, що змушує їх брати участь у змаганнях в сфері штучного інтелекту та інвестувати все більше ресурсів, оскільки кожен боїться залишитися позаду. Він підкреслив, що ця ситуація призвела до того, що людство опинилося у "подвійній пастці".

"Відсутність довіри сприяє прискоренню еволюції штучного інтелекту, але водночас ця ж відсутність довіри ускладнює нашу здатність контролювати його," – підкреслив Харарі.

Історик вбачає вирішення у можливості витратити час на адаптацію: людство здатне звикнути до існування в "ШІ-вежі", подібно до того, як давні організми адаптувалися до кисню. Однак для цього необхідна співпраця та уповільнення темпів розвитку. Проблема полягає в тому, що інструментом цієї співпраці є мова, яка виявляється поза контролем.

"Той вид, який зуміє налагодити кращу співпрацю, стане домінуючим у світі. Все настільки елементарно. Обов'язок лідерів людства полягає у тому, щоб забезпечити, щоб люди продовжували співпрацювати ефективніше, ніж штучний інтелект," -- підкреслив Харарі.

Цю ідею про довіру та бюрократію як природне середовище для штучного інтелекту Харарі розглядав і в інших своїх працях. Наприклад, під час виступу в Оксфорді він зазначив, що світ, який створила людська цивілізація, наповнений документами, мовними токенами та системами правил, є для алгоритмів такою ж важливою екосистемою, як вода для риб або атмосфера для живих організмів. Крім того, футуролог підкреслив, що справжнє домінування штучного інтелекту не відбуватиметься, як у фільмі "Термінатор", а здійсниться через поступове взяття під контроль бюрократичних структур та заміну людської довіри на рішення, прийняті взаємопов'язаними алгоритмічними мережами.

Час як головна валюта

Харарі особливо акцентував увагу на тому, як штучний інтелект забирає у людей їхній час. Люди — це органічні створіння, що існують у ритмах: день і ніч, літо та зима, активність і релаксація.

"Якщо тримати організм постійно активним і зайнятим, без відпочинку, він збожеволіє, зламається й помре", -- заявив історик та додав, що саме це зараз відбувається з усім людським суспільством.

Харарі підкреслив, що навіть фондові ринки мали свої «вихідні» у минулому. Він зазначив, що Нью-Йоркська фондова біржа зазвичай функціонує з понеділка по п’ятницю з 9:30 до 16:00, а на свята залишається закритою. Тому, якщо військові дії розпочнуться о 17:00 у п’ятницю, реакція Волл-стріт відбудеться лише в понеділок вранці. Це дає можливість банкірам і інвесторам відпочити, провести час із сім’єю або вирушити у відпустку.

Однак штучний інтелект не є органічними істотами: у них немає сімей, вони не відправляються у відпустки і не святкують. Коли вони беруть під контроль біржі, фінансові установи та медіа, людям також не залишається часу для відпочинку.

На думку Харарі, саме лідери найбільше відчувають негативні наслідки цього явища. Він зазначає, що практично всі бізнесові та політичні керівники, з якими йому доводилося спілкуватися, позбавлені можливості відпочити.

"Якщо у вас немає часу, ви бідні, скільки б грошей ви не мали... Справжня валюта життя -- це не гроші, а час", -- наголосив історик і зазначив, що гроші існують лише в колективній уяві, тож зрештою вони зроблені зі слів.

Харарі акцентував увагу на тому, що лідери управляють своїм розумом, який є їхнім основним інструментом. Він зазначив, що думки й емоції лідерів формують майбутнє мільйонів людей і можуть стати вирішальними у питаннях війни чи миру, довіри чи параної. З огляду на швидкий розвиток штучного інтелекту, все більше лідерів втрачають спокій і можливість дбати про своє психічне здоров'я, що, на його думку, негативно впливає як на них самих, так і на суспільство в цілому.

"Не тільки для власного блага, а й для добробуту суспільства: відведіть час на турботу про свій розум. Лише таким чином ви зможете прокласти шлях до відновлення довіри між людьми, що дозволить людству не лише вижити, але й розвиватися в епоху штучного інтелекту," - підсумував Харарі.

Заява Харарі про замкнене коло недовіри перегукується з новим етапом ескалації у глобальних технологічних змаганнях, де страх відставання переважає над ризиками безпеки. Сполучені Штати, Китай та провідні транснаціональні компанії в даний час одночасно інвестують сотні мільярдів доларів у розвиток енергетичної інфраструктури та дата-центрів для впровадження надзвичайно потужних моделей. У таких умовах спроби вчених і міжнародних регуляторів уповільнити технологічний прогрес для аналізу його впливу на суспільство стикаються з опором геополітичних конкурентів, які не бажають знижувати темпи досліджень.