Штучний інтелект може стати небезпечним для людства: у Сенаті США висловили вимогу зупинити прогрес у створенні суперінтелекту.

Американський сенатор Берні Сандерс висловив думку, що наміри технологічних мільярдерів у сфері штучного інтелекту можуть бути небезпечними для майбутнього людства.

Cенатор закликав тимчасово призупинити розробку передових систем ШІ та заборонити створення штучного надінтелекту, який перевершуватиме людські можливості.

За словами Сандерса, доля людства все більше залежить від виборів, які приймає обмежена кількість найзаможніших осіб у сфері технологій.

Вони вкладають величезні кошти в штучний інтелект і водночас обговорюють сценарії, за яких люди можуть об'єднатися з машинами або поступитися їм місцем.

"Чи варто людству продовжувати бути панами планети Земля? Чи повинні ми поступитися місцем іншим видам?" – такими роздумами розпочав свою статтю сенатор.

Які наміри мають технологічні мільярдери?

Сандерс підкреслив думки керівників провідних технологічних компаній, які розмірковують над перспективами взаємодії між людьми та штучним інтелектом у майбутньому.

Зокрема, керівник OpenAI Сем Альтман ще у 2017 році писав, що штучний інтелект може дозволити людству стати першим видом, який самостійно створюватиме власних нащадків.

Альтман припускав два можливі сценарії: люди можуть запустити розвиток цифрового інтелекту й згодом відійти на другий план еволюції або знайти спосіб успішно об'єднатися з машинами. Він також висловлював думку, що цей процес уже розпочався.

Глава Anthropic Даріо Амодей допускав можливість того, що моделі штучного інтелекту можуть мати свідомість, хоча це питання залишається відкритим.

Окремо сенатор згадав Ілона Маска, який виступає за розвиток надінтелекту, здатного поширитися за межі Землі. Сандерс трактує такі погляди як ознаку того, що деякі представники технологічної індустрії розглядають людство лише як проміжний етап на шляху до цифрової надрозумної системи.

Крім того, він акцентував увагу на Пітері Тілі, співзасновнику Palantir. Як зазначив сенатор, у відповідь на запитання про те, чи варто людству існувати далі, мільярдер не зміг відразу дати чітку відповідь.

Як трансгуманізм пов'язаний зі штучним інтелектом

Сандерс асоціює ці ідеї з трансгуманізмом – течією, що пропагує віру в те, що технологічний прогрес дозволить людині перевершити свої сучасні біологічні обмеження.

Це може передбачати створення нового виду або інтеграцію людського організму з машинами. Прихильники таких концепцій припускають, що майбутні форми життя зможуть перевершити людей за інтелектом, подорожувати космосом і навіть досягти безсмертя.

На думку сенатора, проблема полягає в тому, що подібні ідеї підтримують не лише прихильники наукової фантастики, а й впливові підприємці, які мають ресурси для втілення своїх задумів.

Він також наголосив, що можливості штучного інтелекту вже швидко розширюються. Такі системи працюють із мовою, розв'язують складні математичні завдання та дедалі краще імітують спілкування з людьми.

Серед ілюстрацій технологічного злиття людства та машин Сандерс зазначив компанію Neuralink, засновану Ілоном Маском, що працює над створенням мозкових імплантів для спілкування з комп'ютерами.

Ще один приклад - це ідеї для заснування компаній, що будуть управлятися агентами штучного інтелекту, без необхідності залучення людей як акціонерів.

Чому Сандерс наполягає на необхідності стримувати прогрес у сфері штучного інтелекту?

Сенатор стверджує, що суспільство не обов'язково підтримує бачення майбутнього, яке просувають керівники технологічних компаній.

У своїй статті він представив результати опитувань, які свідчать про те, що 91% американців вважають необхідними заходи безпеки при розвитку штучного інтелекту. Крім того, 74% респондентів не мають довіри до керівників компаній, що займаються ШІ, а 73% висловлюють занепокоєння, що ця технологія може поставити під загрозу існування людства.

Сандерс також звернув увагу на попередження Папи Римського Лева XIV стосовно технологічного прогресу, який може загрожувати цінності людської гідності. Понтифік висловлював занепокоєння щодо можливості перетворення людини на простий набір даних, елемент механізму або товар.

Сенатор повідомив, що Пітер Тіль у відповідь охарактеризував понтифіка як "агента китайських комуністів".

Які обмеження виставляє сенатор?

Сандерс закликав негайно призупинити розробку передових систем штучного інтелекту та заборонити створення штучного надінтелекту до появи механізмів, які гарантуватимуть безпеку цієї технології.

Мова йде про системи, чий інтелект перевищуватиме здібності кожної людини і які зможуть функціонувати самостійно, без необхідності в людському нагляді.

Сенатор оголосив, що спільно з конгресменом Грегом Касаром працює над законопроектом, який має на меті регулювання таких розробок.

Сандерс вважає, що питання майбутнього штучного інтелекту не повинні бути в компетенції лише обмеженого кола мільярдерів, які керуються фінансовими інтересами та прагненням до влади.

Він вважає, що суспільство та демократичні інституції мають визначати межі технологічного розвитку, щоб людина залишалася в центрі цього процесу.