Кордон світів
Нам усім настав час визнати, що майбутнє вже настало. Розвиток нових технологій досяг такого рівня, що говорити про їхнє проникнення в ту чи іншу частину життя більше не доводиться. Вони проникли скрізь і змінили все. Старий світ сягає минулого, і головна рушійна сила на цьому шляху — штучний інтелект.
Тільки за 2020 рік стартапи, що спеціалізуються на ІІ-технологіях, отримали $38 млрд фінансування в Америці, $25 млрд — в Азії та $8 млрд — у Європі. США, Китай та Європейський Союз заснували комісії з вивчення штучного інтелекту та його впливу на суспільство. Політики та корпоративні лідери все частіше оголошують однією зі своїх ключових цілей виграти гонку ІІ, ніби штучний інтелект — це галузь промисловості чи окремий продукт.
Насправді штучний інтелект – це каталізатор змін. Завдяки своїй здатності вчитися, розвиватися та експоненційно примножувати свої можливості ІІ переверне з ніг на голову усі звичні нам сфери життя: науку, медицину, освіту, транспорт, виробництво. Розповсюдження штучного інтелекту не зупинити. Але куди воно нас приведе – питання відкрите. Як еволюція ІІ позначиться на нашому сприйнятті та методах взаємодії? Яким стане постлюдське пізнання та які аспекти реальності воно нам відкриє? Як ІІ вплине на культуру, концепцію гуманізму, а зрештою і історію? На ці запитання нам тільки доведеться відповісти.
Ця книга — міркування про те, з якими викликами та етичними дилемами доведеться зіткнутися людству. Вона не дає однозначних відповідей на запитання, але запрошує читачів до роздумів: що ми, як глобальне суспільство та представники кожної окремої країни, можемо зробити вже зараз, щоб світ майбутнього, на порозі якого ми стоїмо, виявився дружнім місцем, де знайдеться місце для всіх. і штучному інтелекту, і людині?
Автори ставлять собі завдання зрозуміти, які можуть бути наслідки застосування ІІ в ключових сферах людського життя, поки ці наслідки ще піддаються людському осмисленню. Оскільки головне, що нам уже відомо до цього моменту: штучний інтелект — не просто надлюдина, а позалюдська сутність, і цей факт говорить про наше майбутнє набагато більше, ніж може здатися на перший погляд .
Тиха революція
За останні кілька років вчені та фахівці в галузі штучного інтелекту здійснили кілька найважливіших відкриттів, здатних перевернути наше життя.
У 2017 році компанія DeepMind, що належить Google, випустила ІІ-програму AlphaZero, яка обіграла програму Stockfish — попереднього чемпіона світу з шахів. AlphaZero відрізнялася від своїх попередників лише однією деталлю. В основі попередніх програм лежали людські патерни ігри – у них закладався людський досвід, знання, стратегії. Вони обігравали людей не за рахунок оригінальності, а за рахунок швидкості обробки даних. У AlphaZero, навпаки, не було ні заздалегідь запрограмованих ходів, ні звичних комбінацій, ні людських стратегій. Творці забезпечили її лише базовими правилами і поставили завдання самостійно розробити стратегію, що максимізує виграші та мінімізує програші. Протягом чотирьох годин програма грала проти самої себе, а одразу після стала найкращим шаховим гравцем у світі.
AlphaZero не мав стратегії в людському розумінні цього слова, але в неї була власна логіка, заснована на здатності розпізнавати такі патерни ходів, до яких людина просто не додумалася б.
У 2020 році вчені з Массачусетського технологічного інституту оголосили про відкриття халіцину – нового антибіотика, здатного вбивати штами бактерій, до цього стійких до всіх видів антибіотиків. Спочатку в ІІ-програму завантажили дані про дві тисячі «тренувальних» бактерій. На підставі цих даних ІІ зміг зробити висновок, які ознаки повинні мати антибактеріальні речовини. Потім його попросили проаналізувати дані 61 тисяч бактерій і відфільтрувати їх за трьома параметрами:
1) бактерії підходять на роль ефективних антибіотиків; 2) вони не входять до складу існуючих антибіотиків; 3) не токсичні для людей. Всім переліченим вимогам відповідала лише одна молекула.
Якби таке дослідження проводилося звичним людині способом, воно обійшлося б у непомірну суму та зайняло гігантську кількість часу. ІІ впорався з цим краще, а його робота коштувала набагато дешевше. До того ж програмі, на відміну людини, не треба було розуміти, чому та чи інша молекула працює у боротьбі з бактеріями. Їй було достатньо просканувати бібліотеку кандидатів, щоб визначити одну молекулу, яка успішно справлятиметься з поставленим завданням, хай і неясно, за рахунок чого саме. До речі, ми й досі не знаємо, чому вона працює.
ІІ не просто швидше за людину опрацював дані, але знайшов і зіставив такі аспекти реальності, які до цього вислизали від людського погляду, а можливо, і взагалі не піддаються виявленню звичними людині методами пізнання.
Третім проривом стало створення GPT-3 – ІІ-моделі з написання тексту. На відміну від двох попередніх програм, покликаних вирішити конкретне завдання — зіграти в шахи або знайти антибіотик, моделі, подібні до GPT-3, генерують відповіді на різні вступні. Алгоритм працює за принципом автодоповнення: ви вводите початок тексту, а програма видає найімовірніше його продовження. Програма не вирішує конкретних завдань: введіть початок фрази і вона сформулює можливе продовження; задайте тему, і вона становитиме кілька абзаців; запитайте, і вона дасть кілька відповідей.
Таким чином, ми перейшли від моделі перекладу існуючого тексту до створення мовної продукції . Так звані програми-генератори значно збагатять наш інформаційний простір, але без належного регулювання вони можуть сильно розмити тонку лінію між реальністю і фантазією.
Перемога AlphaZero, виявлення халіцину, створення людиноподібного тексту лише перші ластівки нової епохи. Ми стоїмо на порозі відкриття життєво важливих аспектів реальності, що досі вислизали від людини.
Тектонічний зсув
У ході історії людство неодноразово стикалося з технологічними проривами. Але ніщо так сильно не змінювало політичний і соціальний ландшафт, як створення штучного інтелекту. Машини замінювали коней, на зміну мушкетам приходили гвинтівки, але загальна парадигма життя залишалася тією ж. Парафія ІІ змінить усі аспекти існування. І найважливіші зміни відбуватимуться у філософському полі — ми маємо переглянути своє розуміння реальності та власної ролі в ній.
Штучний інтелект примножить усі наші напрацювання: як у очевидному ключі — наприклад, сприятиме створенню нових ліків, так і в менш очевидних деталях — розробка ПЗ з урахуванням наших схильностей та даних дасть змогу йому не тільки передбачати, а й формувати наші потреби. У новому світі рішення прийматимуться трьома можливими акторами:
1) людьми; 2) машинами;
3) союзом людей та машин.
З підручних інструментів машини стануть партнерами. Все рідше і рідше ми інструктуватимемо ІІ, як досягти того чи іншого результату. Набагато частіше ми просимо: «Зроби власні висновки і скажи, як нам варто діяти далі».
Як виглядатиме партнерство людей та машин
Таке зрушення парадигми не вб’є і не врятує нас, але точно змінить траєкторію розвитку людства та його історію. Наприклад, раніше вважалося, що творчість властива лише людині. Але невдовзі написання пісні чи постановка діагнозу стануть продуктом спільної творчості людини та машини. Це позначиться у майбутньому цілих індустрій, а чи не окремих професій.
Усі товариства поділяться на тих, хто вже застосовує нові технології, і тих, хто не поспішає включатись у загальний процес або не має коштів для придбання необхідних інструментів. До того ж без належної координації різні країни будуть впроваджувати різні концепції ІІ, і їх розвиток піде якщо не паралельними, то шляхами, що слабо перетинаються, що тільки посилить вже існуючий розрив. Те, що спочатку створювалося для подолання національних відмінностей та виявлення «об’єктивної істини», може спричинити створення взаємно непізнаваних реальностей.
І все-таки, незважаючи на вміння робити висновки та приймати рішення, штучному інтелекту не вистачає одного важливого компонента — самосвідомості. Він не може поміркувати про свою роль у нашому світі, у нього немає моралі та емоцій, немає мотивації та конкретних намірів. Отже, подумати про це — наше завдання.
Як влаштований штучний інтелект
Системи штучного інтелекту – неточні, динамічні, розвиваються і здатні до навчання. З технічної точки зору ці чотири якості є справжнім проривом. Класичні алгоритми створювалися для відтворення точних результатів, тоді як сучасні алгоритми машинного навчання запрограмовані постійне поліпшення неточних результатів.
В умовах симуляції бою ІІ-пілоти перевершили людей і продемонстрували такі маневри, яких не здатна повторити звичайна людина.
Незважаючи на те, що це лише початок, подібні інновації вже почали змінювати тканину людського досвіду, а в найближчі десятиліття цей тренд лише посилиться. Щоб зрозуміти, які соціальні, культурні та політичні зміни будуть пов’язані з розвитком нових технологій, необхідно коротко розібратися в тому, як влаштований сучасний штучний інтелект.
Еволюція
Перші системи ІІ містили у собі вичавку людського досвіду — певний набір правил та фактів. Проблема в тому, що наш світ далеко не завжди можна описати простими правилами та символічними позначеннями . Тому в одних випадках ІІ добре справлявся з поставленими завданнями, наприклад, з грою в шахи та автоматизацією бізнес-процесів, а в інших — порівняно погано, наприклад, з мовним перекладом та розпізнаванням візуальних об’єктів. З кінця 1980-х до середини 1990-х років прогрес у цій галузі помітно припинився.
Але вже у 1990-х стало зрозуміло, що замість навчання машин на людському досвіді можна делегувати їм процес навчання. Так з’явилися нейромережі, які витягують патерни з великих баз даних.
У якийсь момент вчені кинули спроби запропонувати програмі з розпізнавання зображень ідеальну фотографію кішки, за якою вона змогла б безпомилково визначати інших, і натомість дали їй можливість поспостерігати за релевантними зображеннями в багатьох контекстах і самостійно зробити висновок, що можна вважати кішкою.
Використовуючи алгоритми машинного навчання, ІІ може створювати та адаптувати моделі, побудовані на реальному зворотному зв’язку. Це дозволяє йому отримувати наближені результати та аналізувати можливі білі плями, які ставили класичні алгоритми у глухий кут.
Технології глибокого навчання допомагають нейромережам встановлювати складні взаємозв’язки, які іноді недоступні людському оку.
Як ІІ вчиться
Існує три форми машинного навчання:
1. Контрольоване навчання. Розробники надають програмі базу даних із вхідними значеннями та індивідуальними параметрами, що описують бажаний результат. Ця модель особливо ефективна для створення систем, здатних видавати необхідні результати у відповідь на введення нових даних.
Так стало зрозуміло, що халіцин можна використовувати як антибіотик. Розробники використовували базу даних, де містилися зразки молекулярних структур та бажані параметри їх ефективності як антибіотик.
2. Неконтрольоване навчання. Розробники надають програмі базу даних та просять згрупувати їх за принципом схожості. Перевага цього типу навчання у тому, що, не маючи поняття «правильного» результату, програма може видавати цілком несподівані відкриття.
Саме таким чином алгоритми Netflix визначають кластери клієнтів зі схожими інтересами та рекомендують їм матеріали до перегляду.
3. Навчання із підкріпленням. З пасивного виконавця ІІ стає агентом, що діє в контрольованому середовищі, що оглядає та записує відповіді на свої дії. Як правило, це «симулятори», що орудують у спрощеній версії середовища, наприклад, робот на лінії складання. Специфіка цього методу полягає в тому, що ІІ отримує зворотний зв’язок від середовища про те, наскільки успішними були його дії, і так вчиться приймати найкращі рішення.
Хорошим прикладом тут служить AlphaZero, яка грала проти самої себе і оцінювала свої дії із зароблених очків.
Обмеження та управління
Незважаючи на всю свою складність і ефективність, штучний інтелект має деякі обмеження. Так, він може вийти за межі людського пізнання і зробити дивовижне відкриття, але рішення про те, наскільки це відкриття є цінним і як воно може бути інтегроване в наше життя, залишається за людиною .
До того ж ІІ не може оцінити свої дії з моральної та філософської точок зору. Він не може осмислити сам себе, використовувані методи та отримані результати. Адекватність його дій, оцінка їх зло- або доброякісності цілком лежить на людях , а отже, вони повинні навчитися керувати ним і відстежувати всі фактори, здатні вплинути на розвиток нових технологій.
Помилки у розвитку штучного інтелекту залежать від трьох факторів:
1. Нестача даних. ІІ робить висновки на підставі даних, і чим їх менше, тим гірші моделі він будує. Це особливо небезпечно з точки зору малопредставлених груп населення, наприклад расових меншин, які можуть бути просто відсутніми у вибірці.
2. Спотворення даних людиною. Це особливо часто зустрічається в процесі контрольованого навчання – які б помилки, несвідомі схильності та упередження не закралися в базу даних завдяки її упоряднику, система їх прийме і вважатиме точкою відліку.
3. Відсутність гнучкості. ІІ не знає того, чого не знає, а, відповідно, не може захистити себе від промаху, очевидного для будь-якого з нас. Ось чому так важливо налагодити процес тестування та виявлення обмежень у логіці ІІ, щоб навчитися передбачати його вузькі місця.
Таким чином, один з найважливіших кроків, які ми маємо зробити, — це розробка системи професійної сертифікації та контролю за дотриманням встановлених вимог , а також різних програм нагляду, що дозволяють застосовувати ІІ-сервіси лише після того, як творці продемонструють їхню надійність у процесі випробувань.
Глобальні мережеві платформи
Соціальні мережі, стрімінгові платформи та інші численні онлайн-сервіси непомітно інтегрували ІІ у тканину людського життя. При цьому часто ми не розуміємо, як працюють їхні алгоритми, ні чому вони працюють саме так.
Менш ніж за одне покоління успішні мережеві платформи об’єднали мільярди людей і дали можливість вільно спілкуватися між собою. Незважаючи на те, що формально вони є приватними підприємствами, масштаб того, що відбувається, робить їх помітними гравцями на геополітичній арені. Отже, нам необхідно визначити їх глобальні цілі та бачення світу, який вони хочуть створити.
Основний принцип устрою мережевих платформ такий: чим більше людей вони обслуговують, тим ефективніше працюють і тим більше нових користувачів залучають. Економісти називають це позитивним мережевим ефектом, за яким цінність мережі зростає пропорційно квадрату числа її користувачів. Без застосування технологій ІІ стійкість такого ефекту забезпечити просто неможливо.
З зростаючим числом користувачів перед мережами виникають завдання, які також неможливо вирішити без ІІ, наприклад, модерація контенту в Facebook або оптимізація пошуку Google.
Чим активніше застосовується штучний інтелект, тим більше мережеві платформи визначають реальність у глобальному масштабі. Навряд чи знайдеться бодай одна область людського життя, яку ці зміни не торкнуться. Далі ми розглянемо ключові питання, що виникають через появу нової глобальної сили.
Повсякденне життя
Кожен із нас протягом дня стикається з величезними масивами даних. Переробити їх самостійно неможливо, тому ми все частіше делегуємо це завдання ІІ: відфільтрувати стрічку новин, запропонувати відповідні товари в онлайн-магазині, сформувати топ-5 пошукових відповідей. Таким чином, штучний інтелект стає комбінацією пошти, універмагу, консьєржа, духовника та друга. Людина та ІІ вступають у партнерство, яке дозволяє їм спілкуватися та вчитися один на одному. При цьому логіка, якою керується штучний інтелект, у багатьох випадках незбагненна . Навіть розробники пошуку Google до кінця не знають, чому одна сторінка потрапляє до топу, а інша — ні.
Непізнаваність – найважливіша відмінність від попередньої епохи, коли кожен крок ментального чи механічного процесу був нам зрозумілий і зрозумілий. До того ж більшістю функцій, що надаються ІІ, раніше керували бізнес та уряд, а тепер ми важко розуміємо, хто і як це робить. Все це ставить перед нами ключове питання: на підставі яких критеріїв діє ІІ? Чий задум він підкоряється і хто ним керує?
Суспільство
Рекомендуючи контент та нових друзів, категоризуючи інформацію та концепції, вгадуючи користувальницькі схильності та бажання, ІІ неминуче посилює ту чи іншу індивідуальну, групову чи соціальну динаміку. У свою чергу, будь-яка динаміка впливає на соціальну та політичну обстановку, далеко не завжди дотримуючись логіки, закладеної творцями мережевих платформ. З урахуванням кількості щоденних взаємодій між користувачами оператори платформ далеко не завжди можуть відстежити, які процеси запускаються зараз.
Все це є серйозним викликом для національних урядів. Хоч би який спосіб реагування вони вибрали — обмежувати, контролювати, не втручатися, — це безпосередньо вплине на ситуацію в країні та світі. Скажімо, якщо уряд вимагає, щоб оператори видаляли «хибний» контент — хто і на якій підставі вирішує, що умовна посада саме така? Одні діятимуть на користь своїх громадян, інші — з бажання придушити свободу висловлювання. ІІ вже зараз здатний створювати фейкові особистості та змушувати їх виробляти текст, спрямований на розпалювання ворожнечі та ненависті. Для того, щоб з цим впоратися, необхідно вручну обробляти кожну одиницю такого контенту та приймати рішення, з якими буде складно впоратися навіть найвитонченішим і найпродвинутішим урядам та операторам.
Якщо поглянути на цю проблему ширше, виникає ще одне питання: з урахуванням глобального характеру мережевих платформ, хто і як визначатиме бажаний вплив ІІ на загальносвітову культуру? І чи буде, чи ІІ просто поширить засвоєні від користувачів патерни, що призведе до найнесподіванішого — і, можливо, небажаного — ефекту?
Геополітика
Жодна, навіть найтехнологічніше розвинена країна не робитиме ставку на строго «національну» версію тієї чи іншої глобальної платформи. Швидкість прогресу така, що у світі просто не вистачить програмістів, інженерів та продакт-дизайнерів, щоб підтримувати таку різноманітність сервісів. Більшість країн, як і раніше, залежатимуть від іноземних компаній та їхніх послуг. При цьому чим сильніше ці послуги інтегровані в фундаментальні аспекти життя суспільства, тим уразливішими вони стають, адже потенційно інші держави мають доступ до даних їхніх громадян.
Той факт, що на даний момент регулятивні норми та правила навчання ІІ розробляються приватними компаніями, говорить про те, наскільки велику роль вони набули на міжнародній арені. Опинившись між двома вогнями — національними урядами та міжнародним співтовариством, — керівники приватних підприємств мають вирішити, як організувати конгломерат регіональних компаній, що діє у багатьох різних юрисдикцій. Однак вони можуть піти іншим шляхом і розвивати свої компанії як глобальні міжнародні мегакорпорації, які не підпорядковуються жодному конкретному уряду. А це означає, що людству час визнати, що ми вже вийшли за межі конвенційної політики і тепер гостро потребуємо розробки нових підходів .
Одне з ключових питань тут: які економічні та соціальні наслідки призведе розробка ІІ-технологій потенційно недружніми державами? США, Китай, Європа, Індія, Росія, Східна та Південно-Східна Азія — всі ці країни конкурують за економічну перевагу, цифрову безпеку та технологічну першість у змаганні, правила якого досі не визначені .
Загроза безпеці та світовому порядку
Застосування ІІ-технологій у військовій сфері має великий виклик для людства. На цьому шляху є дві основні проблеми:
1. Цифровий конфлікт неминуче посилить уразливість його учасників і значно розширить поле для експериментів.
Головний парадокс цифрового століття полягає в тому, що чим більше країна розвинена в цьому відношенні, тим вона вразливіша. Комп’ютери, комунікаційні системи, фінансові ринки, електричні мережі та все, що від них залежить, піддаються кібератакам та різним маніпуляціям.
Держава, яка впровадила цифрові інструменти в системи управління електростанціями, підтримує державні програми за допомогою великих серверів і хмарних сервісів і зберігає дані на електронних носіях, є масштабною і вкрай різноманітною метою для кібератаки.
2. Штучний інтелект має величезний потенціал і може суттєво змінити стратегію застосування звичайної, ядерної та цифрової зброї.
Цифрова зброя становить найбільшу небезпеку в цьому списку за рахунок своєї масштабності та важковиявності. Власники такої зброї можуть порушувати та змінювати роботу всіх комп’ютерних мереж, у тому числі й цивільного призначення, тривалий час залишаючись непоміченими.
Кіберзброя може бути вкрадена, модифікована і розгорнута проти творця. До того ж, як ми вже говорили вище, ІІ вибудовує свою стратегію на підставі недоступних людині аспектів реальності, а за швидкістю навчання він у багато разів перевершує наші здібності. Не кажучи про дипфейки, створення людиноподібного тексту та іншу зброю пропаганди та дезінформації.
У цьому сенсі кіберзброя виглядає рівним суперником біологічної та хімічної зброї, застосування якої пов’язане з максимально незапланованими і наслідками, що не піддаються прорахунку .
Навіть якщо ми зможемо утриматися від використання автоматичної та напівавтоматичної ІІ-зброї, навченої самостійно вибирати та атакувати цілі, сам факт застосування штучного інтелекту у військових та розвідувальних цілях повністю змінює правила гри.
Перегони стратегічного ІІ-озброєння вже розпочалися. Її основні гравці – США, Китай та Росія. Але це далеко не межа. Незважаючи на те, що створення складних ІІ-технологій справді потребує особливих державних потужностей, використання пов’язаних з ними сервісів немає. Як тільки інші країни запідозрять поширення специфічного озброєння, вони не забаряться вступити в спільне змагання.
Повне роззброєння чи розпач перед майбутнім – не вихід. Винахід штучного інтелекту неможливо скасувати. Однак переговори щодо обмеження цифрового озброєння між провідними державами та компаніями-розробниками — необхідний крок на шляху вибудовування адекватних заходів захисту як людства, так і навколишнього середовища . Крім цього всі країни світу мають створити державну раду для обговорення проблем ІІ-озброєння та наділити новий орган влади двома функціями:
1) підтримання конкурентоспроможності країни на світовій арені;
2) координація досліджень про те, як запобігти або обмежити ескалацію напруги у відносинах та розвиток можливих криз.
Що буде з людиною?
Ми вступаємо в епоху, коли все більша кількість різних завдань, що раніше виконуються людиною, передається у ведення штучного інтелекту. У свою чергу, ІІ видає результати, часом і перевершують можливості людського розуму, у зв’язку з чим виникає питання: що означає бути людиною в нову епоху?
Крім необхідності адаптуватися до нових — цілком матеріальних умов існування, людині знадобляться нові сенси. Яка його роль у загальному процесі? Чи має його думка враховуватись у таких операціях, як вибір маршруту, схвалення кредиту і навіть затвердження кандидатів на співбесіду? Чи зможе людина конкурувати зі штучним інтелектом на полі творчості та експертності? Раніше сенс людського існування надавали процеси пізнання та створення продуктів власної праці. Однак з урахуванням усього вищеописаного в майбутньому багато людей можуть відчути себе непотрібними, а це прямий шлях до спустошення та соціальної напруги .
Програма GPT-3 вже зараз здатна писати текст і код на рівні людини, яка здобула вищу освіту. Генеративні моделі змусять нас переглянути, які людські навички є унікальними і цінними настільки, що людям, як і раніше, варто їм навчатися. Зрештою, людям доведеться вирішити, яку частину життя залишити за собою, а яку розділити з ІІ-партнером.
Здається, що як мінімум одна сфера залишається незайманою. Міжособистісне спілкування, як і раніше, відіграватиме важливу роль у нашому житті, але йому уготовані серйозні випробування. Вже зараз люди похилого віку і діти стають все більш залежними від віртуальних асистентів — перші в побутовій сфері, другі в освітній. А з урахуванням того, що люди схильні надавати всьому, з чим стикаються, антропоморфні риси, ІІ-асистенти незабаром можуть перетворитися не лише на наших партнерів, а й на друзів . До того ж може виникнути питання: чи така цінна взаємодія з іншою людиною, якщо на відміну від неї штучний інтелект не суперечить, не сперечається і не дратує?
Розвиток будь-якої технології завжди має дві сторони. З одного боку, воно просуває людство вперед, з іншого — змінює звичний спосіб життя і вириває людей із звичних умов існування. Так, індустріалізація спровокувала масове переселення людей у міста, а глобалізація назавжди змінила сферу виробництва та пов’язаних із нею ланцюжків поставок. Поширення штучного інтелекту також матиме дві сторони медалі .
Позитивні ефекти:
- ІІ значно підвищить рівень знань у таких галузях, як медицина, біологія, хімія та фізика. Вчені отримають новий погляд на те, як лікувати хвороби, захищати навколишнє середовище та вирішувати етичні протиріччя.
- Побутове життя людей стане набагато легшим і зручнішим, а в деяких аспектах і безпечнішим. У нас з’явиться набагато більше вільного часу, який ми зможемо витратити на особистісно важливі сфери життя.
- Впровадження штучного інтелекту дасть більшій кількості людей рівні освітні можливості та полегшить доступ до інформації.
- Керівники зможуть приймати точніші рішення, вільні від людських забобонів, а отже, ефективність багатьох підприємств та виробничих процесів суттєво зросте.
- Громадські ресурси розподілятимуться справедливіше, якість державних послуг значно зросте.
Негативні ефекти:
- Людям, які не мають достатніх технічних знань, буде складно оцінити позитивний вплив штучного інтелекту на їхнє життя, при цьому вони відчуватимуть, як розпливається їхнє почуття власної незалежності та здатність наділяти події у світі зрозумілим значенням.
- Кардинальна зміна робочого середовища підірве багатьом почуття власної ідентичності, професійної реалізованості та фінансової захищеності.
- Алгоритми заточені на те, щоб ловити нашу увагу за допомогою яскравого, несподіваного та емоційного контенту. Часу і сил на спокійні логічні роздуми ставатиме дедалі менше.
- Штучний інтелект здатний експлуатувати людські пристрасті краще за будь-яку пропаганду. Упевненість у власній правоті, що постійно підкріплюється, і все більша відособленість інформаційних бульбашок зроблять людське суспільство безпрецедентно роз’єднаним.
Якими б не були короткострокові наслідки розвитку ІІ, у довгостроковій перспективі нові технології кардинально змінять деякі економічні сегменти, професійне середовище та почуття нашої ідентичності. Держави мають бути готові дати тим, хто неминуче опиниться на узбіччі нового життя, як альтернативні джерела доходу, а й альтернативні джерела життєвих смыслов.
Що робити?
Кожній державі доведеться шукати власні способи адаптуватись до нової реальності. Універсальних правил, як і універсальних відповідей етичні питання, немає. Але кілька базових принципів, якими можна керуватися на цьому шляху:
1. Для забезпечення автономності людства необхідно, щоб державні рішення приймалися максимально ІІ-незалежними організаціями , обмежувалися людською адміністрацією та реалізовувалися під її контролем.
2. Ключові елементи державних функцій і процесів, як і раніше, залишаються під людським керуванням, щоб підтримувати їхню легітимність. Так, у юридичній практиці та особливо її спірних випадках пояснення підсудного мають величезне значення для винесення вироку, а отже, люди, які приймають рішення, мають бути відповідно кваліфіковані та готові відкрито демонструвати свою особистість.
3. Демократичні принципи повинні залишатися докорінно гуманними і керованими людиною. Насамперед це стосується різних дебатів та виборних процесів. Важливо захистити людську мову від спотворення штучним інтелектом. Свобода слова має підтримуватись людьми і не поширюватися на ІІ.
4. Кожне співтовариство має визначити собі рамки допустимих і неприпустимих варіантів використання штучного інтелекту. Однак деякі обмеження, наприклад, заборона використання ІІ у розробці біологічної зброї, повинні обговорюватися на міжнародному рівні.
ІІ-революція станеться швидше, ніж ми очікували. Розвиток штучного інтелекту дасть нам доступ до нової інформації, значно просуне науку та економіку, а отже, змінить увесь світ. Те, в який бік рушить цей світ, залежить тільки від нас : чи зробимо ми якісний стрибок у розвитку і тільки сильніше згуртуємось перед новою реальністю або розіб’ємося на спільноти, що не перетинаються, нездатні не тільки прийняти, але й вислухати аргументи іншої сторони.
На кожному повороті у людей буде три варіанти вибору:
1) обмежити ІІ; 2) вступити з ним у партнерство; 3) передати йому завдання.
Універсальної правильної відповіді немає. У кожному випадку це буде свій вибір та своя аргументація.
Наприклад, як діяти під час авіакатастроф: віддавати пульт управління до рук людини чи ІІ-пілота? Нам треба відповісти на це питання. У деяких випадках відповідь буде більш очевидною, наприклад, якщо ІІ-програма зможе краще і точніше за людину визначати початкову стадію раку грудей по маммограмі, логічно делегувати виконання цього завдання. Партнерство доречне у таких галузях, як безпілотне водіння, де людина та штучний інтелект виступатимуть у ролі сучасних пілотів та автопілотів. З інших сфер, таких як військова справа, ми повинні будемо визначити набір чітких, зрозумілих та чітко окреслених обмежень.
Ми у всіх сенсах стоїмо на порозі нової доби. Щоб зберегти людську реальність, ми маємо спиратися на свої найцінніші ресурси — здатність до комплексного осмислення, віру, традиції та технології.
10 головних думок
1. Головні вміння сучасного штучного інтелекту: самостійно навчатися та знаходити патерни, недоступні людині ; зіставляти аспекти реальності, які піддаються оголенню звичним людині шляхом пізнання; генерувати людиноподібний контент.
2. З підручних інструментів машини стають нам партнерами , і це зміна є тектонічний зрушення історія людства. У майбутньому багато рішень прийматимуться не окремо людьми чи окремо машинами, а союзом людини та штучного інтелекту.
3. Розвиток ІІ в різних країнах може піти різними шляхами , що здатне призвести до створення взаємно непізнаваних реальностей.
4. Основні обмеження штучного інтелекту – брак даних, спотворення даних людиною, відсутність гнучкості та здатності до саморефлексії. Наше завдання – врахувати всі ці фактори у процесі тестування та сертифікації нових ІІ-сервісів.
5. Глобальні мережеві платформи – нові гравці на міжнародній арені. Однак їх довгострокові цілі та глобальне бачення майбутнього світу досі залишаються маловідомими.
6. У міру поширення штучного інтелекту у повсякденному житті перед нами постає завдання зрозуміти, на підставі яких критеріїв він діє і чиєму задуму підкоряється.
7. Уряди можуть реагувати на зміни трьома способами – обмежувати поширення ІІ, намагатися його контролювати та не втручатися. Що б вони не обрали, алгоритми ІІ вже впливають на соціальну динаміку, але яким саме чином не знають навіть їхні творці.
8. Парадоксально активне впровадження цифрових технологій робить державу більш уразливою перед зовнішніми загрозами. Для стримування подібних загроз ключовим гравцям необхідно вже зараз розпочати переговори щодо обмеження цифрового озброєння.
9. Людям знадобляться як матеріальні засоби адаптації до нової реальності, а й нові смыслы. Тканина особистого та професійного життя так сильно змінюється, що багато хто неминуче відчує себе на узбіччі прогресу, а це прямий шлях до соціальної напруженості.
10. Розвиток штучного інтелекту буде пов’язане як із позитивним, і з негативним впливом життя людини. Але те, в який бік рушить світ, залежить лише від нас самих.
Читайте саммарі книги Гері Маркуса та Ернеста Девіса «Перезавантаження ІІ. Створення штучного інтелекту, якому можна довіряти» .