Життя 3.0: що означає бути людиною в епоху штучного інтелекту | Макс Тегмарк

Вступ

Суперечки про епоху штучного інтелекту йдуть не одне десятиліття, в університетських лабораторіях та на базі великих технологічних компаній ведуться розробки. Але ніхто точно не знає, що саме станеться, коли штучний інтелект повністю перевершить біологічний розум, навчиться самостійно програмувати себе та створювати інші форми розуму. 

Ясно одне: нова ера не за горами, бо машини навчилися думати та спілкуватися майже як люди. Вони самонавчаються, розпізнають людську мову, вирішують складні завдання та обіграють із розгромним рахунком чемпіонів світу з шахів. Нікого вже не дивує, що будинками «ходять» роботи-пилососи, а спілкування з чат-ботами не відрізняється від онлайн-розмов із живими людьми. Однак досі штучний інтелект перебував на службі у людини та під її контролем. 

Макс Тегмарк, професор фізики в MIT і президент Інституту життя майбутнього, вивчав історію розвитку штучного інтелекту, відвідував найкращі лабораторії, які займаються розробками в цій галузі, організував найбільшу конференцію з штучного інтелекту і дійшов висновку, що ера штучного інтелекту , а лише новий ступінь розвитку світу та людства, перехід на який неминучий. 

Однак це не означає, що потрібно смиренно чекати на повстання машин або кінця світу. Це наше майбутнє, і ми можемо ним керувати. Автор розглядає різноманітні сценарії розвитку подій, від реалістичних до утопічних.

«Життя 3.0» Макса Тегмарка нейтральне та науково обґрунтоване. Найкритичним Макс вважає наш власний усвідомлений вибір — яким саме ми хочемо бачити своє майбутнє, який саме обсяг завдань та операцій хочемо передати цій новій формі розуму, як саме збираємось зберегти контроль за нею та своїм життям. Це набагато більш практичні та конструктивні питання, аніж спроби зупинити прогрес шляхом істеричних криків та проповідування утопій.  

1. Три форми життя

Життя в широкому розумінні – це система обробки інформації, що самовідтворюється. Від цієї інформації (програмного забезпечення) залежить як хід життя, так і його конструкція. Як Всесвіт ставав все складнішим після великого вибуху, так і життя, що зародилося в ньому, стає все більш складним і цікавим. 

У житті є три форми або рівня складності: життя 1.0, життя 2.0 та життя 3.0, які автор поділяє за ознаками здатності носія життя змінювати свою програму (прошивку) та конструкцію.

1.1. Життя 1.0 (біологічна еволюція)

Життя у версії 1.0 не здатне змінити свою програму чи конструкцію. Усі зміни відбуваються лише внаслідок еволюції.

Невідомо, коли з’явилося життя у всесвіті, але на Землі воно виникло 4 мільярди років тому, і незабаром планета наповнилася різноманітними формами життя. В результаті природного відбору вижили найпристосованіші, які могли реагувати на зміни навколишнього середовища. Вони збирали інформацію про зовнішній світ за допомогою сенсорів, обробляли її і поводилися певним (вигідним для себе) чином. 

У багатьох бактерій є сенсор, який визначає концентрацію цукру на рідині. До того ж бактерії вміють плавати за допомогою джгутика, який за формою нагадує пропелер. Устаткування, що включає сенсор і джгутик, діє наступним чином: якщо сенсор сигналізує про те, що рівень цукру став нижчим, ніж кілька секунд тому, джгутик починає крутитися, і напрямок руху бактерії змінюється. Бактеріям не потрібно вчитися плавати чи вимірювати вміст цукру у воді. Їхня будова та програма діяльності закладені в ДНК і не змінюються весь період життя бактерії. І форма джгутика, і чутливість до цукру, і алгоритм поведінки результат довгих еволюційних змін. 

1.2. Життя 2.0 (культурна еволюція)

Життя 2.0 здатне виготовляти редизайн свого програмного забезпечення, але не може змінювати свою конструкцію. Ця форма життя з’явилася близько 100 тисяч років тому, з появою людства.

Люди можуть змінюватися зсередини: вивчати іноземні мови, освоювати нові навички, жартувати, змінювати погляди та цілі. Програмне забезпечення людини формується у процесі навчання. У перші роки навчанням займаються батьки та вчителі, а потім сама людина визначає, чим доповнити свою програму: яку мову навчати в школі, в який ВНЗ вступати, займатися бадмінтоном або шашками і т.д. Бактерії не здатні навчатися і змінювати поведінку, а люди можуть миттєво зреагувати на ситуацію, що змінилася.

Резистентність бактерії до антибіотика виробляється протягом багатьох поколінь — бактерія не може сховатися або інакше захиститися від антибіотика, а дитина, у якої одного разу стався напад алергії, одразу змінить поведінку: вона більше не стане їсти мед чи горіхи.

Саме гнучкість дозволила життю 2.0 домінувати на Землі. Людський колективний розум звільнився від генетичних обмежень і став розвиватися з наростаючою швидкістю: мова, писемність, друкарство, сучасна наука, комп’ютери, інтернет… 

Сучасних людей можна назвати формою життя 2.1 — ми навчилися трохи змінювати свою конструкцію, наприклад, вставляти штучні зуби та суглоби, але досі не вміємо вносити істотних змін: не знаємо, як збільшити мозок у кілька разів або стати зростом із багатоповерхового будинку. 

1.3. Життя 3.0 (технологічна еволюція)

Життя 3.0 поки що не існує на нашій планеті. Але вона з’явиться в найближчі десятиліття чи сторіччя, можливо, ще за нашого життя. Ця нова форма життя не чекатиме еволюційних змін, а зможе самостійно змінювати як свою програму, так і конструкцію. Незважаючи на всі знання, відкриття і технології, що є у людства, наше життя все ще обмежене нашою біологічною конструкцією. 

Ми не можемо жити тисячу років, пам’ятати всю інформацію з Вікіпедії, розбиратися у всіх наукових галузях і літати в космос, коли заманеться, без космічного корабля. 

2. В очікуванні життя 3.0

Дослідники штучного інтелекту дають різні прогнози щодо виникнення надрозуму, які відрізняються не лише по суті, а й по емоційних реакціях — від впевненого оптимізму до занепокоєння, що межує з панікою. 

2.1. Поширені міфи

Основні питання, за якими розгоряються запеклі суперечки – “Коли настане життя 3.0?”, “Що саме станеться?” і «Чим це обернеться для людства?». Всі ці питання пов’язані із суперечливими міфами.

2.2. Безпечний штучний інтелект

Все, що нам дороге в житті, є продуктом людського розуму. Але наше життя може стати ще якіснішим та різноманітнішим за допомогою штучного інтелекту. Інформаційні технології вже позитивно вплинули на всі сфери людського життя, від медицини та освіти до енергетики та фінансів, але чим більше ми покладаємося на штучний інтелект, тим більше ми турбуємося про те, чи буде він діяти в наших інтересах. 

Зазвичай ми навчаємось на помилках. 

Люди навчилися добувати вогонь, через який часто траплялися пожежі, тому довелося створити вогнегасник, пожежний вихід та пожежну сигналізацію. Ми винайшли автомобілі, які часто потрапляли в аварії, і виникла потреба у подушках та ременях безпеки.

Однак у випадку зі штучним інтелектом ціна помилки може виявитися надто високою, навіть фатальною. Чим потужнішими стають технології, тим менше ми маємо покладатися на метод спроб і помилок. 

Програмні помилки та неполадки в мережах траплялися і раніше, але вже сьогодні штучний інтелект вийшов за межі комп’ютерної сфери — через помилки у програмі може впасти фондовий ринок і вибухнути ядерна катастрофа.

Введення в експлуатацію обладнання із застосуванням штучного інтелекту має відбуватися у чотири етапи: верифікація, підтвердження, забезпечення надійності та контроль. 

2.3. Економіка майбутнього

Економіка зміниться. Ми зможемо отримувати безкоштовно все, що потрібно для життя. Вже сьогодні в Канаді, Фінляндії та Голландії проводяться експерименти щодо надання громадянам гарантованого базового доходу, і громадські діячі у багатьох країнах заявляють, що ідея поділу багатств актуальна вже сьогодні, коли росте прірва між багатими та бідними.

Раніше ми платили за телефонні дзвінки – тепер спілкуємося з близькими безкоштовно, нам доводилося купувати енциклопедії та атласи – зараз уся інформація є у мережі у вільному доступі.

У майбутньому деякі з нас працюватимуть, і рівень безробіття буде високим, як ніколи раніше.

Водій, одна із найпопулярніших професій, скоро зникне. Безпілотні автомобілі вже проходять випробування та скоро з’являться на дорогах, а потім витіснять традиційні авто.

Будуть потрібні професії, в яких важливі креативність, розвинені соціальні навички та вміння працювати в мінливих умовах. А там, де потрібні структуровані, повторювані дії та точні обчислення, машини вже зараз ефективніші за людей.

Перспективними будуть професії юриста, соціального працівника, психолога, лікаря, масажиста та вчителя. А машиністів, касирів та пекарів незабаром замінять роботи.

Однак суспільство, де буде багато безробітних, може бути успішним, якщо люди навчаться знаходити радість не тільки в кар’єрі, грошах і становищі в суспільстві, а й у соціальних зв’язках, здоровому способі життя, навчанні, хобі, прийнятті власних особливостей, відчутті себе частиною важливого цілого. 

2.4. Закони майбутнього

У процесі підготовки до життя 3.0 необхідно адаптувати законодавство до присутності штучного інтелекту у всіх сферах життя. Особливу увагу варто приділити питанням недоторканності приватного життя, фінансовим зобов’язанням та нормативним актам, пов’язаним із власністю. У міжнародному законодавстві важливо продумати всі аспекти, пов’язані із озброєнням.

У правоохоронних та судових органах штучний інтелект сприятиме покращенню розкриття злочинів. 

Роботи-оперативники не пропустять жодного доказу, а робосудді будуть неупередженими та непідкупними. Вони працюватимуть без сну та відпочинку до досягнення необхідного результату.

3. Яким буде життя 3.0

Варіантів життя 3.0 безліч: від несподіваного виникнення потужного надрозуму, який зможе зробити зі світом що завгодно, до поступового переходу на новий рівень, де штучний інтелект може бути з людьми на рівних, служити їм і навіть знищити чи підкорити їх собі. Не виключена ймовірність того, що надрозум ніколи не буде створено, тому що люди відмовляться від науково-технічного прогресу чи знищать себе самі. 

3.1. Великий вибух штучного інтелекту

Раптове захоплення світу надрозумом неможливе в найближчому майбутньому, тому що цьому захопленню повинні передувати принаймні два етапи.

• Створення загального штучного інтелекту. 

Загальний штучний інтелект — штучний розум, який не поступається людському за всіма параметрами. За оптимістичними прогнозами, він з’явиться в 2047—2055 рр., але деякі вчені вважають, що це утопія, і штучний інтелект може перевершувати людину лише в окремих областях — краще закручувати гайки або зводити у ступінь десятицифрові числа. 

• Використання загального штучного інтелекту для створення надрозуму. 

Тільки після створення надрозуму людина може дозволити (або не дозволити) їй захопити світ. Однак у найближчому майбутньому людина — господар становища. І саме людина може задати напрямок подальшого розвитку штучного інтелекту та майбутнього планети загалом.

3.2. Сценарії нового життя у довгостроковій перспективі

Ось найімовірніші варіанти життя 3.0.

• Ліберальна утопія – люди, кіборги та будь-які різновиди суперрозуму мирно співіснують завдяки чітко прописаному в законах майновому праву.

• Великодушний диктатор – люди знають, що суспільством керує штучний інтелект, але це влаштовує.

• Утопія загальної рівності – люди, кіборги та суперрозум мирно співіснують завдяки відсутності приватної власності та гарантованим виплатам.

• Брамник — цей надрозум створювався з метою запобігання створенню іншого надрозуму. У цьому сценарії існують роботи та різні форми штучного інтелекту, які допомагають людині, але технологічний прогрес зупинився.

• Бог-захисник – всевладний розум, який стежить, щоб люди були щасливі, і непомітно їм допомагає, коли це дійсно потрібно. Більшість людей навіть не підозрюють про його існування.

• Поневолений бог – штучний інтелект, повністю підвладний людям, які змушують його працювати на себе, створювати нові блага та технології. Ці люди можуть використовувати штучний інтелект на зло і на благо інших людей. 

• Переможець – штучний інтелект вирішує, що люди не потрібні, небезпечні чи марні. Такий суперрозум швидко позбудеться нас якимось витонченим методом.

• Спадкоємець – штучний інтелект замінить людей, але ми не будемо проти – ми сприйматимемо його як свого наступника. Це дитина, яка розумніша і краща за батьків, але батьки їм пишаються, навіть якщо не можуть бути свідками її неймовірних досягнень.

• Директор зоопарку — всесильний розум, який залишає живими кілька людей, покірних повелителю.

• 1984 — усе, як у романі Оруелла: технологічний прогрес зупинено назавжди, надрозум не створено, оскільки у поліцейській державі, керованому людьми, дослідження у сфері штучного інтелекту повністю заборонені.

• Повернення – штучна зупинка технологічного процесу та повернення до дотехнологічної доби.

• Саморуйнування – надрозум так і не з’явився, тому що його не було кому створювати – люди вимерли внаслідок ядерної або біотехнологічної катастрофи.

3.3. Цілі штучного інтелекту

Крім термінів та сценаріїв вчені сперечаються про цілі штучного розуму. У зв’язку з цим виникають численні питання.

• Чи маємо ми ставити цілі перед штучним інтелектом? 

Одна з характеристик розуму — це здатність досягати складних цілей, а значить, штучний інтелект теж матиме мети, які перед ним поставить людина. Інакше він сформулює їх сам. Ми створюємо все більш розумні машини, щоб вони допомагали нам досягати наших цілей. Тобто цілі штучного розуму мають співвідноситися з нашими цілями.

• Які цілі потрібно ставити? 

Насамперед, цілі мають бути етичними та відповідати наступним етичним принципам.

– Прагматизм: у майбутньому має переважати позитивний свідомий досвід, а страждань має бути якнайменше. Це справедливо не лише для людей, а й для тварин, а також для всіх видів штучного інтелекту, які існуватимуть у майбутньому.

– Різноманітність: різноманітні позитивні відчуття краще, ніж багаторазове повторення найпозитивнішого відчуття. 

– Автономність: свідомі спільноти повинні мати можливість ставити власні цілі, але тільки якщо вони не суперечать спільним цілям. За зразок спільних цілей можна взяти права і свободи, проголошені у 1948 році у загальній декларації прав людини ООН: свободу думок, слова та пересування, свободу від рабства та мук, право на життя, свободу та безпеку, освіту, шлюб, роботу та приватну власність .

– Спадкоємність: сумісність зі сценарієм, який більшість людей сьогодні вважають прийнятною, і відмова від сценарію, який більшість людей вважають неприйнятною. Нині саме час продумати цей сценарій. 

• Як ми можемо навчити ці цілі штучному інтелекту і чи можемо ми бути впевнені, що надрозум слідуватиме нашим цілям? 

Проблема в тому, як кодифікувати наведені вище етичні принципи штучного інтелекту. Він повинен їх розпізнавати, правильно сприймати та не змінювати їх без дозволу людини. Потрібно зайнятися розробкою кодів вже зараз.

3.4. Homo sentiens / Людина відчуває

Люди тисячі років живуть із почуттям власної винятковості, тому що ми єдині цілком розумні істоти на Землі. І це відчуття переваги homo sapiens не привело ні до чого доброго: ми зруйнували природні багатства, знищили багато видів диких тварин та неодноразово масово винищували інших людей (війни, геноцид окремих народів, репресії). Однак незабаром з’явиться загальний штучний інтелект, який перевершить нас за всіма параметрами. І з цим варто змиритися і дозволити іншим істотам або формам розуму бути розумнішими за нас. Це зовсім не означає, що ми станемо громадянами другого сорту і підкоримося вищому розуму, якщо самі цього не захочемо. 

Вже сьогодні варто задуматися про те, щоб не бути рабами машин, наприклад, не проводити багато часу зі смартфоном.

Можливо, вік розуму позаду, а попереду століття почуттів. Якщо ми навчимося знаходити радість життя не в кар’єрі, знаннях і грошах, а в позитивних відчуттях, спілкуванні з іншими людьми та формами розуму, ймовірно, ми станемо новим видом — людиною, яка відчуває. 

3.5. Чи буде штучний інтелект свідомим? 

Говорячи про штучний інтелект, ми зазвичай маємо на увазі виключно технічні характеристики. Однак він стає все досконалішим, і, можливо, згодом зможе не лише обробляти інформацію, а й відчувати суб’єктивні відчуття та набувати досвіду, тобто стане усвідомленим, якщо ми йому дозволимо.

З одного боку, люди не хочуть, щоб роботи страждали та хворіли, щоб не почуватися рабовласниками. З іншого боку, всі етичні принципи, розглянуті вище, втрачають сенс, якщо штучний розум не здатний відчувати. Крім того, людині, яка відчуває, непросто буде взаємодіяти з «бездушним» розумом, який зможе заподіяти зло, не знаючи, що творить.

3.6. Ваше персональне майбутнє

Уявімо, що минуло 50, 100 або 500 років і настало життя 3.0. Якою вона буде, багато в чому залежить від наших очікувань та дій. Дайте відповідь на кілька питань, щоб зрозуміти, якого майбутнього ви чекаєте для себе і нащадків. 

• Чи хочете ви, щоб у майбутньому був надрозум?
• Чи будуть у майбутньому існувати люди або їх знищать, перетворять на кіборгів чи ще якихось істот?
• Хто буде головним, машини чи люди?
• Чи буде штучний інтелект свідомим?
• Чи буде в майбутньому більше радості та менше страждань чи нехай все залишиться без змін?
• Чи існуватиме життя в космосі?
• Чи хочете ви, щоб цивілізація прагнула вищих цілей чи це неважливо?

Висновок

Сьогодні ми живемо у версії життя 2.0, яке з’явилося близько 100 тисяч років тому. Попередня версія, життя 1.0, виникла 4 мільйони років тому і була нездатна змінювати свою програму, ні свою конструкцію. Ми покращуємо свій програмний код – освоюємо нові навички, змінюємо погляди і навіть вносимо незначні зміни до конструкції – вживлюємо зубні імпланти та пересаджуємо органи. Однак не за горами нова форма життя — 3.0, в якій буде можлива зміна як програмного коду, так і оболонки (або її повна відсутність). 

Серед вчених та простих обивателів не вщухають суперечки про час виникнення штучного надрозуму, про те, як саме він з’явиться і як це позначиться на людях. Ці суперечки породжують суперечливі міфи. Очевидно одне: штучний інтелект може значно покращити наше життя — за умови, що ми не поспішатимемо вводити нові пристрої на його основі в експлуатацію. Спочатку їх потрібно верифікувати, підтвердити, забезпечити надійність та контролювати їхню роботу. Ціна помилки надто висока.

У майбутньому людям не потрібно працювати. Вони матимуть змогу отримувати гарантований базовий дохід. Професії, в основі яких лежать дії, що повторюються, і точні обчислення, кануть у лету. Але для гнучких, креативних людей із розвиненими соціальними навичками робота знайдеться. В області закону та порядку теж очікуються великі зміни: невтомні та непідкупні роботи-поліцейські та робосудді будуть ефективнішими за людей, а закони, що стосуються недоторканності приватного життя, фінансових зобов’язань та приватної власності, потрібно буде якнайшвидше адаптувати під нове життя, в якому присутній штучний. розум.

Найпоширеніший міф щодо штучного інтелекту — можливість стихійного захоплення планети надрозумом. Це неможливо в найближчому майбутньому, тому що спочатку потрібно створити спільний штучний інтелект, потім за його допомогою надмірний розум, який згодом, можливо, захопить світ. 

Однак згодом життя зміниться, і ймовірні різні сценарії, від утопічної рівності людини та штучного інтелекту до трагедії, пов’язаної із самознищенням людства або його знищення штучним інтелектом.

Щоб уникнути трагедії, важливо, щоб цілі штучного розуму збігалися з цілями людей і були етичні. І вже сьогодні потрібно розробляти коди, що дозволять роз’яснити штучному інтелекту етичні засади.

Нам не варто боятися, що штучний інтелект перевершить людський. Це неминуче – у багатьох областях він уже попереду. Ймовірно, настав час перестати пишатися інтелектуальною перевагою, а звернути увагу на духовне та емоційне життя, перетворитися з людини розумної на людину, яка відчуває. Можливо, штучний розум теж з часом навчиться відчувати суб’єктивні відчуття, і вони з людиною краще розумітимуть одне одного.

Світ зміниться. Це неминуче. Але те, яким він буде, багато в чому залежить від нас, тому не варто ховати голову в пісок, треба чесно зізнатися собі, яким ми хочемо бачити своє майбутнє, і докласти зусиль, щоб воно стало таким.