Вступ
Книгу відкриває передмова, написана багаторічним юристом, а нині президентом компанії Бредом Смітом та керівником досліджень у сфері ІІ Гаррі Шамом, чий інтерес переважно зосереджений на комп’ютерній графіці та комп’ютерному зорі. Три розділи книги, присвячені можливостям комп’ютеризації, етичним принципам та законам, пов’язаним із штучним інтелектом, а також майбутнім змінам на ринку праці, необхідної реформи освіти та соціальним зрушенням, засновані на доповідях відповідних відділів Microsoft. Іншими словами, це не вираз особистої точки зору, а корпоративний маніфест лідера в галузі розробки штучного інтелекту, що чітко уявляє собі і переваги, і юридичні та соціальні наслідки повсюдного впровадження ІІ.
Присутність цифрових технологій у бізнесі, в управлінні, в житті стала настільки повсякденною, що ми важко згадуємо стан «до» – без текстового процесора, інтернету, навігаторів, комп’ютерної томографії, банківських карт, електронних баз даних. Наступний етап прогресу – розвиток штучного інтелекту (ІІ) – зробить присутність технологій повсюдним і ще більш вкрадливим, ми навряд чи помічатимемо, як особистий секретар домовляється з іншими особистими секретарями; медицина, освіта, прийом на роботу і сама робота, управління компаніями та державами – все вже зараз значною мірою покладається на цифрові технології.
Маніфест Microsoft-2018 у зрозумілій та доступній для всіх користувачів формі розбирає три взаємопов’язані питання.
1) Як влаштований та яку користь принесе у найближчі двадцять років штучний інтелект і як забезпечити його доступність у глобальному масштабі.
ІІ має бути помічником і доповненням людини, яка відкриває нові можливості перед усіма, демократичним та індивідуалізованим інструментом. Він звільнить людину від рутинних завдань, заповнить функції інвалідам, забезпечить швидкий і точний медичний і юридичний супровід, заощадить нам час для власне людських справ і завдань.
2) Які ризики, мимовільні помилки та навмисне зловживання можливі у цій сфері та як їх запобігти на законодавчому рівні, а також впроваджуючи корпоративну та користувальницьку етику.
Особливо вирізняються проблеми захисту особистості, монополізації, соціальної справедливості. У цих сферах завжди будуть проблеми, і ключем до їх вирішення Microsoft вважає випереджальний розвиток законодавства, вибудовування та виховання етики в умовах світу, що змінився, збереження людського контролю над діями ІІ.
3) Як поширення ІІ позначиться на ринку праці, чи існує загроза «витіснення людини», які стратегії навчання на особистому рівні та соціальні програми на державному та міжнародному рівні відповідають викликам найближчого майбутнього.
Компанія Microsoft формулює власну позицію — загальну доступність цифрових технологій, інклюзії та рівності — і бере на себе зобов’язання лобіювати ухвалення відповідних законів, поширювати знання та враховувати ці принципи в технічних рішеннях при створенні програмних продуктів.
1. Людина та її ІІ
1.1. Штучний інтелект – ІІ (англ. AI) є вищим етапом розвитку технологій. На зорі комп’ютерної ери Алан Тюрінг ставив питання, чи зуміє машина «думати». Знаменитий тест Тюрінга визнає розумною машину за умови, що в заочному спілкуванні людина не зможе відрізнити її від іншої людини.
Такого рівня нещодавно досяг шаховий комп’ютер, що навчився не лише прораховувати варіанти, а й блефувати, тобто враховувати людську реакцію супротивника.
1.2. Говорячи про штучний інтелект, ми маємо на увазі власне IQ, тоді як емоційний інтелект, EQ, залишається прерогативою людини, але тільки активна її складова: «машина» не здатна відчувати емоції, але її можна навчити їх розпізнавати за виразом обличчя, інтонаціями, нюансами. промови.
Розпізнавати емоції у якомусь сенсі вмів навіть примітивний детектор брехні. Сучасні програми розпізнають сотні нюансів, порівнюючи патерни з бази даних, та оцінюють надійність потенційного партнера чи клієнта.
1.3. ІІ, як вищий продукт цифрових технологій, має здатність вчитися і логічним мисленням, наближеним до людського. Він спілкується із зовнішнім світом і обробляє інформацію більш природно та гнучко, ніж колишні програми із заданою рутиною дій. Для цього машині потрібно:
• вміння сприймати та розпізнавати природні об’єкти та мовлення;
У 2017–2018 роках. Microsoft виводить на ринок розпізнавач мови, який не поступається навченим розшифрувальникам, і навчає комп’ютер розпізнавати об’єкти у відеозаписі та на фотографії з тією ж точністю, з якою це робить людина.
• здатність виділяти основну інформацію та підбирати релевантну.
Реклама в стилі «вас також може зацікавити» будується якраз за таким принципом: програма не тільки видає запитану інформацію, а й робить висновки про те, що може виявитися релевантно для клієнта. За таким же принципом працюватиме «особистий секретар»-ІІ з тією різницею, що підбір інформації та пропозиції буде максимально індивідуалізовано.
• База даних складається з набору об’єктів, та якщо з графів, тобто об’єктів і всієї сукупності зв’язків з-поміж них. Саме це дозволяє ІІ розпізнавати патерни і потім зіставляти з ними інформацію, що поступає, тобто ІІ, як і людина, робить висновки на підставі свого досвіду (= бази даних).
Принципова відмінність ІІ, запорука його навчання — здатність досліджувати як об’єкти, а й сукупність відносин, які невичерпні.
• Навчання ІІ будується за людським принципом нейронної мережі – формування зв’язків між окремими осередками пам’яті.
1.4. «Олюднення» ІІ потрібно не для того, щоб замінити людину або встановити контроль вищого розуму, а щоб машина могла якнайкраще допомагати людині. Один із основних напрямів досліджень та удосконалень — «особистий секретар». У світі майбутнього такий помічник матиме кожен.
Після Siri компанія Microsoft вивела ринку Cortana (вбудована у Windows 10). Цей особистий помічник слухається голосових команд, шукає потрібну інформацію в Bing (розпізнаючи запит у будь-якому формулюванні та враховуючи всі попередні запити), повідомляє про важливі події, виконує рутинну роботу. Компанія передбачає надалі мільярди самостійних Cortana, які будуть підбирати і викладати «на стіл» господареві новини та витяжки з документів, спілкуватися один з одним, складаючи графік зустрічей, меню вечері, маршрути відпустки тощо. Тобто ІІ чудово знатиме свого людину і зможе якнайкраще підготувати прийняття рішень.
1.5. Особлива роль відводиться ІІ у супроводі інвалідів. Вже розроблені програми, що заповнюють недостатній зір, слух чи мовлення, «відомі», яка допомога потрібна в той чи інший момент. Цей напрямок розробок сприяє індивідуалізації з урахуванням конкретних потреб замовника.
Перший синтезатор мови, зроблений для Стівена Хокінга в 1985 році, не тільки вдосконалювався в плані управління в міру того, як Стівен втрачав рухливість спочатку пальців, а потім і мімічних м’язів, а й підлаштовувався під пацієнта, розпізнаючи типові йому патерни думки і виразів.
1.6 Вміння розпізнавати патерни і робити на цій підставі висновки дозволяє впроваджувати ІІ у всі сфери, де потрібна осмислена обробка великих обсягів інформації, — логістика, управління транспортом, медицина, юриспруденція.
У InnerEye закладено основи сканів ракових пухлин. Ця програма за кілька хвилин аналізує сотні знімків, зроблених МРТ, та виділяє ділянки під променеву терапію. Вручну в онколога на це йшов годинник, і не було можливості зіставити всі можливі варіанти, а значить, ймовірність помилкових рішень була вищою.
1.7. У найближчі 20 років штучний інтелект візьме на себе рутинну, пошукову та підготовчу роботу в медицині, юриспруденції, освіті, управлінні. Він пропонуватиме людині готові рішення з урахуванням стратегій, що вибиралися раніше. Це покладає на компанії та офіційні органи подвійну відповідальність: просвітлювати, розповсюджувати знання, щоб люди не відчували відчуження в «дивному новому світі», а навпаки, могли скористатися його можливостями — і готувати законодавчі акти та формулювати етику, яка зберігає за нового світоустрою основні людські цінності .
2. Шість законів ІІ
Штучний інтелект стає головним інструментом, за допомогою якого людина створюватиме наступні інструменти. Це сильне знаряддя, що визначає формат майбутнього в глобальному масштабі і на повсякденному рівні, тому потрібно закласти в його розвиток загальновизнані етичні принципи та закріпити їх законодавчо. Розвиток ІІ має дотримуватися шести основних принципів.
• Справедливість та рівність.
• Надійність та безпека.
• Захист даних.
• Інклюзивність.
• Прозорість.
• Підзвітність.
2.1. Справедливість
ІІ доручається прийняття попередніх рішень у найчутливіших для людини питаннях — про прийом на роботу, надання позики, направлення до лікаря. Надалі ці повноваження ІІ тільки розширюватимуться. Принцип справедливості передбачає подібні рішення для таких груп людей у подібних ситуаціях.
Однак слід пам’ятати про можливу помилку вибірки.
У тренінгову базу даних заклали відомості про склад співробітників за 1970-і роки, і комп’ютер дійшов висновку, що в першу чергу потрібно відбирати білих чоловіків.
Захистом від помилки вибірки стане постійне навчання ІІ та закладена у програму здатність розпізнавати незвичайну ситуацію та сповіщати про неї людину.
Парадоксально, однак у деяких ситуаціях принцип справедливості діє не на користь громадськості чи споживача і потребує корекції.
Єдиний алгоритм ціноутворення може вирівняти ціни на товар у всіх компаніях так, що це суперечить антимонопольному законодавству.
2.2. Надійність та безпека
Якщо ІІ приймає рішення за людину, чи немає загрози, що помилково чи через хакерську атаку буде прийнято неправильне рішення з катастрофічними наслідками?
Крім апокаліптичних сценаріїв із фантастичних фільмів можна уявити біржові ризики, транспортний колапс, медичні помилки.
Насправді ІІ краще захищений від випадковостей та зловмисного злому, оскільки принцип його роботи заснований на зіставленні патернів, і «перекодувати» його набагато складніше, ніж звичайний алгоритм. Профілактичні заходи безпеки ті ж, що й для забезпечення справедливості: постійне навчання та здатність розрізняти аномальну ситуацію, залишаючи остаточне рішення за людиною.
2.3. Захист даних
Для навчання ІІ бази даних повинні постійно поповнюватися. Але людині незатишно на думку, що його особисті дані постійно моніторяться і використовуються, а для компаній і держав гостро постає питання секретності.
Для розвитку ІІ необхідна повна довіра до методів збирання, зберігання та використання даних. Тут потрібна прозорість (хто збирає, з якою метою) і послідовні технічні рішення та протоколи.
• Шифрування особистих відомостей.
• Відділення статистичних даних від ідентифікуючих.
• Захита від несанкціонованого доступу та підробок.
Слід розвивати чинне законодавство, з одного боку, що гарантує захист особистих даних, з іншого — повну доступність даних.
Рішення у тому, які дані підлягають захисту, приймається не алгоритмом, а законом і з урахуванням контексту. Так, немає необхідності шифрувати імена у списках співробітників компанії, але це цілком доречно у списках усиновлювачів.
2.3.1. Особлива проблема – бази даних компаній. Зібрані дані є значною цінністю, і за злитті компаній та його баз даних може виникнути монополія на унікальні дані.
Для фармацевтичних та медичних компаній виняткову цінність становлять накопичувані десятиліттями відомості про пацієнтів. Але якщо ці відомості буде монополізовано, ускладниться доступ до життєво важливої інформації.
Держава повинна забезпечити загальний доступ до публічних даних та розвивати законодавство, спрямоване на рівність доступу за дотримання анонімності.
2.4. Інклюзивність
ІІ створюється на благо всього людства, і чим більше людей буде їм охоплено, чим активніше використовуватимуться його можливості, тим більше користі принесуть нові технології. Інклюзивність передбачає включення широкого спектру досвіду, потребує врахування потенційних проблем та бар’єрів, пов’язаних з інвалідністю та складністю доступу.
Microsoft створює програми-супутники для незрячих, які повідомляють про дорожні знаки, читають меню та штрих-коди, розпізнають емоції на обличчях співрозмовників. Окремий напрямок компанії присвячено ПЗ для інвалідів.
Законодавство США вже передбачає загальну доступність технологій. Необхідний розвиток регламенту на міжнародному рівні з особливою увагою до країн, що розвиваються, незаможним, малоосвіченим, інвалідам.
2.5. Прозорість
Прозорість сприймається як гарантія дотримання всіх перелічених вище принципів. Вона забезпечується зрозумілістю для простого користувача протоколів роботи ІІ, принципів збору даних, алгоритмів рішення, права доступу.
Мicrosoft створює гранично простий та зручний для користувача інтерфейс, проводить регулярні тренінги та пропонує компаніям та держорганізаціям блоки, з яких ті можуть скласти кастомізований продукт під свої потреби.
2.6. Підзвітність
Творці програмного продукту несуть відповідальність за ефективність його роботи і повинні постійно перевіряти, як іде навчання ІІ і чи загроз збою.
Закони про злочинну недбалість мають бути поширені на цю сферу.
2.7. Шість законів ІІ мають на увазі постійний розвиток державного та міжнародного законодавства з максимальним охопленням усіх категорій юридичних та приватних осіб та життєвих ситуацій, спільну відповідальність компаній та держави, створення кастомізованого та зрозумілого користувачам продукту, безумовну підконтрольність ІІ людині, безперервне навчання людей та ІІ, регулярний прозорість та підзвітність як збору даних, так і алгоритмів.
2.8. Також законодавство має змінюватись з урахуванням зрушень, що відбуваються у сфері зайнятості, соціального забезпечення та освіти.
3. Що буде з роботою?
3.1. Головне побоювання, пов’язане з новими технологіями, навіть не страх, що їх можна звернути в зброю, а тривога за робочі місця. Кожен значущий етап промислової, а потім цифрової революції супроводжувався зникненням низки професій, але з появою ІІ страхи загострюються, адже ІІ позиціонується як остаточний інструмент, який визначає майбутнє, тобто зрушення відбудуться більш глибокі та з більш серйозними наслідками, ніж раніше. Вони торкнуться не окремі галузі, а весь світ професійної зайнятості, чого раніше не траплялося в історії людства.
3.2. Ще один страх пов’язаний з уявленням про ІІ як заміну людини. З’явиться розумна машина, яка вміє робити все, що робив водій, менеджер, юрист, репортер або навіть лікар, перекладач, учитель. Що робити тим, хто витратив життя на здобуття освіти, набуття навичок, створення кар’єри? І куди йти молодь?
Автоматизація продажу та логістики вже охоплює більшість інтернет-магазинів. Безпілотний транспорт – справа найближчого майбутнього. Підбір документів, перегляд аналізів та знімків, складання та переклад шаблонних документів, сортування пошти, тестування знань – все передається цифровим технологіям.
3.3. Розхожі страхи усуваються фундаментальним міркуванням: ІІ працює не замість людини, а разом із нею. Це не самостійна сутність, а помічник, який бере на себе рутинні обов’язки, щоб з величезною швидкістю та точністю виконувати завдання, компенсувати нестачу людських можливостей. Рішення, що закласти в ІІ, як ним користуватися, які дії робити завжди залишається за людиною. Людина не усувається, а, навпаки, зможе досягти набагато більшого разом із ІІ.
3.3.1. Якщо компанія скористається новими технологіями, щоб скоротити службовців та продовжувати надавати клієнтам ті ж послуги, вона виявиться неконкурентоспроможною поряд з компаніями, які завдяки технологіям розширять спектр послуг та «олюднять» їх.
З впровадженням автоматизованих кол-центрів банки суттєво збільшили кількість філій, найняли більше співробітників і замість колишньої вимоги швидко та оперативно розбиратися з клієнтами, навпаки, запровадили індивідуальне обслуговування з довгою та уважною бесідою.
3.4. Але ці страхи справедливі в тому сенсі, що людина зможе працювати тільки разом з ІІ, тобто всі, хто не отримає відповідних навичок, опиняться за бортом. Кожному працівникові, незалежно від сфери його діяльності, доведеться розбиратися в ІІ хоча б на рівні користувача, а для кар’єри знадобиться ґрунтовне знання законів та етики ІІ, розуміння можливих збоїв, вміння зберігати рішення за собою.
Зіставляючи патерни, ІІ визначає рівень загрози неповернення позики. Службовець банку не може автоматично відсівати клієнтів із певним рівнем загрози, він повинен зрозуміти, чому ІІ оцінив загрозу саме так і чи здійсниться загроза саме в цьому випадку — чи можна знайти індивідуальне рішення.
3.5. З появою ІІ низка професій справді зникне, але їм на зміну прийдуть інші. Це безпосередньо відбивається на освіті. Необхідно вчити гуманітаріїв основ ІІ, а програмістів та інженерів-робототехніків — етиці. Будь-якому фахівцю потрібно розуміти, як у його сфері може застосовуватися ІІ і що потрібно від нього як від фахівця. Проблема полягає в тому, що зміни відбуваються дуже швидко.
За деякими оцінками, 50% знань, здобутих на першому курсі, застаріють на момент отримання диплома.
3.5.1. Заповнювати нові робочі місця належить не тільки новим фахівцям, а й нинішнім перенавченим працівникам. Конкурентоспроможність у нинішньому світі й у майбутньому означає безперервне навчання.
Надання додаткової освіти, тренінгів, практики у суміжних відділах стає одним із ключових бонусів при виборі місця роботи.
3.6. Стрімкі зміни змушують переглянути як формат освіти і перепідготовки співробітника, а й формат найму працювати, вимог до співробітника, відносин між компанією та співробітниками. Цифрові технології вже дозволили значній частині фахівців перейти на віддалені форми роботи та фріланс, передбачається подальший розвиток фрілансу он-деманд, тобто замість постійного контракту компанії підбиратимуть спеціаліста на договорі для конкретного проекту.
3.6.1. Зростання фрілансу вимагає невідкладних змін соціального законодавства, оскільки на даний момент фрілансери недостатньо захищені соціально, для них не передбачено бюлетеня та оплату понаднормових, неясно, хто виплачуватиме їм пенсію. Нове законодавство має і у соціальній сфері, як і у сфері розвитку технологій, будуватися на принципі спільної відповідальності підприємств та держави.
3.7. Оскільки без володіння новими технологіями і компанії, і працівники виявляються неконкурентоспроможними, основною соціальною загрозою стає розрив доходів між освіченими і неосвіченими, розвиненими країнами світу, що розвиваються. Міжнародне та державне законодавство має бути спрямоване на забезпечення освіти всім верствам населення та всім жителям Землі, а також на загальну доступність комп’ютерних технологій.
Microsoft наполягає на загальної доступності нових технологій і з цією метою проводить тренінги в тому числі в сільській глибинці США та в країнах, що розвиваються. Концепція «будівельних блоків» (базових функцій, з яких користувач сам збирає те, що йому потрібно), також сприяє демократизації ІІ та максимального наближення його до потреб кожної людини.
Висновок
Передбачити всі наслідки розвитку ІІ неможливо, слід бути готовим до несподіванок, продумувати необхідні поправки до законодавства, заздалегідь готувати антидоти від злочинної недбалості, шахрайства та серйозніших злочинів аж до тероризму, гнучко змінювати систему навчання, постійно уточнюючи список необхідних навичок, розвивати систему , глобальної доступності та інклюзії.
Поява нових технологій відкриває небувалі можливості у всіх галузях — медицини, освіти, сільського господарства та промисловості. Стають реальністю профілактика епідемій; індивідуальна траєкторія освіти; моніторинг здоров’я з урахуванням генетичних факторів; логістика, яка забезпечить інтереси індивідуальних клієнтів та водночас убереже від дефіциту. Один із найважливіших наслідків — звільнення людини для власне людських справ.
ІІ давно перевершив людину в IQ і вдосконалюється у пасивному EQ, тобто розпізнаванні емоцій. Але “специфікою людини” залишаться такі властивості інтелекту, як креативність, співпраця, складна комунікація. Саме ці людські властивості будуть найбільш затребувані в епоху ІІ, і на них будуватиметься освіта та професійна орієнтація.
Закони та етичні принципи найближчого майбутнього мають бути людиноцентричними: виходити з інтересів людини, охороняти її приватне життя, забезпечувати рівні можливості та соціальний захист, зберігати за людиною право та відповідальність контролювати ІІ.
Не заперечуючи пов’язані з новими технологіями проблеми та виклики, команда Microsoft дотримується позитивного погляду: спільна відповідальність держав, компаній та приватних осіб, продумана політика, спрямована на єдність людства та інклюзію, розуміння здібностей людини та здібностей, які вона сама і вкладає в машину, ведуть нас у світ, далекий від апокаліптичних сценаріїв фантастів — у звичний та обжитий світ, де ми вже й так перебуваємо, але ще більш пропорційний людині.