Трохи історії
Термін «штучний інтелект» (ІІ) запровадив Джон Маккарті в 1956 році, запросивши групу дослідників на Дартмутський семінар 1 , щоб обговорити поняття «мислячі машини». На цьому семінарі група американських вчених представила першу програму штучного інтелекту Logic Theorist, розроблену для імітації навичок людей щодо вирішення різноманітних проблем.
Штучний інтелект визначається як галузь комп’ютерних наук, що займається моделюванням інтелектуальної поведінки у комп’ютерах, або як здатність машини імітувати розумну поведінку людини.
У 1958 році Герберт Саймон, один із творців Logic Theorist, передбачив, що протягом найближчих 10 років комп’ютер стане чемпіоном світу з шахів. Проте досить потужний для складних розрахунків різних сценаріїв гри комп’ютер створили набагато пізніше. І лише 1997 року IBM DeepBlue обіграла тодішнього чемпіона світу з шахів Гаррі Каспарова.
У наступні роки розробки ІІ велися у двох основних напрямках: збільшення обчислювальної потужності комп’ютерів та здатність ІІ перепрограмуватися з урахуванням власного досвіду. Були створені перші чат-боти, програми для розпізнавання мови та голосу.
Наприкінці 1990-х років у процес розробки ІІ інтегрувалися робототехніка та людино-машинний інтерфейс. З’явилася нова сфера досліджень — афективні обчислення 2 , що аналізують емоційні реакції людини. Вчені вперше заговорили про можливість створення ІІ, здатного відчувати та виражати емоції.
У середині 2000-х років Nvidia розробила нові графічні процесори, які уможливили створення складної архітектури нейронних мереж для вирішення прикладних завдань. У цей час почалося бурхливе зростання машинного навчання.
У 2011 році Apple створила Siri, через кілька років Microsoft і Amazon випустили своїх голосових помічників — Cortana і Alexa. Віртуальні помічники спостерігали за своїми користувачами, відповідали на їхні запити, робили висновки та давали рекомендації.
Програма Watson у 2011 році виграла у гравців-ерудитів у телевікторині. У 2016 році Alpha Go від Google обіграла Лі Седоля, одного з найкращих гравців у го, з рахунком 4:1. У 2018 році на конференції Google віртуальний помічник Google Duplex зателефонував до офісу та призначив зустріч від імені свого користувача. Адміністратори офісу навіть не зрозуміли, що говорили із роботом.
Сфера застосування
Охорона здоров’я. У медицині ІІ дозволив досягти особливих успіхів.
• Ізраїльські дослідники надрукували на 3D-принтері перше у світі серце з людських тканин.
• Використання ІІ у роботизованій хірургії дозволяє скоротити кількість післяопераційних ускладнень у п’ять разів та скорочує час госпіталізації на 21%.
• Алгоритм датської компанії Corti щодо виявлення позалікарняної зупинки серця показав точність на рівні 95%, тоді як живий лікар не помилився лише у 73% випадків. Corti разом із диспетчером центру екстреної допомоги аналізує слова, інтонації того, хто дзвонить, фонові шуми і при виявленні ознак зупинки серця дає диспетчеру сигнал.
• Ізраїльська компанія Viz.ai за допомогою ІІ виявляє проблеми із кровообігом на КТ-знімках головного мозку.
• Ізраїльський онлайн-сервіс ZebraAI1 ставить діагноз за $1, аналізуючи знімки КТ, МРТ та інші медичні зображення за допомогою алгоритмів ІІ. При тестуванні на архівних матеріалах Окcфордського шпиталю ця система показала майже стовідсоткову точність у постановці діагнозів.
• Дослідження, проведене у 2018 році Меморіальним онкологічним центром США та кількома німецькими та французькими університетами, показало, що при діагностиці раку шкіри ІІ показав точність 95% порівняно з 86% у професійних дерматологів.
• ІІ успішно використовується у прогнозуванні ускладнень, пов’язаних з діабетом, хворобами серця, артеріальною гіпертензією, хворобою Паркінсона.
• Фармацевтичні компанії використовують ІІ для відкриття ліків на основі низькомолекулярних сполук 3 .
• На основі ІІ здійснюється віртуальний догляд за пацієнтами. Віртуальний помічник може цілодобово обробляти скарги пацієнтів, перевіряти результати аналізів, підбирати медичні заклади або з’єднати пацієнта з потрібним і доступним фахівцем. У деяких випадках ІІ може навіть забезпечувати комунікацію між лікарем та пацієнтом та призначати ліки, скорочуючи кількість візитів до лікаря.
• Суперкомп’ютер Watson від IBM використовується у великих медичних центрах по всьому світу, допомагаючи онкологам виявити патології пацієнтів та підібрати оптимальне лікування. Перед введенням в експлуатацію у 2013 році він опрацював 1,5 млн історій хвороби і зараз постійно вдосконалюється, відстежуючи останні досягнення у галузі медицини, переглядаючи мільйони клінічних випробувань, звітів, карт пацієнтів, статей у авторитетних медичних виданнях.
• У 2017 році дослідники з Університету Альберти розробили наномашину, яка може на ранній стадії діагностувати захворювання та доставляти ліки.
• У 2018 році нанороботи вперше успішно спрацювали під час лікування ракових пухлин у мишей.
Фінанси. Технологічні рішення з урахуванням ІІ широко застосовуються банками.
• “Кредитна фабрика” Ощадбанку знижує ризики видачі “поганих” кредитів, скорочує терміни розгляду заявок та трудовитрати працівників. За 10 років роботи системи Ощадбанк видав кредитів у сумі 12,3 трлн рублів.
• Сінгапурський стартап Lenddo у своєму алгоритмі аналізу кредитоспроможності використовує «цифровий слід» — будь-яку інформацію про користувача, до якого він дає доступ до спеціального додатку для смартфона. За три хвилини після подання заявки алгоритм аналізує понад 12 тисяч показників онлайн-активності людини та розраховує кредитний рейтинг. Технологію Lenddo використовують гіганти кредитного скорингу – компанії FICO та Experian.
• Стартап Zestfinance використовує свою платформу для кредитного андеррайтингу 4 у споживчому, іпотечному, комерційному кредитуванні та автокредитуванні. Zestfinance співпрацює з Microsoft, Ford Credit, Discover Financial Services та Baidu.
• Стартап Upstart при розрахунку рейтингу кредитоспроможності користувача враховує історію його позик, дані про доход, освіту, спеціалізацію та досвід роботи. За п’ять років існування Upstart видала кредитів на суму $3,8 млрд. 60% із них видано повністю автоматично в середньому за півгодини. При цьому 90% виданих кредитів було погашено у строк.
• Найбільші банки використовують технології ІІ для створення власних чат-ботів. Наприклад, азіатський банк OCBC запустив програму Emma, яка менш як за рік роботи допомогла оформити кредити на суму понад $70 млн, і 90% клієнтів залишилися задоволеними якістю її роботи.
• Інвестиційний банк GoldmanSachs замінив алгоритмами ІІ трейдерів. Замість 600 трейдерів у банку залишилися лише двоє. Роботу інших виконують програми автоматизованої торгівлі, їх обслуговують 200 комп’ютерних інженерів.
• Банк JP Morgan Chase для виконання рутинних операцій використовує роботизовану автоматизацію Kofax, яка дозволила підвищити продуктивність на 35–50%, виключити помилки введення даних, прискорити час обробки інформації на 35–50% та знизити витрати компанії на 25–50%.
• На основі ІІ створюються також системи виявлення та запобігання шахрайству. Наприклад, платформа Digital Intelligence від Mastercard аналізує дані з облікових записів у режимі реального часу та попереджає про аномальні відхилення у покупках або транзакціях. Так система може оперативно відреагувати на спроби шахрайства та запобігти крадіжці коштів.
Нафтогазова галузь. У нафтовій та газовій промисловості ІІ застосовується в основному для розвідки родовищ нафти та газу.
• Total Oil разом із Google Cloud розробляють систему аналізу сейсмічної активності на потенційному родовищі, щоб замінити ручну працю геологів.
• Exxon Mobil із дослідниками з Массачусетського технологічного інституту розробляють прототип глибоководних геологорозвідувальних роботів, які замінять команди дайверів та геологів.
• Schell використовує платформу Azure C3 IoT від Microsoft для підвищення ефективності всіх процесів – від буріння до забезпечення безпеки працівників.
• «ГазпромНафта» спільно з IBM Services розробила програму, що самонавчається, яка з високою точністю передбачає родовища, які важко виявити стандартними способами. У ході пілотного проекту програма вивчила дані понад 3 тисячі свердловин і змогла запропонувати нові варіанти родовищ. Промислові роботи підтвердили наявність вуглеводнів у зазначених пластах.
Віртуальні помічники. Основна функція таких помічників – розпізнавання та виконання голосових команд користувача. Siri, Alexa, Аліса відкриті для доопрацювань, що дозволяє програмістам з усього світу розширювати список їхніх можливостей. Наприклад, Аліса здатна грати в ігри, читати дитині, замовляти товар, співати пісні, керувати «розумним» будинком, жартувати і навіть тактовно дати відсіч.
Xiaoice, створена китайським підрозділом Microsoft, крім інтелекту має емпатію, здатна налаштовуватися на емоції користувача та підтримувати повноцінну розмову. Крім того, Xiaoice написала 139 поем, десятки пісень та створила власну колекцію принтів для одягу.
Транспорт. Автоматизовані системи керування в майбутньому забезпечать перехід до безпілотного транспорту.
• Лідер на цьому ринку – компанія Waymo One, яка почала тестувати перші безпілотні автомобілі ще у 2009 році. За цей час безпілотники Waymo проїхали понад 16 млн кілометрів у 20 містах США дорогами загального користування.
• У 2017 році власний проект безпілотного таксі презентував «Яндекс». Технології “Яндекса” тестуються в Іннополісі 5 у Татарстані та на базі науково-дослідного центру “Яндекса” в Тель-Авіві, де безпілотникам дозволено пересуватися дорогами загального користування. Повноцінний запуск безпілотного таксі «Яндекс» може здійснити вже 2022 року.
• Японська компанія Muji та французька NAVYA виробляють екологічні роботизовані автобуси.
• Лідер ринку поштових та кур’єрських послуг FedEx планує розпочати тестування невеликого робота-кур’єра SameDay Bot для доставки товарів та посилок.
• Amazon планує використовувати для доставки товару безпілотних дронів. Сервіс може стати доступним вже у 2019 році.
• Uber та Дорожньо-транспортне відомство Дубая заявили про швидкий запуск безпілотного літаючого таксі, а китайська Ehang48 та голландська Pal-V вже презентували перші моделі літаючого безпілотного транспорту.
Соціальний кредитний рейтинг. У 2014 році Китай розпочав створення національної системи соціального кредитування. Кількість балів соціального кредиту кожного громадянина країни вимірюватиметься в режимі реального часу з урахуванням не лише фінансових даних, а й поведінки в інтернеті, покупок, порушення правил дорожнього руху, дотримання соціальних зобов’язань.
Високий рейтинг дає доступ до різноманітних пільг, знижок на комунальні платежі, онлайн-курси, туристичні поїздки, консультації лікаря. Низький рейтинг призводить до потрапляння до чорних списків та обмеження пересування навіть усередині країни. Передбачається, що вже до 2020 року система зможе ідентифікувати будь-якого громадянина протягом трьох секунд, а рейтинг і всі дані будуть доступні громадянам.
Smart-міста. «Розумне» місто є взаємопов’язаними мережами пристроїв і датчиків, де кожна мережа відповідає за одну з систем — водопостачання та водовідведення, дорожній рух, моніторинг рівня забруднення тощо. Більшість даних для мереж генерується фото- та відеокамерами. Аналіз знімків і відео допомагає швидко знайти загублену людину, виявити злочин, оптимізувати транспортні потоки, економити електроенергію, боротися із соціальною нерівністю та багато іншого.
Збройні сили. Системи ІІ використовуються військовими як для створення зброї, так і у стратегічному та тактичному управлінні.
• До складу збройних сил Росії, США, Китаю, Великобританії, Ізраїлю входять кіберпідрозділи, завдання яких – запобігання ворожим кібератакам та організація власних.
• Технології ІІ використовуються для створення підводних човнів, катерів берегової охорони, літальних апаратів, бойових машин, бойових роботів, гіперзвукової зброї.
• ІІ також передбачається використовувати для інтегрованого командування та управління різними видами військ, пошуку слабкостей противника, виявлення вразливостей систем захисту та вибору моменту для заподіяння найбільших збитків.
Проект «Гільгамеш», або «Надлюди». В епосі давньої Месопотамії бог Гільгамеш шукав шляхи набуття безсмертя. І схоже, нанотехнології разом із можливостями ІІ здатні наблизити людство до цієї мети. Так, останні наукові розробки у цій сфері дозволяють значно збільшити тривалість життя, уповільнити старіння та зберегти пам’ять.
• Технологія модифікації генів CRISPR Cas974 дозволяє редагувати геном так, щоб забезпечити схильність людини до різних захворювань і патологій.
• Компанія Ілона Маска Neuralink на основі технології зчитування сигналів нейронів мозку розробляє інтерфейс для паралізованих людей, який дозволить їм керувати комп’ютерами та смартфонами силою думки.
• Ще один варіант застосування нейрокомп’ютерного інтерфейсу – створення екзоскелета – набору вживлених в організм людини пристроїв, які багаторазово посилюють фізичні можливості.
Прогнози
Вернор Віндж, вчений і автор концепції сингулярності (від латів. singularis — єдиний, особливий), вважає, що штучний інтелект зможе перевершити людський завдяки самонавчальності.
Людський мозок може виконувати до 200 трлн операцій на секунду. Процеси, які у ньому, вимагають особливих свідомих зусиль з боку людини, але машині дуже важко їх імітувати. Вчені вважають, що найближчим часом алгоритми нашого розуму будуть розшифровані та інтегровані в нейронні мережі комп’ютерів. У цьому випадку штучний інтелект стане в мільярди разів потужнішим за людський. Згідно з гіпотезою, це викличе неконтрольоване технологічне зростання і, як наслідок, незбагненні зміни цивілізації.
На думку футуролога Рея Курцвейла, а також вченого та фахівця в галузі штучного інтелекту Юргена Шмідхубера, сингулярність настане приблизно у 2045 році. Технолог і винахідник Луї Розенберг припускає, що це станеться вже 2030-го.
Курцвейл вважає, що в майбутньому нейронні патерни та синапси мозку можна буде завантажувати в комп’ютер, створивши за їх допомогою версію людського розуму, яка має пам’ять, емоції, інстинкти, інтуїцію та думки.
Небезпеки
Крім величезних можливостей, ІІ таїть у собі серйозні ризики.
• У сфері охорони здоров’я за його допомогою можна створювати негативні сценарії розвитку хвороб, синтезувати найсильніші отрути, редагувати геноми не лише окремих людей, а й цілих народів.
• У сфері фінансів кредитний рейтинг запроваджує суворі обмеження. Хочете отримувати фінансові можливості — будьте передбачуваними для алгоритмів оцінки.
• За допомогою віртуальних помічників високотехнологічні корпорації отримують доступ до максимально повної інформації про ваші переконання, бажання, емоції. Все це може використовуватися для більш ефективного націлення і, зрештою, маніпулювання свідомістю.
• «Розумні» міста підвищують якість життя. Але що більше систем управління містом підпорядковується ІІ, то вище ціна збою, викликаного технічними проблемами чи кібератаками.
Подальший розвиток ІІ передбачити складно, і в умовах боротьби за першість у цій галузі світ потребує норм міжнародного права, які забезпечать безпечну розробку та використання систем ІІ.
«Асиломарські принципи»
У 2017 році в Пасифік Гров відбулася конференція, присвячена проблемам та перевагам ІІ. Рей Курцвейл, Ілон Маск, Стівен Хокінг, Деміс Хасабіс, Янн Ле Кун та інші вчені та фахівці в галузі ІІ та суміжних областях прийняли «Асіломарські принципи штучного інтелекту», покликані окреслити етичні норми в цій галузі.
Область досліджень
1. Мета дослідження : повинна лежати у сфері створення не безцільного розуму, але систем, вкладених у принесення користі людству.
2. Фінансування досліджень : інвестиції в ІІ повинні супроводжуватися субсидуванням досліджень, спрямованих на пошук корисних способів застосування ІІ, в контексті яких розглядаються непрості питання в галузі комп’ютерних наук, економіки, права, етики та соціальних наук.
3. Діалог : потрібен конструктивний та здоровий діалог між дослідниками ІІ та політичним керівництвом.
4. Культура : серед дослідників та розробників систем ІІ має заохочуватися культура взаємодії, довіри та відкритості.
5. Відсутність конкуренції : команди розробників ІІ повинні активно взаємодіяти один з одним, щоб уникнути неналежного виконання стандартів безпеки.
Етика та цінності
6. Безпека : системи ІІ повинні бути безпечні та захищені протягом усього терміну експлуатації, а в ситуаціях, де це доцільно, штатна робота ІІ повинна бути легко верифікована.
7. Відкритість збоїв у системі : якщо система ІІ завдає шкоди, має бути можливість з’ясувати причину.
8. Відкритість системі правосуддя : будь-яка участь автономної системи ІІ у прийнятті судового рішення має бути задовільним чином обґрунтовано та доступно для перевірки компетентним органам.
9. Відповідальність : розробники та творці просунутих систем ІІ безпосередньо відповідальні не тільки за фізичні, але й за моральні наслідки використання ІІ, а також можливі зловживання.
10. Синхронізація цінностей : системи ІІ з високим ступенем автономії повинні бути розроблені так, щоб їх цілі та поведінка були узгоджені з людськими цінностями протягом усього часу роботи.
11. Людські цінності : будова та функціонування систем ІІ має бути узгоджено з ідеалами людської гідності, правами, свободами та культурною різноманітністю.
12. Захист особистих даних : за наявності у систем ІІ можливості аналізу та використання персональних даних люди повинні мати доступ до них та можливість їх контролювати та коригувати.
13. Свобода і конфіденційність : застосування систем ІІ до персональних даних не повинно безпідставно скорочувати реальну чи суб’єктивно сприйману свободу людей.
14. Спільна вигода : технології ІІ повинні приносити користь максимально можливому числу людей.
15. Спільне процвітання : економічні блага, створені за допомогою ІІ, повинні набути широкого поширення задля принесення користі всьому людству.
16. Контроль ІІ людиною : люди повинні визначати процедуру та ступінь необхідності передачі системі ІІ функції прийняття рішень для виконання цілей, поставлених людиною.
17. Стійкість систем : ті, хто має вплив, керуючи просунутими системами ІІ, повинні поважати та покращувати суспільні процеси, від яких залежить здоров’я соціуму, а не підривати такі.
18. Скорочення озброєнь : варто уникати гонки озброєнь в області автономної летальної зброї.
Довгострокова перспектива
19. Адекватна оцінка можливостей : варто уникати впевнених припущень щодо верхнього порогу можливостей ІІ майбутнього, особливо без консенсусу з цього питання.
20. Висока важливість : просунутий ІІ може спричинити докорінні зміни в історії життя на Землі, і його розробка та управління повинні здійснюватися за наявності відповідних ресурсів та в умовах особливої ретельності.
21. Зменшення ризиків : потенційні ризики, пов’язані з системами ІІ, особливо небезпека катастроф або загроза існуванню життя в цілому, повинні купуватися діями щодо планування та пом’якшення ризиків, пропорційними можливому масштабу впливу.
22. Рекурсивне автонавчання : системи ІІ, розроблені для покращення ефективності власних алгоритмів та самовідтворення, що веде до швидкої зміни якості та кількості, повинні бути об’єктом застосування заходів жорсткого регулювання та контролю.
23. Загальне благо : надрозум повинен бути розроблений виключно з метою, що відповідає більшості етичних ідеалів, і для користі всього людства, а не однієї держави чи організації.
10 найкращих думок
1. Штучний інтелект визначається як галузь комп’ютерних наук, що займається моделюванням інтелектуальної поведінки у комп’ютерах, або як здатність машини імітувати розумну поведінку людини.
2. Рутинні операції, що повторюються, і операції, що вимагають вивчення та аналізу великої кількості даних, ІІ виконує більш якісно, ніж людина , і в майбутньому вона повністю замінить людину в цих операціях.
3. Штучний інтелект зможе перевершити людський завдяки самонавчальності.
4. Після дешифрування алгоритмів роботи людського мозку та інтеграції їх з ІІ штучний інтелект стане в мільярди разів потужнішим за людський.
5. ІІ здатний покращити здоров’я людей та помітно збільшити тривалість життя.
6. Ймовірно, скоро всі люди у світі матимуть соціальний рейтинг, що розраховується за допомогою ІІ і дозволяє не лише отримувати преференції, а й зазнавати обмежень.
7. Подальший розвиток ІІ неминучий, та його наслідки незбагненні.
8. Основні загрози ІІ пов’язані з навмисним використанням технологій та алгоритмів для заподіяння шкоди.
9. Для забезпечення безпеки розробки та використання систем ІІ потрібно створення норм міжнародного права , які регламентуватимуть розвиток ІІ.
10. Етичні норми в галузі розвитку та використання ІІ описані у 2017 році групою фахівців як «Асіломарські принципи».
1 . Науковий семінар у Дартмутському коледжі з питань штучного інтелекту, який тривав два місяці.
2 . Головна мета афективних обчислень — уможливити машинну імітацію емпатії, коли машина зможе інтерпретувати емоції людини та адаптувати свою поведінку у відповідь на них.
3 . Низькомолекулярні речовини мають кращу біодоступність, тобто здатність досягти «місця призначення» в організмі з мінімальною кількістю втрат. У більшості випадків низькомолекулярні лікарські сполуки можна приймати у вигляді капсул або таблеток, тоді як ліки білкової природи, як правило, потребують ін’єкцій.
4 . Андеррайтинг (від англ. underwriting — підписка) у банківській справі — процедура оцінки банком ймовірності погашення чи непогашення кредиту, а також оптимальне структурування угоди за наслідками незалежної експертизи ризиків.
5 . Місто-супутник Казані, один із трьох наукоградів і одне з кількох збудованих із нуля міст у пострадянській Росії.