Як навчається машина? Революція в галузі нейронних мереж та глибокого навчання | Ян Лекун

Автор: Ян Лекун 

Ці швидкі, але дурні машини

ENIAC, один із перших програмованих електронних комп’ютерів, створений 1945 року в Університеті Пенсільванії для військових цілей, міг перемножити 360 десятизначних чисел за секунду. І це здавалося дивом.

Сучасні персональні комп’ютери в мільярд разів швидше – їхня продуктивність обчислюється сотнями гігафлопс. Суперкомп’ютери поєднують десятки тисяч графічних процесорів продуктивністю в десятки терафлопс. Їх процесори досягають швидкості сотні тисяч терафлопс . Вони прогнозують погоду, розраховують повітряний потік навколо літака, моделюють минуле, наприклад, початок існування Всесвіту.

Всі ці складні маніпуляції включають чисельне розв’язання диференціальних рівнянь чи рівнянь у приватних похідних. У минулому математики проводили подібні обчислення вручну. Однак машини не можна вважати такими ж розумними, як були вчені-математики, тому що комп’ютери, незважаючи на неймовірну обчислювальну потужність, не вміють самостійно вирішувати інтелектуальні завдання . Програми штучного інтелекту можуть вчитися, але поки що набагато гірше і повільніше людей і навіть тварин.

Софія — гарна дівчина-гуманоїд із загадковою усмішкою та живою мімікою у 2017 році давала інтерв’ю журналістам та зачаровувала саудівських шейхів, які навіть дали їй громадянство країни. Журналіст цікавиться, чи справді роботи незабаром захоплять Землю. Софія чарівно посміхається і заявляє: «Вам потрібно менше дивитись голлівудські фільми». Невже роботи можуть жартувати? Зовсім ні. Софія — просто маріонетка, до якої програмісти залили набір стандартних відповідей на багато запитань. Їй щось кажуть, і програма зіставлення швидко вибирає з каталогу відповідну реакцію. Іншими словами, Софія обманює аудиторію, вдаючи кмітливої ​​красуні з почуттям гумору.

Машини поки що виконують дії, не розуміючи, що вони роблять, оскільки не мають здорового глузду . Якщо системи штучного інтелекту помістити на шкалу інтелектуальних здібностей від миші до людини, вони виявляться значно ближче до миші, незважаючи на надлюдську продуктивність ІІ в точних і вузькоспеціалізованих завданнях.

Це саммарі дає відповіді на запитання: як навчається машина? Чи нас наздоженуть комп’ютери з інтелектуальних здібностей? Якщо це станеться, то як скоро? І чи варто нам побоюватися панування машин у майбутньому?

Еволюція машинного навчання

Людина з давніх-давен намагається створити пристрої, схожі на нього. Вчені минулого століття, здавалося, були за крок від повної механізації розумового процесу та заміни людей роботами у багатьох сферах. Однак сьогодні ми все ще далекі від цього.

У 1950-х роках вчені, які займаються класичним ІІ, заснованим на логіці та графах, шукали все нові сфери для його застосування. У той же час з’явився новий перебіг у комп’ютерній науці, прихильники якого вважали, що для вирішення складних завдань однієї логіки недостатньо.

Замість того, щоб відтворювати логічні ланцюжки людських міркувань, вони запропонували копнути глибше — дослідити, а потім і змоделювати носій цієї логіки, приголомшливий біологічний процесор — людський мозок. Піонери машинного навчання почали працювати над створенням оригінальної архітектури мережі математичних функцій, що їх назвали штучними нейронами. Вони вловлюють вхідний сигнал та обробляють його таким чином, що на виході цей сигнал ідентифікується. Будь-яка операція, наприклад, розпізнавання образів, підтримується комбінованою взаємодією штучних нейронів.


Перша машина, що навчається

У 1957 році в Корнельському університеті психолог Френк Розенблатт побудував перцептрон – першу машину, що навчається. Вона є еталонною моделлю машинного навчання. Після навчання перцептрон здатний, наприклад, розпізнавати образи (геометричні постаті, букви). Однак перцептрон не всесильний. Система, що складається лише з одного шару штучних нейронів, має обмеження.

Машина Розенблатта була величезною металевою шафою вагою в кілька тонн з проводами, що стирчать в різні боки. Він мав штучну сітківку — мережу фотоелементів, які приймали зображення на вході, і сотні автоматизованих приводів (змінних резисторів ), які керували показниками ваг і підключені до електродвигуна. Електронна схема обчислювала виважену суму напруги входів на сітківці, що задається змінними резисторами. Якщо ця виважена сума перевищувала граничне значення, загорявся вихідний індикатор. Якщо сума не перевищувала граничне значення, індикатор не загорявся.

Новизна перцептрону полягала в його здатності до навчання: він автоматично регулював ваги після демонстрації кожного нового зображення, приводячи їх у відповідність до бажаного виходу. Перцептрон започаткував машинне навчання з учителем. Процедура навчання налаштовує параметри мережі таким чином, щоб результат наближався до бажаного. Після навчання машина здатна навіть розпізнавати приклади, яких вона ніколи не бачила, це називається здатністю до узагальнення. Сьогодні все, що робила машина Розенблатта, виконує найпростіша комп’ютерна програма завдовжки кілька рядків.


Глибокі сіті

Щоб наблизити діяльність ІІ до роботи мозку, недостатньо було відтворити його будову. Потрібно було зробити системи здатними до навчання за аналогією до механізмів навчання людського мозку. Так виник напрямок глибокого навчання (deep learning) та штучних нейронних мереж. На механізмах глибокого навчання та нейронних мереж працюють сучасні комп’ютерні системи, включаючи автономні автомобілі. Зіткнувшись з обмеженнями перцептрону, дослідники почали накладати кілька шарів нейронів один на одного, щоб машини могли вирішувати складніші завдання. Принцип навчання залишився тим самим: параметри мережі налаштовуються таким чином, щоб система припускалася мінімум помилок. Наскрізне навчання багатошарових мереж це так зване глибоке навчання, або навчання перетворення вхідних даних в осмислені уявлення.

У найпростіших багатошарових мережах усі нейрони одного шару пов’язані з усіма нейронами наступного шару. У багатошаровій мережі первинні верстви виступають у ролі екстракторів ознак, що створюються не вручну, а автоматично – у процесі навчання. Функціональність багатошарових нейромереж найкраще ілюструють приклади, пов’язані з розпізнаванням зображень.

Проаналізуємо приклади різного написання букв C і D за допомогою двошарової мережі, щоб показати, як одиниці первинного шару можуть виявляти шаблони, характерні для C і D. чи розміром. Однак, якщо додати ще один шар нейронів, проблема буде вирішена. Нейрони первинного шару будуть знаходити патерни, характерні для C і D. Такі детектори створюються автоматично, тому що в мережі використовується зворотне поширення, яке автоматично виявляє відмінні риси або шаблони. Наприклад, безперервна лінія з двома відкритими кінцями характерна тільки для C. Наявність ліній, що утворюють близький до прямого кут, вказує на D і т. д. Перший шар веде себе як екстрактор ознак, а другий як класифікатор, але всі рівні мережі навчаються одночасно .


Згорткові мережі

Невід’ємною частиною глибокого навчання стали згорткові нейронні мережі – особливий тип нейронних мереж, націлений на розпізнавання образів. Для згорткових мереж характерні:

  • особлива архітектура з’єднання – ієрархія простих та складних нейронів, змодельованих за зразком клітин зорової кори;
  • наскрізне навчання системи, що змінює архітектуру мережі;
  • можливість навчання на зображеннях із кількома символами (наприклад, поштовий індекс) без необхідності сегментувати символи один від одного.

Ян Лекун побудував свої перші мережі згортки в 1988 році і протестував їх на невеликому наборі даних. Однак широкого поширення вони набули лише у 2012 році. У наші дні згорткові мережі є у більшості систем розпізнавання зображень. У тому числі вони дають змогу сегментувати медичні зображення.

У 2015 році в Массачусетському технологічному інституті Себастьян Син (Sebastian Seung) реконструював нейронні ланцюги частини сітківки кролика, тривимірне зображення якого було отримано за допомогою електронної мікроскопії спільно з мережами згортки. Вчені з Нью-Йоркського університету використовують згорткові мережі для маркування МРТ тазостегнового суглоба.

Машинне навчання сьогодні

Штучний інтелект у наші дні має широкі можливості аналізу, розпізнавання та автоматичної класифікації. Він допомагає людям вирішувати різноманітні завдання, які вони виконували самі. Багато функцій ІІ вже перестали бути інноваціями, перетворившись на звичні складові нашого життя. Ось деякі з них.


Розпізнавання зображень

Здається, немає нічого простішого, ніж набрати слово у пошуковій системі та отримати на екрані зображення. Однак це елементарне завдання виконується за рахунок потужної системи штучного інтелекту. Видаючи відповіді, що оптимально підходять для запиту, мережа згоряння спочатку переглядає багато мільйонів зображень.

У Google така система працює безперервно. Вона переглядає колекції фотографій та інших зображень в інтернеті та обробляє їх за допомогою згорткової мережі, яка займається їхньою ідентифікацією.

У Facebook кілька мереж згортки щодня аналізують мільярди зображень, що завантажуються на їх сайт.

Google і Facebook збирають мільйони зображень і спочатку позначають їх вручну (це роблять або користувачі, або наймані співробітники). Коли Google ставить вам запитання: «На якому зображенні ви бачите світлофор?», Ви також робите свій внесок у цю роботу. Інженери використовують ці дані для навчання згорткових мереж, щоб ті могли позначати мільярди зображень, які не були позначені вручну. Так, Google і Facebook створюють списки тегів, що зберігаються на серверах центрів обробки даних.

Ви вводите в рядок пошуку “статуя свободи” і миттєво отримуєте безліч зображень цього монумента, тому що бібліотека зображень з написом “статуя свободи” вже існує, як і списки зображень для мільйонів інших слів та словосполучень.

Метадані спрощують візуалізацію фотографії. Турист, який гуляє поряд з Ейфелевою вежею, мабуть, сфотографується поряд з нею, а не біля єгипетської піраміди.

Візуальне розпізнавання також використовується для фільтрації забороненого візуального контенту – порнографії, сцен насильства і т. д. Це завдання виконується мережами згортками, які були навчені за допомогою тисяч зображень, помічених заздалегідь.


Розпізнавання мови

Звуковий сигнал на вході перетворюється на послідовність чисел. Такі послідовності називають зразками, кожен з яких показує тиск повітря на мікрофон у певний момент часу. Для мовного сигналу потрібно 10 тисяч зразків на секунду. Більшість систем розпізнавання мови спочатку обробляють цю послідовність за аналогією із внутрішнім вухом людини. У процесі перетворення звуку створюється уявлення сигналу, що передається у нейронної мережі.

Кожну розмовну мову можна як послідовність фонем. У французькій мові є звуки “а”, “оу”, “ой”, “він”, “та”, “ті” і т. д. Кожна фонема складається з набору елементарних звуків – фонів. Французька фонема “ой” складається з трьох фонів: “о” – на початку, “а” – наприкінці і короткого звуку між ними. Мова може містити до 3 тисяч таких фонів, тому що звучання зумовлене фонетичним оточенням.

Звук «п» у середині слова apparaître дещо інший, ніж у середині слова opposé.

Згорткова мережа, яка називається в системах розпізнавання мовлення акустичною моделлю, відносить звук до однієї з цих 3 тисяч категорій. Вона виводить список із 3 тисяч оцінок, що показують ймовірність того, що цей звук відноситься до однієї з 3 тисяч категорій фонів. Так, вихід мережі є вектором з 3 тисяч компонентів кожні 10 мілісекунд.

Будь-яку фразу можна подати у вигляді зображення, розмір якого залежить від довжини фрази. На виході мережі виходить послідовність векторів змінної довжини із 3 тисяч компонентів. Потім із цієї послідовності потрібно витягти ряд слів. Для цього використовуються словесні та мовні моделі. Мовна модель, яку навчають розмовних фразах, показує, які послідовності слів можливі (чи найімовірніші) у тому чи іншій мові.

Для перетворення послідовності елементарних оцінок звуку в послідовність слів використовується декодер, що шукає серед послідовностей слів з максимальною оцінкою ту, що відповідає послідовності слів, найбільш ймовірною з погляду мовної моделі. Згорткові мережі є майже у всіх додатках, де використовується мова.

Віртуальні помічники, наприклад Алекса, перетворять запити в текст для подальшого аналізу системи.


Розуміння мови

Для розуміння запиту недостатньо легко розшифрувати звуки. Віртуальний помічник повинен правильно класифікувати сам запит — розшифрувати зміст і зміст.

Користувач запитує (а система записує): “Яка погода буде завтра?”, або: “Завтра піде сніг?”, або: “Завтра буде холодно?” Віртуальний помічник має «зрозуміти», що всі ці запити означають те саме — «дати прогноз погоди наступного дня».

Інженери Amazon задали для Алекси близько 80 різних намірів: зателефонувати комусь, дати інформацію про пробки на дорозі, вибрати радіостанцію, включити пісню… Намір розпізнається, і сервер Amazon виконує відповідне завдання.

Визначення наміру необхідне при пошуку інформації. Цим займаються нейронні мережі-трансформери.

Ви вводите в рядок браузера “населення Ісландії”. Запит обробляється нейронною мережею Google, яка представляє його значення у вигляді списку чисел або вектора. Мережа порівнює цей вектор із векторами контенту з мільярдів сторінок в інтернеті. Якщо виявляється подібність, контент відображається пошуковою системою.

Мовні моделі використовуються також для систем перекладу та створення текстів.


Наука

Глибоке навчання широко використовують у різних науках: в астрофізиці (класифікація галактик), матеріалознавстві (створення метаматеріалів), нейробіології (розуміння механізмів сприйняття у головному мозку) тощо.

Особливо успішно застосовується глибоке навчання в біомедичній: наприклад, для передбачення просторової структури білків. Білки, що складаються з різноманітних амінокислот, є основою клітин живих організмів. Вони синтезуються з урахуванням структури генів (послідовності нуклеотидів в ДНК). Після формування білки набувають певної конфігурації, щоб взаємодіяти з іншими білками та виконувати різні функції. Щоб знайти нові препарати чи методи лікування, які б перешкоджали чи, навпаки, сприяли зчепленню білків, потрібно передбачати біохімічні механізми, які забезпечують правильну конфігурацію білків. З цим ефективно справляються нейронні мережі, наприклад AlphaFold від DeepMind.

Машинне навчання у майбутньому

Можливості ІІ поки що обмежені. За розумом найкращі системи поступаються навіть кішці, мозок якої містить 760 млн. нейронів і 10 000 млрд. синапсів. У мозку людини 86 млрд нейронів, а споживана потужність – 25 Вт. Він здатний виконувати 1,5×1018 операцій за секунду. Потужна відеокарта здатна виконувати лише 1013 операцій на секунду і споживає близько 250 Вт. Щоб зрівнятися за потужністю з людським мозком, доведеться об’єднати сотню тисяч процесорів, і цей гігантський комп’ютер споживатиме в мільйон разів більше енергії, ніж людський мозок.

Дослідники ІІ у провідних світових лабораторіях мають доступ до подібних обчислювальних потужностей, проте поки що технічно складно зробити так, щоб усі ці процесори одночасно працювали над одним завданням.


Основні сфери застосування

Сьогодні промислові компанії зацікавлені у розвитку ІІ у чотирьох основних напрямках: медицина, автономний транспорт, віртуальні помічники та побутові/промислові роботи. ІІ вже справив значний вплив на перші два напрямки — медицину та керування автомобілем, але це лише початок шляху.

Поки що важко уявити повністю автономний автомобіль на вулицях Риму або Калькутти в годину пік. Робот-хірург, який проводить операцію на відкритому серці, теж з’явиться нескоро.

Все це стане реальністю, лише коли ІІ навчиться навчатися без вчителя та створювати прогностичні моделі.

Поки що автономні моделі все ще залишаються експериментальними. У більшості випадків автономний рух автомобіля має контролюватись людиною, яка готова перехопити керування. Ймовірно, автономні системи водіння пройдуть три етапи розвитку:

  • Більша частина системи програмуватиметься вручну, а глибоке навчання буде використовуватися тільки для сприйняття інформації, що змінюється, наприклад про погоду та пробки.
  • Більше уваги приділятиметься навчанню.
  • У машини з’явиться досить здорового глузду, щоб автономне управління стало безпечнішим за людське.

Розробка віртуального помічника ще обмеженіша. Щоб бути не просто іграшкою, а справжнім асистентом, він повинен мати інтелект, рівний людському, у поєднанні зі здоровим глуздом.

Фантастичний фільм “Вона” описує взаємодію людини зі своїм віртуальним помічником. Головний герой Тео закохується в комп’ютерну сутність із голосом, яка розмовляє голосом Скарлетт Йоханссон, але при цьому невидима та невловима. Тео дає коханій ім’я – Саманта, і вона починає розвивати свою “особистість” у процесі взаємодії з господарем.

Подібний сюжет навряд чи можливий насправді в найближчому майбутньому. Поки що навіть роботи-пилососи не цілком автономні. Вони заплутуються у дротах, застрягають під стільцем і не можуть самі очистити бак або заповнити контейнер водою. Це абсолютно нерозумні істоти. Поява інтелектуальних роботів можлива лише тоді, коли вони навчаться вчитися не менш ефективно, ніж людина, і коли будуть створені моделі світу, які дозволять роботам планувати складні дії.


Зміна підходу до навчання машин

Сьогодні у сфері ІІ, як правило, використовується навчання з учителем — жалюгідна подоба навчання людей чи тварин. Щоб навчити систему розпізнавати об’єкти, потрібні тисячі чи навіть мільйони зображень таких об’єктів. До того ж, приклади спочатку доводиться ідентифікувати і позначати вручну. Тисячі аутсорсерів витрачають сотні тисяч годин на маркування зображень, переклад текстів, введення даних, щоб машина навчилася робити те саме. Навчання з контролем ефективно, лише коли даних достатньо.

Експерименти показали: незначна зміна дорожнього знака “стоп” може призвести до того, що деякі нейронні мережі перестають його виявляти. Така виборча сліпота ставить під сумнів безпеку автономного водіння.

Таким чином, навчання з учителем не дозволяє створювати справді інтелектуальні машини.

Деякі дослідники бачать вирішення проблеми у навчанні з підкріпленням — методом спроб та помилок. Цей вид навчання дозволяє навчати машину, не підказуючи відповіді, лише інформуючи комп’ютер про правильність конкретної відповіді.

Ви хочете навчити робота піднімати предмети. Нема рації постійно вказувати машині, як приводити в дію її двигуни для виконання завдання. Робот сам може оцінити, чи об’єкт був дійсно піднятий. Він випробує одну стратегію. Якщо вона не спрацює, спробує іншу. Робот повторюватиме процес доти, доки стратегія не спрацює надійно. Цього можна досягти за допомогою нейронної мережі, вхідними даними якої будуть зображення сцени та датчики положення, сили та торкання робота, а вихідними даними команди, що відправляються двигунам.

Оцінка успіху – це своєрідна нагорода або покарання для машини і нагадує дресирування тварини. У випадку з машиною нагорода чи покарання – це число. Воно позитивне, якщо відповідь правильна, і негативна, якщо відповідь неправильна. Проблема в тому, що машина не знає, в якому напрямку змінити свій результат, щоб покращити нагороду, тому вона робить нові спроби, бачить вплив нової тактики на нагороду та змінює свою поведінку, налаштовуючи параметри нейронної мережі так, щоб нагорода стала максимальною.

Навчання з підкріплення ефективно для управління роботом або гри.

Ми пишемо програму, яка вчить машину грати в шахи за правилами, із системою навчання, яка визначає, які ходи швидше за все призведуть до перемоги. Спочатку така система не навчена і грає не дуже добре, але ми змушуємо її грати проти самої себе багато тисяч разів. У перших партіях гравець перемагає швидше випадково, але він навчає свою систему повторення або посилення успішної стратегії. За наявності достатньої кількості сучасних комп’ютерів, що працюють паралельно, система може зіграти мільйони партій за лічені години. У результаті система набуває надлюдських здібностей.

Навчання з підкріпленням є ефективним для ігор, оскільки їх можна запускати на багатьох машинах одночасно. Як і у разі навчання з учителем, досягнення надлюдських здібностей потребує величезних ресурсів та безлічі міжсистемних взаємодій.

Співробітники DeepMind  навчили систему гри у 80 класичних відеоігор. Щоб навчитися грати в кожну гру, система витрачала близько 80 годин, а людині потрібно було всього 15 хвилин, щоб зробити те саме. Однак якщо ви дозволите системі вчитися далі, рано чи пізно вона досягне висот, які перевершують людські можливості. До того ж 80 годин — час, який би знадобився машині, якби вона грала в гру в реальному часі. Але вона може грати в гру набагато швидше і навіть грати у кілька ігор одночасно.

Навчання із підкріпленням видається перспективним методом навчання без вчителя. Однак у реальному світі вона безглузда і навіть небезпечна.

Якби ви захотіли навчити машину самостійному водінню, їй довелося б проїхати мільйони годин і потрапити до десятків тисяч аварій, перш ніж вона навчилася б їх уникати. Машина впаде у прірву, а система видасть звіт про помилку та трохи скоригує стратегію. Наступного разу машина протаранить загороду і спікує в море, і система знову байдужа. Автомобіль повинен впасти з висоти тисячі разів, перш ніж система зрозуміє, як уникнути падіння. Люди ж у середньому вчаться керувати автомобілем за 20 годин практики при невеликому сторонньому контролі і без аварій.

Поки що людське навчання, та й навчання тварин, набагато ефективніше, ніж будь-який інший метод машинного навчання. ІІ має поверхове уявлення про світ, не вміє прогнозувати розвиток подій та в принципі не усвідомлює, що саме він робить.

Що чекає на нас у майбутньому?

Чи залишаться люди без роботи?

За часів промислових революцій зникають одні види діяльності та виникають інші.

1870 року кожен другий француз працював у сільському господарстві. 2019 року — лише кожен двадцятий.

Штучний інтелект не лише витіснить деякі існуючі професії, а й призведе до появи нових, які поки що навіть важко собі уявити.

Усього 20 років тому неможливо було уявити, що на сервісах на кшталт YouTube тисячі людей зароблятимуть гроші, а Facebook та Instagram дозволять фахівцям у різних галузях знаходити клієнтів у всьому світі.

Економісти стверджують, що через 10–20 років ІІ вплине на продуктивність праці, навіть якщо за ці роки не відбудеться значних змін у галузі комп’ютерних технологій.

Економіст Ерік Брінолфссон із Массачусетського технологічного інституту каже, що швидкість впровадження технологій загального призначення в економіку обмежується часом, який потрібний працівникам, щоб навчитися ними користуватися. Цей процес може тривати від 15 до 20 років.

Збільшення продуктивності в галузі обчислювальної техніки почалося лише в середині 1990-х, коли широко поширилося використання клавіатури та миші. Чим більше стає професій під загрозою зникнення, тим повільніше впливає технологія на економіку. Проте вже сьогодні країнам варто почати готуватися до використання ІІ — вкладати кошти в освіту на всіх рівнях: у школах, університетах та системі підвищення кваліфікації. Потрібно підготувати людей до трансформації та створити технологічну та наукову «екосистему», сприятливу для інновацій.


Чи захоплять роботи світ?

Однозначно ні. Побоюючись машин, що рвуться до влади, ми проектуємо на них особливості людської природи. Виживання та комфортне життя кожної людини залежать від її здатності впливати на інших представників свого вигляду. Проте люди істоти соціальні, але не всі тварини такі.

Орангутани – несоціальний вид мавп. При цьому їх інтелект досить високий, а мозок лише вдвічі менший за людський. Орангутани живуть поодинці та уникають спілкування з іншими мавпами. Вся їх соціальна взаємодія полягає у відносинах матері та дитини протягом двох років та територіальних суперечках. Еволюція не сформувала в орангутанів прагнення домінувати над ближнім: вони не мають соціальної структури, отже, від домінування немає користі.

Приклад орангутанів показує, що можна бути розумним, не прагнучи панування . Крім того, і у людей прагнення домінування не пов’язане з інтелектом безпосередньо. Розумні люди не завжди прагнуть стати лідерами. Найкращих учених часто запрошують на керівні посади, а вони відмовляються. Їм зручніше займатися дослідженнями.

Розумні машини прагнутимуть панування над людиною, тільки якщо ми закладемо в них це бажання.

10 найкращих думок

1. Найпотужніші програми штучного інтелекту досі навчаються набагато гірше, енерговитратніше та повільніше не лише людей, а й навіть кішок та собак.

2. До 1950-х років винахідники систем штучного інтелекту намагалися відтворити людську логіку. А потім виникла ідея змоделювати людський мозок із його здатністю до навчання. Так зародився напрямок глибокого навчання (deep learning) та штучних нейронних мереж.

3. Штучні нейронні мережі працюють так: вони вловлюють вхідний сигнал та обробляють його таким чином, що на виході цей сигнал ідентифікується.

4. Перша машина, що навчається, перцептрон, важила кілька тонн. Сьогодні її функції виконує програма завдовжки кілька рядків.

5. У багатошаровій нейронній мережі первинні шари виступають у ролі екстракторів ознак, які створюються не вручну, а автоматично – у процесі навчання.

6. ІІ має широкі можливості аналізу, розпізнавання та автоматичної класифікації. Багато функцій ІІ вже перестали бути інноваціями, перетворившись на звичні та зручні складові нашого життя.

7. В найближчому майбутньому ІІ буде найбільш активно розвиватися у чотирьох напрямках: медицина, автономний транспорт, віртуальні помічники та побутові/промислові роботи.

8. Навчання з учителем не дозволяє створювати справді інтелектуальні машини.

9. Навчання з підкріпленням (методом проб та помилок) ефективне тільки для ігор. У реальному світі воно безглуздо і навіть небезпечно.

10. Машини не захоплять світ, якщо людина не змусить їх це зробити. Прагнення домінування немає нічого спільного з високим інтелектом.


 Флоп (англ. flop) – позасистемна одиниця виміру продуктивності комп’ютерів.

 Змінний резистор – елемент електричних ланцюгів, що має змінне значення електричного опору.

 DeepMind – британська компанія, що займається комп’ютерним інтелектом.