Штучний інтелект Про те, що вчить ШІ про людський інтелект - спектр науки
Когнітивна наука: чого вчить ШІ про наш інтелект
У 1996 році система Deep Blue AI перемогла діючого чемпіона світу з шахів Гаррі Каспарова. Через 20 років AlphaGo переміг одного з найкращих гравців у світі Go, південнокорейця Лі Седола. Сьогодні ШІ можуть відрізнити злоякісний від доброякісного раку шкіри, вони можуть паркувати автомобілі та керувати військовими безпілотниками. Надалі вони складатимуть нам компанію у вигляді роботів для дому та догляду. Звідси виникає багато питань: для чого можна використовувати штучний інтелект? Чи будуть системи розумнішими за нас? Чи повинні вони для цього наслідувати людські здібності? І що ми можемо з цього дізнатися про людський інтелект?
Якщо ви хочете відтворити людський інтелект, вам слід визначити, що це насправді. Це включає багато різних навичок: використання інструментів, планування дій, розробку теорій, креативність, розуміння мови та ще кілька. Вони вбудовані в мережеві базові навички: чуттєве сприйняття, емоційна оцінка, контроль дії.
Багато з цих навичок здаються нам природними. Ми схильні приділяти інтелект спеціальним навичкам, таким як глибше розуміння математики. Однак порівняння з системами штучного інтелекту показує, наскільки насправді складні наші нібито банальні здібності. В історії ШІ двічі передбачалося, що системи ШІ незабаром матимуть такі повсякденні навички: один раз із першою хвилею нейронних мереж у 1970-х та другий раз з хвилею експертних систем наприкінці 1980-х та на початку 1990-ті. Обидві ейфорії призвели до "ШІ-зими" - фази розчарованих і приглушених очікувань.
На даний момент системи штучного інтелекту все ще мислять абсолютно інакше, ніж люди, подібно до того, як літаки літають інакше, ніж птахи, навіть якщо вони дотримуються однакових загальних основних фізичних принципів
Людський інтелект та сучасний ШІ - з глибоким навчанням як основним методом - мають кардинально різні архітектури. Мозок та ШІ організовують та обробляють інформацію про навколишнє середовище, але не однаково: вони різняться, наприклад, кількістю рівнів обробки, їх мережею, механізмами навчання та тим, як сприйняття, знання та дії взаємодіють між собою. Навіть якщо нинішній ШІ виробляє дуже потужні інструменти, він, отже, може лише мало сприяти розумінню людського інтелекту: системи ШІ можуть також виробляти інтелектуальне мислення, але на даний момент вони все ще думають абсолютно інакше, ніж люди; подібно до того, як літаки літають інакше, ніж птахи, навіть якщо вони дотримуються однакових основних фізичних принципів. Крім того, ШІ далекий від розвитку людських уявлень.
Основи сучасного ШІ
Найвідоміша в даний час форма ШІ базується на методі «глибокого навчання». Це вимагає дуже великої кількості прикладів як вхідних даних, що складаються з вхідних даних та даних подальшого спостереження, наприклад, зображень та відповідних «міток», таких як «кішка» або «рак шкіри». З цього він вивчає статистичні закономірності і тим самим будує складну мережеву структуру, за допомогою якої може обчислювати прогнози для нових вхідних даних, таких як відповідна мітка для зображення. Навчання полягає в обробці різниць між передбачуваними та спостережуваними істинними станами наслідків, щоб змінити структуру мережі та зважування вузлів мережі таким чином, щоб помилка передбачення була якомога меншою. Система ШІ вчиться на основі зворотного зв’язку, щоб пов’язати приклади з правильними прогнозами.
Як правило, система ШІ має набагато більшу базу даних, доступну для конкретного завдання, ніж людина. Хоча найкращі шахісти можуть повернутися до десятків тисяч ігор в шахи або Go, ШІ легко можна нагодувати мільйонами ігор. Це дозволяє системам глибокого навчання виявляти статистичні закономірності, важко або неможливо отримати доступ до людей. Однак поки що це працювало лише для обмежених, чітко визначених завдань.
Що саме це означає? У шахах існує кінцева кількість полів, фігур і правил, які чітко визначають стан гри і які рухи можливі в подальшому. Коли ШІ раніше вирішував завдання краще за людей, це були чітко визначені завдання. Тому можна припустити, що системи ШІ можуть, в принципі, справлятися краще за людей з будь-якими точно визначеними, кінцевими індивідуальними завданнями, для яких існує достатньо прикладів навчання.
Але що відбувається, коли завдання чітко не визначені? Що робити, якщо завдання потрібно вивчити спочатку, а правила гри або цілі з часом змінюються? Чи ми, люди, перевершуємо ШІ в принципі і за межами нашої можливості, як тільки рамкові умови розмиваються, а завдання, правила чи цілі змінюються?
Наприклад, водій автомобіля повинен спостерігати за дорожньою обстановкою та проїжджати складний будівельний майданчик одночасно за будь-якої погоди та освітлення. Чи можуть самостійно керувати автомобілями це? В даний час швидко розвиваються спеціальні системи розпізнавання об’єктів, людей, облич та дорожніх ситуацій. Сподіваємось, що якщо вони з’єднані між собою, автомобіль майбутнього може спричинити менше аварій у звичайному дорожньому русі, ніж середній водій. Але для цього потрібні не тільки функціонування спеціальних систем, але й загальний здоровий глузд, який може координувати спеціальні системи та виявляти основні помилки. Саме тут люди та сучасні системи ШІ відрізняються трьома ознаками.
1. Штучний інтелект не є надійним
Системи ШІ можуть бути схильні до надзвичайно грубих помилок. Якщо ШІ навчений багатьма прикладами для розпізнавання фотографій автомобілів та фотографій страуса, то він в принципі може дуже добре їх розрізняти. Тим не менше, можуть траплятися систематичні помилки: можна змінити імідж автомобіля настільки мінімально, що ми, люди, не помітимо змін, але ШІ помилково сприймає його як страуса. В принципі, можна зробити систему ШІ більш надійною, давши їй зрозуміти, що ці різні приклади для автомобілів також слід класифікувати як такі. Але основна проблема залишається: система ШІ навчилася лише статистичного узагальнення - використовуючи велику кількість регулювальних гвинтів у штучній нейронній мережі.
На відміну від цього, людський мозок також має здатність будувати ментальні моделі нашого досвіду і таким чином систематично робити далекосяжні висновки, крім сучасних сенсорних вражень, які навіть дають пояснення. Одна з форм пояснювальної структури також відома як генеративна модель. Він базується на безлічі переживань, і з його допомогою наш мозок формує внутрішню гіпотезу з певного чуттєвого сприйняття, наприклад про те, в якому напрямку рухається машина в даний час і які інші об’єкти він охоплює. Такі гіпотези є набагато надійнішими, ніж класифікаційні системи, на яких базується глибоке навчання. Людина ніколи не класифікує машину як страуса, оскільки ми маємо різні та більш загальні стратегії моделювання, щоб запобігти таким грубим помилкам.
2. Прогнози ШІ при глибокому навчанні важко пояснити
Системи ШІ вчаться робити правильні прогнози, регулюючи важелі - тобто ваги, з якими вони обробляють інформацію. Це дозволяє їм розпізнавати закономірності в даних. Отримані статистичні правила розподіляються по всій мережі; ми навряд чи можемо або зовсім не розуміємо правил і, звичайно, не можемо їх адаптувати безпосередньо. Система не навчена робити зрозумілі прогнози, навіть якщо на ній працюють новіші підходи: Ви можете запрограмувати систему ШІ, щоб зробити видимими відповідні шаблони пікселів, на яких ґрунтується класифікація. Але ці піксельні шаблони рідко можна віднести до ознак зовнішнього світу, які ми можемо зрозуміти. Приклад із розпізнавання обличчя: Чи відповідають піксельні шаблони абстрактній лінійній грані, а точніше іншому систематичному контрастному шаблону, який відрізняється від наших класів об’єктів? Це залишається відкритим.
Дотепер системи ШІ базувались на вивчених статистичних закономірностях, не реєструючи їх на метарівні та роблячи доступними таким чином, щоб ми могли їх зрозуміти. Навіть якщо система ШІ навчилася цього, вона все ще не розуміє відповідних причинно-наслідкових зв’язків. Оскільки він відображає лише зв’язки між вхідними та вихідними даними, а не причину та наслідок. Ось чому штучні нейронні мережі досі не могли самостійно розвивати прості світові знання.
3. Штучний інтелект менш гнучкий
Глибоке навчання покладається лише на алгоритми навчання, які оцінюють схожість. Ми, люди, маємо багато різних стратегій навчання. Ми можемо навчитися на одному досвіді, наприклад, палити пальці. Ми вчимось, спостерігаючи за іншими або імітуючи їх поведінку. Ми можемо відразу реєструвати основні характеристики, наприклад причинно-наслідкові зв’язки, і таким чином прогнозувати наслідки та планувати дії. Ми можемо ігнорувати поверхневі подібності, такі як між дельфінами та рибами. Наші теоретичні знання рятують нас від помилки: дельфін - це не риба, а ссавець. Тож ми поєднуємо різні навчальні стратегії та знання, щоб уникнути помилок.
Характеристика людського пізнання полягає в тому, що з одного боку ми можемо пристосовуватися до нових ситуацій, з іншого боку, можемо так чи інакше оцінювати одну і ту ж ситуацію. Когнітивна гнучкість - і не висока когнітивна ефективність - центральна характеристика людського інтелекту. Основна ідея того, що штучний інтелект просто повинен імітувати індивідуальні людські результати, щоб відтворювати і розуміти людське пізнання, видається наївною. Щоб це було успішним, воно має інтегрувати різні форми навчання та взаємодії між окремими навчальними модулями у свою мережеву архітектуру.
Три рівні інтелектуальних систем
Чи немає абсолютно подібності між людським та штучним інтелектом? Британський невролог Девід Марр описує інтелектуальні системи на трьох рівнях. Перший, обчислювальний рівень - це те, що може зробити обробка інформації, наприклад, розпізнавання об’єкта на основі певних характеристик. Тут основні висновки ШІ можна перенести на пізнання людини, оскільки загальні принципи обробки інформації застосовуються до всіх систем, будь то люди, тварини чи комп’ютери.
На алгоритмічному рівні йдеться про шлях до рішення, наприклад, як поєднуються та обробляються окремі ознаки для ідентифікації об’єкта. Однак може бути багато різних алгоритмів, які вирішують одну і ту ж обчислювальну задачу. Для того, щоб зробити висновок про людей за допомогою ІІ, слід вибрати тих, хто найкраще відображає його когнітивну архітектуру.
На рівні реалізації алгоритм реалізується («впроваджується») або біологічно в мозку, або технічно в електронній системі. Для того, щоб мати можливість порівняти людей та ШІ, штучна мережа в комп’ютері повинна відповідати нейронній мережі в мозку. Однак остання включає багато, частково незрозумілих, біохімічних процесів, які штучна нейронна мережа не відображає. Це не означає, що спільні риси повністю зникають, але існує ризик, що вони залишаться відносно абстрактними. Висновки зі штучного інтелекту щодо нейронної обробки людини досі були можливі лише у дуже обмеженій мірі.
Біологія проти фізики
Люди приносять когнітивну архітектуру, яка біологічно закріплена в мозку. Основні механізми самозбереження забезпечують дихання, температуру тіла, споживання калорій та багато іншого. Це призводить до основних потреб у їжі, сні, фізичній цілісності, належності, сексуальності та навіть допитливості. На цьому також грунтуються наші емоції. Як біологічно-соціальні істоти ми маємо відчуття, почуття та емпатію. У кожній системі ШІ сьогодні цього бракує: навіть якщо вона пройшла навчання в ній, вона в кращому випадку може імітувати основні потреби та емоції.
Зазвичай це виправдано тим, що системи ШІ не мають жодного свідомого досвіду. Але це занадто короткозоро, бо люди також багато чого обробляють несвідомо. Навпаки, надзвичайно важливо, щоб ШІ не повинен підтримувати біологічний баланс, щоб підтримувати себе, і тому йому не потрібні будь-які регуляторні механізми. Наші основні потреби спонукають нас людей, серед іншого, досліджувати наше фізичне та соціальне оточення. Таким чином ми розробляємо модель світу та припущення про причинно-наслідкові зв’язки.
Таким чином, наші біологічно закріплені пізнання є більш різноманітними та мережево інакшими, ніж сучасні системи ШІ. Ми не просто сприймаємо предмети пасивно, а активно досліджуємо їх і заздалегідь бачимо, що з ними можна зробити. Наше сприйняття формується нашою культурою та нашим досвідом; наші думки базуються на наших сприйняттях і відчуттях. Це радикальна різниця: сучасні системи штучного інтелекту є ідіотами для спеціальних завдань або пов’язаними модулями для складних завдань, але обом все ще бракує емоцій та здорового глузду.
Куди це має піти?
Якщо штучний інтелект повинен сприяти фундаментальному розумінню людського інтелекту, тоді він повинен бути вбудований біологічно та ситуативно. Іншими словами: Надійний, гнучкий ШІ, заснований на людських моделях, повинен бути біологічно мотивованою системою навчання, яка забезпечена взаємопов’язаними модулями і яка створює очікування щодо навколишнього середовища. Така система може дати глибоке розуміння людського пізнання - включаючи його розвиток - і створити штучний інтелект, який заслуговує на його назву.
Наскільки подібними можуть бути для нас такі системи ШІ? Про це можна лише припускати. Нейробіологічна основа нашого свідомого досвіду ще не була розшифрована належним чином. Повторення свідомого людського досвіду за допомогою сучасних технологій ШІ поки що залишається неможливим. Подібним чином, лише частково зрозуміло, як пов'язані між собою сприйняття та рішення, відчуття та емоції. Але одного разу ми, ймовірно, розробимо системи штучного інтелекту, які зможуть обчислювати та враховувати емоційний стан людини-партнера. Вони не лише базуватимуться на кореляціях, але також відображатимуть причинно-наслідкові зв’язки. Для цих архітектур постане питання по-новому, якою мірою вони можуть відтворити людське мислення.
Чи будемо ми жити з автономними роботами в середньостроковій перспективі, яких ми не можемо відрізнити від людей: чиста спекуляція. Однак будуть інтелектуальні інструменти, які поєднуються з нами як індивідуальні інструменти - як це вже роблять смартфони. У медицині можна очікувати, що ШІ розширить наші когнітивні здібності і що імплантати мозку принаймні частково компенсують когнітивні обмеження, як це має місце при глибокій стимуляції мозку при Паркінсоні. У дещо подальшому майбутньому також можуть існувати штучні системи, організовані зовсім по-іншому, які демонструють глибше, причинно-наслідкове розуміння світу. В ідеалі такі системи, серед іншого, будуть консультувати людей з екологічних та економічних питань. Такий сильний ШІ криє в собі небезпеку, але також потенціал для вирішення глобальних проблем.
Поради щодо літератури
Буц, М.В., Каттер, Е.Ф .: Як Розум виникає. Oxford University Press, 2017.
Newen, A., de Bruin, L., Gallagher, S. (Eds.): Оксфордський довідник пізнання 4E. Oxford University Press, 2018.