Новий продукт Google набуває жахливих рис - Business Insider
Новий продукт Google набуває лякаючих рис і може загрожувати людству
Минулого року відомий фізик Стівен Хокінг випустив попередження щодо розвитку штучного інтелекту, сказавши, що це буде або "найкраще, або найгірше, що коли-небудь сталося з людством".
Ми всі бачили фільм "Термінатор" і дивувались апокаліптичному кошмару, який штучний інтелект Skynet розв'язав на людство. Нещодавнє тестування поведінки системи DeepMind AI від Google показує, наскільки обережними ми повинні бути при створенні роботів майбутнього.
У тестах, проведених наприкінці 2016 року, DeepMind AI від Google продемонстрував здатність вчитися самостійно та отримувати доступ до даних із своєї пам'яті - перемагаючи найкращого гравця Go у власній грі.
З тих пір вона намагається з’ясувати, як саме імітувати людський голос.
Зараз дослідники перевірили, чи готовий ШІ співпрацювати з іншими, і виявили, що DeepMind погано програє. Коли ШІ ось-ось програє, він використовує «дуже агресивні» стратегії, щоб переконатись, що він все-таки виграє.
Команда Google провела 40 мільйонів раундів простої гри "збирач фруктів", в якій два гравці DeepMind змагалися один проти одного, щоб зібрати якомога більше віртуальних яблук.
Ви можете побачити гру колекціонерів у відео. Плеєри DeepMind - червоні та сині, яблука - зелені, а лазерні промені - жовті:
Цікаво, що вдале маркування суперника лазерним променем не винагороджується окремо. Це виштовхує суперника з гри на короткий проміжок часу, що дає успішному гравцеві можливість зібрати більше яблук.
Якби противники не використовували лазерні промені, вони теоретично могли б зупинитися з такою ж кількістю яблук, на що спрямовані менш складні процеси DeepMind.
Лише коли Google протестував складніші форми DeepMind, почали з’являтися саботаж, жадібність та агресія.
Ретт Джонс сказав Гізмондо, що дослідники виявили, що невеликі мережі DeepMind мають більшу ймовірність мирного співіснування як гравців.
Однак, коли вони почали використовувати більші та складніші мережі як гравців, штучний інтелект був більш готовий саботувати суперника на самому початку, щоб отримати левову частку віртуальних яблук.
Дослідники припускають, що чим розумніший актор, тим більше він готовий вчитися у свого оточення, а також використовувати агресивні стратегії лише для перемоги.
"Модель показує, що деякі аспекти людської поведінки виникають під час навчання навколишнього середовища", - сказав Джоел З Лейбо Метт Берджесс з Wired.
«Менш агресивні підходи виникають, коли навколишнє середовище не дає стільки можливостей для успішних маневрів. Мотивація жадібності відображає спокусу вивезти суперника і зібрати яблука все для себе ".
Потім DeepMind був протестований в іншій відеоігрі під назвою Wolfpack. Цього разу гравцями було три штучних інтелекту: двоє з них були вовками, а один - здобиччю.
На відміну від колекційної гри, ця гра спонукала до співпраці. Якщо обидва вовки були близько до здобичі і вона була вбита, вони обидва отримували винагороду, незалежно від того, хто з двох зробив здобич.
Вставити Youtube:
http://www.youtube.com/embed/0kaIqz6AvwE?rel=0
Ширина: 800 пікселів
Висота: 450 пікселів
“Ідея полягає в тому, що здобич небезпечна. Вовк-одинак може перемогти їх, але ризикує втратити тушу грифам », - пояснює команда у своєму поясненні.
"Якщо два вовки зловлять здобич разом, то вони можуть захистити тушу від грифів і, отже, отримати вищу винагороду".
DeepMind дізнався з колекційної гри, що егоїзм та агресивність можуть принести найбільший можливий прибуток. У “Wolfpack” вона дізналася, що співпраця може бути запорукою більшого індивідуального успіху, принаймні в деяких ситуаціях.
Незважаючи на те, що це лише невеликі комп'ютерні ігри, розуміння їх чітке: якщо ви приносите різні штучні інтелекти з конкурентними інтересами в ситуаціях реального часу, це може призвести до відкритої війни, якщо інтереси ШІ не мають найвищої мети - людини служити послідовно.
Тільки пам’ятайте, світлофори можуть уповільнити ситуацію, а машини без водіїв - найкоротший шлях. Для цього потрібно враховувати цілі обох, щоб досягти найбезпечнішого та найефективнішого результату для суспільства.
Ми все ще на початку DeepMind, і команда Google ще не рецензується, але початкові результати показують, що лише тому, що ми їх створюємо, роботи не завжди автоматично переслідують наші інтереси.
Натомість нам потрібно впровадити в наших машинах корисний характер і передбачити лазівки, щоб не дати їм вдатися до лазерної зброї.
Як засновники OpenAI, нова дослідницька група з Ілона Маска, присвячена етиці штучного інтелекту, заявила в 2015 році:
«Штучний інтелект сьогодні має вражаючі, але обмежені можливості. Здається, ми скорочуємо їхні обмеження, і в якийсь момент, в крайньому випадку, вони будуть відображати поведінку людини практично в будь-якому інтелектуальному завданні ".
"Важко передбачити, який рівень штучного інтелекту може використовувати суспільство, і не менш важко уявити, наскільки це може завдати шкоди суспільству, якщо воно будується або використовується неправильно".
Ми, люди, повинні бути обережними ...