Нам потрібен моральний кодекс для роботів

Сьогодні ми живемо в епоху прискореного технічного прогресу, в якому реальність наближається запаморочливо швидко з баченням Азімова. Роботи стають дедалі більшою частиною нашого життя, дедалі розумнішими, все більш автономними, дедалі більше здатними самостійно ініціювати дії, «думати головою» - навіть якщо ця «голова» є процесором - виходити за межі встановлених умов. людського контролю. За цих умов робот може принести багато користі і стільки ж шкоди. Ось ми вже потрапили в ситуацію розробки морального кодексу для наших роботів, системи законів, подібних до думки Азімова. Його бачення стало реальністю, майбутнє вже тут. Але чи так легко випрацювати цей моральний кодекс?

Закони роботів та їх інтерпретації

В даний час тисячі проектів зосереджені на побудові машин, які не тільки здатні рухатись, спілкуватися, виконувати завдання, точно встановлені людьми, а й приймати рішення, залежно від умов, вибирати власні рішення.; іншими словами, бути автономний. Під машинами чи роботами ми маємо на увазі не тільки гуманоїдних роботів (які, однак, становлять меншість у сучасному світі роботів), але також безліч військових та утилітарних роботів будь-якої форми та розміру, а також комп'ютерні системи, що забезпечують автономну діяльність більш різноманітні композиції, які зіграють величезну роль у майбутньому, будучи інтегрованими в тисячі систем, від безпілотників до обладнання, що використовується в будівництві, від побутової техніки до підводних човнів, від автомобілів без водія до міні-хірургічних роботів. Іншими словами - будь-яка система, яка "мислить" за допомогою процесорів, наділена так званим штучним інтелектом.

Кінцевою метою досліджень у галузі штучного інтелекту є створення машин, максимально наближених до людини за когнітивними можливостями та можливостями прийняття рішень. Вчені мріють про автоматичні системи, які, як і людина, можуть швидко оцінити ситуацію, згадати накопичені раніше знання, пропустити все через сито моральних правил і, інтегруючи всі ці аспекти, прийняти рішення, щодо якого слід діяти. . Звучить просто. Але це не так.

Роботи Азімова повинні були підкорятися трьом законам, великим і широким, але всі засновані на забороні заподіяння шкоди людині.

Робот не повинен поранити людину або, не бравши участі, дозволити постраждати людині.
Робот повинен виконувати розпорядження людей, якщо ці накази не суперечать Першому Закону.
Робот повинен захищати себе, доки такий захист не суперечить Першому та Другому законам.

Однак нещодавно опублікована в "The Economist" стаття звернула увагу на деякі сценарії - гіпотетичні, на даний момент, - коли слухняний і добре освічений "робот", усвідомлюючи важливість трьох законів і рішучий дотримуватися їх, потрапив би в надзвичайно важкі ситуації. . Що робити, наприклад, машині без водія, коли існує небезпека наїзду на пішоходів: різко повертаючись, щоб уникнути їх, з ризиком травмувати її пасажирів та вдарити інші машини? Або дрон, який повинен стріляти в будівлю, де ховається терорист, що йому робити? Знищити будівлю будь-якою ціною, щоб досягти своєї мети, навіть якщо це означає вбивство невинних цивільних осіб, які перебувають в одній будівлі?

Насправді сам Азімов у деяких оповіданнях, написаних протягом усього життя, після публікації Runaround, уявляв собі сценарії, коли роботи порушували той чи інший із законів або, принаймні, мріяли про це., таким чином припускаючи, що жоден набір фіксованих правил не може повністю охопити всі можливі ситуації. Що доводить, що ніколи не буває так просто, як на папері.

Незважаючи на те, що Закони роботів були сформульовані 7 десятиліть тому, проблема морального кодексу стала гострою лише в останні роки, коли бурхливий розвиток систем, оснащених штучним інтелектом, змусив людей усвідомити це, з успіхами виникає тривожна сторона: те, як поводитимуться ці творіння - майже істоти - коли вони стануть автономними, як того хочуть їх творці. Отже, мова йде про зовсім недавнє явище. Як доказ, недавно відбулася всебічна робота з цієї теми:

У 2009 р. Оксфордський університетський прес опублікував «Моральні машини: Навчання роботів прямо з помилки» (автори: Вендел Валлах та Колін Аллен), всебічний узагальнення проблем побудови АМА та посилання на приблизно 450 бібліографічних джерел, переважна більшість яких датується 21 століття.
У 2011 р. Кембриджський університетський прес опублікував збірник есе з проблеми етики штучних систем (Machine Ethics; автори: Майкл Андерсон та Сьюзен Лі Андерсон).
Також у 2011 році Нік Бостром та Еліезер Юдковський включили статтю під назвою "Етика штучного інтелекту" до Кембриджського довідника зі штучного інтелекту.

Отже, переважна більшість книг та статей, а також популярних статей, опублікованих у різних виданнях, датується лише кількома роками, що, мабуть, свідчить про те, що проблема загострилася. Безсумнівно, явище пов'язане з тим, що за останні кілька років роботи та, загалом, системи, оснащені штучним інтелектом, справді стали здатними до багатьох різних дій та рішень, що суворо порушує проблему моральне виховання цих композицій.

На наших очах виникає новий тип істот: уже йде мова про особливу категорію "істот", так званих штучних моральних агентів (АМА), систем, наділених штучним інтелектом, але які будуть (і будуть) необхідними для приймає рішення не тільки відповідно до об'єктивних умов, але і відповідно до моралі, яку "покладуть їм у голову" ті, хто їх проектував і будував.

Експерименти, думки, бачення

Ось кілька останніх досліджень, які ілюструють величезну важливість цього аспекту технології, а також думки деяких фахівців з цього складного питання:

У 2008 році експерт зі штучного інтелекту Ноель Шаркі з університету Шеффілда, Великобританія, звернув увагу на те, що роботи, побудовані для розваги дітей та догляду за людьми похилого віку, повинні піддаватися етичній суворості.

Але наскільки ймовірною є еволюція роботів, яка призведе до необхідності наділяти їх моральним кодексом? Стаття у популярній науці виводить на сцену дивного персонажа лежачого робота, не персонажа фантастичної літератури, а того, хто став реальним. Це експеримент, проведений дослідниками лабораторії інтелектуальних систем Федеральної політехнічної школи в Лозанні, Швейцарія, експеримент, орієнтований на еволюційні можливості роботів, їх здатність вчитися та співпрацювати в пошуку певного ресурсу (корисний матеріал ) та уникайте джерела шкідливого матеріалу.

В експерименті брали участь 1000 роботів, розділених на десять груп. Кожен робот був обладнаний датчиком, системою сигналізації (синім світлом) та «геномом» - двійковим кодом, який контролював реакцію робота на подразники. Роботи першого покоління були запрограмовані запалювати своє синє світло, коли вони виявили корисне джерело, допомагаючи іншим роботам знайти його.

200 найкращих роботів, яким найшвидше вдалося знайти найкращий хороший ресурс, лягли в основу наступного покоління. Їх "геноми" об'єднали, і результат використали для програмування нового покоління роботів.
Після 9 поколінь роботи стали надзвичайно ефективними у пошуку ресурсів та спілкуванні з іншими роботами, щоб направити їх на ресурси. Але якщо робот знайшов ресурс, це означало, що він його знайшов, і всі інші збиралися там, щоб використати його, це означало, що для того, хто його знайшов, залишилося менше, так? Неймовірно, але правда: саме так «думали» деякі роботи в експерименті. І вони не тільки зрозуміли проблему, але й знайшли рішення.
Після 500 поколінь 60% роботів навчилися брехати: вони не запалювали свої лампочки, коли знаходили ресурс, який шукали; що вони виявили (лише) їхнім! Але було ще голосніше, коли інші роботи зрозуміли, що брехуни підробляють їх, не вимикаючи світла, і почали шукати тих, у кого немає лампочки, розуміючи, що швидше за все вони знайшли те, що треба було знайти. . Іншими словами, вони робили прямо протилежне тому, що їм було заплановано!

Тож роботи можуть навчитися брехати. І якщо вони брешуть одне одному, чи не могли вони одного дня збрехати нам? І якщо вони в підсумку брешуть нам, що може перешкодити деяким з них зробити ще гірше (з нашої точки зору)? Деякі з них можуть легко нашкодити нам фізично; наділені зброєю (хто знає, чи не зможуть вони їх побудувати самі?), можуть навіть вбити нас. Це схоже на параноїчний делірій? Можливо. Але якщо великі, нерозумні промислові машини становлять реальну небезпеку для людей, якщо з ними поводитимуться без належного догляду, вплив АМА без моральних гальм, що дозволяють людству жити своїм життям у відносній небезпеці, може бути тим небезпечнішим. безпека.

Звичайно, екстремальний сценарій, але тут, понад півстоліття після такої інтерпретації, ми вже маємо проблему еволюції штучних інтелектуальних систем, межі цієї еволюції, як ми могли б забезпечити їх уроками, необхідними для гармонійного співіснування. з людиною, їх творцем, коли межа між пізнавальними здібностями людини та можливостями ВАДА стане зовсім тонкою або зникне.

Як ми навчимо їх відрізняти зло від добра? Як захистити їх від зла, яке нас переслідує і часто уникає лави моральних обмежень, завдаючи стільки шкоди оточуючим: егоїзм, жадібність, спрага влади?

На даний момент ми контролюємо їх, і можливість того, щоб вони взяли контроль, здається утопією. І все ж той факт, що люди, які щодня працюють з цими системами (і добре знають, що вони можуть, а що не можуть робити), стурбовані питанням етики їх функціонування, свідчить про те, що час, коли нам доведеться знаходити моральну основу для співіснування, не є наскільки я думав.