Штучному інтелекту потрібна велика харта - HBR
Час читання: 7 хвилин
Машини, сильніші за людей? З розвитком штучного інтелекту наукова фантастика стає реальністю. Але ще не пізно встановити правила, щоб жити в гармонії з машинами.
Компанія знаходиться в ключовій точці у своєму величезному і невідомому цифровому майбутньому. Потужна технологія, штучний інтелект (ШІ), піднімається зі свого попелу, багато в чому завдяки досягненню нейронних мереж за зразком людського мозку. ШІ може виявляти закономірності у величезних неструктурованих наборах даних, покращувати ефективність у міру того, як дані стають доступними, швидко і правильно визначати об’єкти, давати рекомендації та приймати все більш точні рішення, одночасно зменшуючи втручання та, отже, втручання складних та „політичних” людей. Це породжує важливі питання щодо ступеня вибору та включеності людей у наступні десятиліття. Як будуть залучені та представлені люди на всіх рівнях влади та доходів? Як ми будемо керувати цим "хоробрим новим світом" ?
Повернемося у вісім століть, у січні 1215 р. Повернувшись із Франції, англійський король Жан Сан Терре стикається зі гнівом баронів, які бажають покласти край його непопулярному режиму "vis et voluntas" (сила і воля). В знак заспокоєння суверен і архієпископ Кентерберійські об'єднали в Лондоні 25 баронів-повстанців для переговорів про "Хартію свобод", яка б передбачала низку прав контролю на розсуд короля. У червні вони досягають угоди, яка забезпечує більшу прозорість та представництво у королівських рішеннях, встановлює обмеження феодальних податків та зборів і навіть надає певні права кріпакам. Знаменита "Велика хартія" була недосконалим документом, насиченим пунктами, що становлять особливий інтерес, але сьогодні ми розглядаємо його як ключовий момент у прогресі людства до рівних відносин між владою та тими, хто під нею. Хартія підготувала грунт для Відродження, Просвітництва та демократії.
Саме цей баланс між дедалі більшою силою нового потенціалу - інтелектуальної машини - і людської істоти, що поставлено на карту, у світі, де машини завжди створюватимуть більшу цінність, вироблятимуть більше власних об’єктів. сьогодні, водночас зменшуючи людський контроль над розробкою та рішеннями. Робота та спосіб життя, безумовно, змінюються. Наше творіння вже минуло нас.
ШІ формує наші думки
Ставка виходить за рамки зайнятості та економіки: у всіх сферах життя машини починають приймати рішення за нас, без нашої свідомої участі. Вони впізнають нашу минулу поведінку та поведінку людей, які повинні бути схожими на нас у всьому світі. Ми отримуємо інформацію, яка формує наші думки, точки зору та дії відповідно до уподобань, які ми висловили своїми попередніми діями або тих, хто працює в нашій сфері. За кермом нашого автомобіля ми передаємо свою поведінку виробникам автомобілів та страховим компаніям, щоб скористатися технологіями пілотування все більш автономних транспортних засобів, що натомість приносить нам нові послуги та безпечніші засоби транспорту. Виробники наших улюблених розваг та відеоігор, багатших та персоналізованіших, ніж будь-коли раніше, використовують наші соціально-економічні профілі, мову тіла та когнітивні та візуальні уподобання для оцінки нашої цінової чутливості.
Отримуючи нові послуги, ми вирішили довіряти машині, щоб "правильно нас розрахувати". Зрештою машина буде знати нас, можливо, щиріше, ніж ми самі - принаймні з суворо раціональної точки зору. Але це не враховуватиме когнітивних розривів між тим, чим ми претендуємо, і тим, чим ми є насправді. Спираючись на реальні дані наших дій, це обмежує нас тим, чим ми були, замість того, щоб цікавитись тим, ким би ми хотіли бути або сподіваємось стати.
ШІ - це можливість впорядкувати наші рішення
Чи зніме машина ці особисті рішення? Чи усуне це щасливі випадковості існування? Чи це організує наше життя та наші зустрічі з ближніми, позбавляючи нас шансів та зіткнень, які змушують нас розвиватися, навіть вдосконалюватися? Ці системи мають величезний потенціал: деякі особисті рішення заслуговують на те, щоб бути зумовленими більш об'єктивним аналізом. Наприклад, беручи до уваги вуглецевий слід у різних видах транспорту, потім інтегруючи все у наш графік та наші соціально-емоційні потреби, або щиро виділяючи наші справжні таланти, коли ми обираємо партнера, або все ж розробляти більш ефективні навчальні програми для різноманітних студентське населення. Але вони також могли б поляризувати суспільство, ще більше обмеживши нас сферами людей, які поділяють наші думки, тим самим зміцнюючи наші цінності та переконання, не маючи можливості їх перевірити, захистити та змусити переглянути їх. ?
Штучний інтелект можна використовувати для здійснення "цифрової соціальної інженерії" (практика, спрямована на зміну певної поведінки соціальних груп у великих масштабах), що веде до створення паралельних мікросуспільств. Уявіть собі цифровий перерозподіл виборів, при якому політичні оператори використовуватимуть ШІ для залучення виборців типового профілю в певних округах за кілька років до виборів, або мікросуспільства Airbnb, які б орендували лише певні соціально-політичні, економічні профілі чи психометричні ( див. також статтю: «Боротьба з дискримінацією на платформах»). Або компанії, здатні орієнтувати свою роботу на роботу майже з хірургічною точністю, тим самим негайно підвищуючи показники своєї роботи, але також обмежуючи свій стратегічний вибір за рахунок вужчого та менш різноманітного складу працівників.
ШІ нехтує нашим потенціалом
Машина оцінює нас відповідно до наших виражених цінностей (особливо тих, що неявно проявляються в наших ділових операціях), але вона нехтує іншими глибоко утримуваними цінностями, які ми репресували або засинали в той чи інший момент свого існування. ШІ може опустити нещодавні переконання або зміни в тому, що ми цінуємо, поза сферою, яка легко кодується. Спираючись на історичні дані, вона могла приймати рішення щодо нашої безпеки, які могли б загрожувати іншим, таким чином, як ми можемо обуритися в той час. Ми - складні істоти, які постійно арбітрують цінності в тій чи іншій ситуації, і іноді ситуація, про яку йдеться, має мало, якщо взагалі є, кодифікованого прецеденту, який ШІ міг би вирішити. Чи буде машина поважати наші права на свободу волі та самовідкриття ?
Подібним чином машина може дискримінувати людей з неміцним станом здоров'я або соціальним статусом, оскільки її алгоритми базуються на розпізнаванні образів та статистичних середніх показниках (див. Також колонку: "Чому компанії повинні розробляти етичні алгоритми"). Uber колись викликав протест щодо расової дискримінації, коли його алгоритми використовували поштові індекси для ідентифікації рідних районів водіїв. Чи підтримає ШІ виживання найсильніших, найулюбленіших чи найпродуктивніших людей? Чи буде вона приймати свої рішення прозоро? Якими будуть наші засоби ?
ШІ не є нейтральною технологією
Крім того, минуле програміста, його схильності та невидимі упередження (або мотивації та заохочення його роботодавця) можуть ненавмисно вплинути на розробку алгоритмів та пошук наборів даних. Чи можемо ми припустити, що ШІ завжди працюватиме об’єктивно? Чи будуть компанії розробляти ШІ, які будуть корисними для їхніх клієнтів, партнерів, менеджерів або акціонерів? Наприклад, чи буде ШІ в галузі охорони здоров’я, розроблений спільно технологічними компаніями, приватними лікарнями та страховими компаніями, діяти в найкращих інтересах пацієнта, чи він надаватиме пріоритет певній фінансовій віддачі? ?
Ми не можемо повернути генія в пляшку, і ми також не повинні намагатися: його переваги мають трансформаційну силу, яка виведе нас на нові кордони з точки зору зростання та розвитку. Ми перебуваємо на межі вибуху еволюції, що не мав аналогів у минулому тисячолітті. Вибухи та революції мутні, заплутані та сповнені етичних підводних каменів.
Ось чому ми пропонуємо Magna Carta для глобальної економіки ШІ, всеохоплюючий, багатопартнерський, колективно розроблений Білль про права, який допоможе нам у розвитку штучного інтелекту та закладе основи для майбутнього співіснування людей та машин. а також тих, що забезпечують більш інклюзивне подальше зростання. Незалежно від економічної, соціальної чи політичної сфери, ми як суспільство повинні почати визначати права та обов'язки, які забезпечать рівність та інтеграцію на перехресті ШІ та нашого життя. Без нього ми не набудемо достатньої впевненості у штучному інтелекті, щоб скористатися казковими можливостями, які він може нам запропонувати.