Як ми можемо розумно використовувати алгоритми? Йорг Дрегер, член виконавчого правління Фонду Бертельсмана, im
Виконавчий комітет Фонду Бертельсмана не вірить у дебати про наслідки оцифрування, що викликають налякання. В інтерв’ю Торальфу Клівену 51-річний юнак описує, як цифрові зміни можуть модернізувати наше суспільство та зробити його справедливішим - якщо ми розумно використовуємо алгоритми.
Коли я їду до машини після роботи, мій смартфон регулярно і без запитань повідомляє, час обчислюється на дорогу додому та альтернативні маршрути, залежно від дорожньої ситуації. Це практично, але і якось страшно, чи не так?
Такі опори лякають, поки вони змушують нас відчувати, що ми вийшли з-під контролю. Для мене це повідомлення з’являється після того, як я встаю - з часом до офісу чи зустрічі. Але я знаю, які дані використовує цей додаток, і що дуже важливо - як я можу їх зупинити. Ми всі маємо таку силу. З іншого боку, нам ніколи не спаде на думку поставити під сумнів ефективність алгоритмів, якби нам раптом довелося наступати на гальмо під час руху, а антиблокувальна система ABS допомагає нам залишатися на смузі. Але це також результат алгоритмічного аналізу даних.
Тому для кожного з нас стає важливіше усвідомлювати, коли і як алгоритм діє з нами?
Так. Перш за все, ми повинні усвідомлювати соціальні наслідки. Наприклад, навігаційний пристрій в машині визначає мій час їзди і, таким чином, термін служби за допомогою наведення маршруту, а також за рахунок можливо оптимізованих викидів CO2 і швидкості клімату або шумового забруднення.
Чи існують ще сфери життя, в яких дані не грають ролі?
Приватно, так, принаймні до тих пір, поки ми їх вимкнемо. Інакше? У США судді використовують алгоритми для визначення міри покарання, вони стали незамінною частиною підбору персоналу, і навіть місця початкової школи - наприклад, у Берліні - зараз призначаються таким чином. Отже, алгоритми давно перестали визначати такі технічні сфери, як АБС, але зараз відіграють вирішальну роль у житті кожної людини. Ось чому важливо менше говорити про короткочасні наслідки використання штучного інтелекту, а більше про довгострокові наслідки. Вони надзвичайно важливі для майбутнього суспільства.
Ви насправді вважаєте за краще говорити про алгоритми, штучний інтелект чи інтелектуальні машини?
Алгоритм звучить дуже технічно і є скоріше стримуючим фактором. Штучний інтелект створює враження, що нас, людей, замінюють. З моєї точки зору, правильним терміном є "розширений інтелект". Він може просто розширити наші навички та допомогти нам, вирішувати дуже конкретні завдання, такі як аналіз величезних обсягів даних.
Чому в минулому нас менше турбувало використання даних - ключове слово ABS - і зараз у нас виникає справжній страх?
Штучний інтелект часто асоціюється з термінатором або матрицею з фільмів. І політична дискусія здебільшого ведеться про те, скільки робочих місць буде знищено. Обидва мають негативні конотації та призводять до захисних реакцій. Було б краще, якби ми обговорили, як ми можемо вдосконалити свої людські навички за допомогою машин. Бо саме про це йдеться. Соціальна вигода повинна бути на першому плані. Чому б нам не запитати, як ми можемо побудувати краще суспільство, маючи розширений інтелект?
Може тому, що багато з них дбають про свою роботу? Якими б були ваші стовпи в такій дискусії?
Звичайно, робота дуже важлива. Ось чому так важливо сьогодні вирішити, як ми хочемо жити і працювати завтра. При розумному використанні алгоритми пропонують варіанти більшої справедливості та глобальної справедливості, кращого доступу до освіти чи робочих місць, ніж ми маємо або можемо сьогодні.
Що ви маєте на увазі конкретно?
Використовуючи технологію в процесі подання заявок, я вже можу переконатися, що більше жінок отримують шанс на керівні посади. Я також можу дозволити меншу дискримінацію за походженням у судовому процесі. Тож це залежить від людського судження, як і для чого ми будуємо та використовуємо алгоритми. Йдеться про контроль та прозорість процедур. Алгоритм часто відображає дзеркало того, як ми поводимось. Це може підсилити нашу несправедливу поведінку, але люди також можуть перемкнути перемикач разом із цим.
Економіка прагне до ефективності. Чи не часто це суперечить соціальним інтересам, таким як участь усіх людей, незалежно від того, є вони фізичними вадами, хронічно хворими чи походять з бідної сім'ї?
Я думаю, що цінніше зробити суспільство на 20 відсотків справедливішим, ніж виробництво автомобілів на 20 відсотків ефективніше. Приклад: У США кол-центр використовував алгоритми пошуку співробітників серед заявників, які залишились би надовго, не виходячи з роботи. Працював чудово. Потім було помічено, що люди з проблемних районів взагалі не влаштовуються на роботу, тому їх просто дискримінують. Тому компанія вирішила заглушити алгоритм на цьому етапі, щоб він більше не дискримінував. Пріоритетом було: справедливість перед ефективністю.
Однак алгоритми не можуть запобігти подальшій дискримінації у повсякденному житті чи на роботі за кольором шкіри або походженням.
Ні, чутливість до проблем повинна виникати до їх алгоритмічного вирішення. Тоді люди отримують можливості, яких вони навряд чи мали раніше. Це, в свою чергу, призведе до зміни у ставленні та цінностях, я в цьому переконаний. Алгоритмам не важливо, звідки ви родом, скільки вам років, ваш колір шкіри, стать та ваш навчальний шлях. Наприклад, ви зможете використовувати комп’ютерні ігри, щоб визнати свої компетенції та поєднати їх з вимогами роботи. Вражає не тільки точність. Я вражений потенціалом для більш справедливого суспільства - програми не просто розглядають можливий нерівний освітній шлях та відсутність офіційної кваліфікації. Ви також бачите невидимі, приховані здібності особистості.
Чи можемо ми тоді вимкнути почуття кишечника перед тим, як приймати рішення?
Точно ні. Але ми можемо порівняти свою внутрішню чутливість за допомогою даних і надати відчуттям нашого кишечника іншої речовини. Якби ми придивились спочатку, щоб надати всім рівний доступ до все більш цифрового світу, було б досягнуто багато.
Чи справедливі алгоритми?
Вони такі ж справедливі або несправедливі, як і люди. Якщо я будую їх відповідно, вони можуть принести справедливість. Але вони не можуть позбавити нас соціальних суперечок щодо того, що є справедливим. Наприклад, у США було встановлено, що певним категоріям населення легше отримати доступ до університетів, ніж іншим. Тоді було визначено, що постраждалих меншин у майбутньому буде достатньо для того, щоб мати слабку середню кваліфікацію, щоб отримати місце в університеті, для якого більшості потрібен кращий сертифікат. Це справедливо Це має бути обговорено та вирішено в політичному процесі. У будь-якому випадку, це важіль для усунення структурних недоліків.
Хіба це не вирівнювання?
Зокрема, в освітньому секторі штучний інтелект може покласти край вирівнюванню за допомогою персоналізованого навчання та одночасно стати більш соціально справедливим: індивідуальна підтримка більше не повинна залежати від кредитної картки батьків. Алгоритми не замінять вчителя - він стане від посередника знань для всіх до супутника навчання для особистості.
Зараз алгоритми вже приймають офіційні рішення. Хто бере на себе відповідальність, коли ви помиляєтесь?
Той, хто вирішив використовувати алгоритми, повинен згодом також взяти на себе відповідальність за них, включаючи забезпечення якості.
Ми знайомі з оцінками впливу будівельного та екологічного законодавства. Чи потрібно нам щось подібне і для алгоритмів ?
Це можливо. Завжди знайдуться сфери, де досить знати, що працюють алгоритми - наприклад, при наданні автомобілів в оренду. Тоді є сфери, в яких ми хочемо зрозуміти рішення - наприклад, із страховими тарифами на автомобілі, які визначаються програмами аналізу даних і не мають права дискримінувати будь-яку групу населення. Нам потрібні обов'язкові процедури затвердження у чутливих, соціально важливих сферах - наприклад, при затвердженні медичних роботів або при підтримці в судах. У цифровому, а також в аналоговому режимах повинні бути варіанти контролю та подання скарг.
Зрештою, чи алгоритмічне суспільство є більш демократичним, ніж сьогодні?
Алгоритми, безумовно, дадуть нам доступ до додаткової інформації. Чи зможуть вони також зробити суспільство більш демократичним, залежатиме від того, чи вдасться нам вступити в серйозні політичні дискусійні процеси з провайдерами соціальних мереж щодо небезпеки каталізаторів, ехокамер радикалізації. На даний момент їх алгоритми просувають та підсилюють дедалі екстремальніші думки. Однак компенсацію можна також технічно підтримати.
Баланс вважається нудним у Facebook або Twitter.
Але чи мусимо ми прийняти це, якщо більшість суспільства хоче балансу? Я думаю, що корпоративна соціальна відповідальність полягає у прориві їхніх комерційних інтересів на даний момент - заради мирного співіснування. Тут безумовно є позитивні приклади: після останньої американської виборчої кампанії Facebook провів величезні дебати про політичний вплив. Як результат, механізм пошуку Google був досліджений у федеральній виборчій кампанії - в результаті особисті характеристики навряд чи відіграють роль у політичних пошукових запитах щодо результатів. Так це працює.
Федеральний уряд прийняв "стратегію ШІ" щодо роботи зі штучним інтелектом. Яка відповідальність лягає на державу з точки зору цифрових змін?
Для держави цифрові зміни означають, перш за все, що вона повинна розвивати відповідні дизайнерські навички. У двох відношеннях: Держава створює рамкові умови для роботи інтелектуальних машин з метою їх служіння загальному благу. Водночас сама держава експлуатує алгоритмічні системи в органах безпеки, соціальних або фінансових органах, рішень яких не може уникнути жоден громадянин. Отже, держава має подвійну роль, яку вона повинна виконувати швидко та всебічно.
Ми досить швидкі?
Можливо, варто поглянути на Китай. Життя китайців майже алгоритмічне. Це заходить настільки далеко, що, дотримуючись державних норм чи іншої належної поведінки, на вашому рахунку громадянина накопичуються бонуси, за допомогою яких ви можете сісти в літак за лініями очікування.
Це звучить досить лячно.
Китай взагалі не повинен бути для нас взірцем для наслідування, але приклад закликає нас поспішати шукати власні відповіді. Хочемо ми цього чи ні: ми повинні говорити про те, що ми хочемо, а що не можна існувати. Однак це є більш вимогливим, ніж дебати, що викликають страх про те, скільки робочих місць може бути втрачено внаслідок оцифрування. Тому що мова йде про наші цінності та питання про те, як ми пов’язуємо їх із нашим майбутнім. Приклад Китаю доводить, що це майбутнє вже розпочалося.