"Сильний" штучний інтелект та автономні роботи, які відповідають за режимом Тібо

Ми часто посилаємось на два конкретні режими відповідальності для управління автономними роботами, оснащеними штучним інтелектом: відповідальність за вчинення речей та режим відповідальності за дефектні товари.

Перший режим не підходить для гіпотези автономного робота, оскільки він передбачає певну силу використання, спрямування та управління. Другий режим також є проблемою, оскільки шкода може бути заподіяна, якщо "виробник" не відповідає за "дефект", строго кажучи, робот розвивається лише автономно, в режимі самонавчання.

Ось чому одні пропонують прийняти режим відповідальності за зразком режиму відповідальності за тварин, тоді як інші пропонують встановити режим відповідальності, характерний для автономних роботів. В останньому випадку передбачається створення нової правосуб’єктності, крім людської особи та юридичних осіб (таких як компанії та асоціації, визнані законом). Ця тенденція отримала позитивний відгук від Європарламенту у вкрай суперечливій резолюції, прийнятій у 2017 році.

Яка етика ?

Щоб спробувати пролити більш загальне світло на дискусію, давайте почнемо спочатку: які етичні правила ми хочемо застосувати до розумних та автономних роботів ?

Саме в 1944 році це питання вперше було піднято відомим автором наукової фантастики Ісааком Азімовим у його «Трьох законах робототехніки»:

• Перший закон
  Робот не може поранити людину, а також своєю бездіяльністю дозволити поранити людину.
• Другий закон
  Робот повинен виконувати розпорядження людей, якщо такі накази не суперечать Першому Закону.
• Третій закон
  Робот повинен захищати своє власне існування, доки такий захист не суперечить Першому та/або Другому Закону.

Ці три закони сьогодні є основою дискусії настільки, що їх навіть цитували на фронті згаданої резолюції Європейського Парламенту.

Європейська комісія, зі свого боку, веде активну роботу з цього питання, оскільки створила "Експертну групу високого рівня зі штучного інтелекту" (GEHN IA). 9 квітня 2019 року Комісія опублікувала рекомендації, запропоновані цією групою експертів.

За його словами, ШІ повинен:

• поважати основні права, чинні норми, а також основні цінності та принципи, гарантуючи "етичну мету";
• бути орієнтованим на людину: ШІ повинен розроблятися, застосовуватися та використовуватися з "етичною метою", заснованою на основоположних правах, суспільних цінностях та етичних принципах благодійності (робити добро), не зловживання (не шкодити), автономії людства, справедливість та пояснюваність. Це важливий аспект досягнення надійного ШІ.
• бути надійними з першого етапу проектування: підзвітність, управління даними, дизайн для всіх, управління автономією ШІ (людський нагляд), недискримінація, повага людської автономії, повага до приватного життя, надійність, безпека, прозорість.

Крім того, група наголошує на необхідності сприяти ревізії систем ШІ, особливо у критичних контекстах або ситуаціях. ШІ повинен бути розроблений таким чином, щоб він міг відстежувати різні рішення, які він приймає. Це головне питання для людства. У зв’язку з цим, ймовірно, буде доцільним поєднати ШІ з технологією блокчейну, яка буде відстежувати процес прийняття рішень у режимі реального часу.

Новий режим відповідальності ?

Зрештою, чи варто нам створювати новий режим відповідальності за розумні речі? ?

Це можливо. Для того, щоб намалювати контури такого режиму, можна запропонувати наступні настанови:

• конструктор ШІ буде нести відповідальність, якби він не розвивав інтелект
  "Надійний", тобто відповідно до вищезазначених приписів
• проектувальник повинен створити "попереднє дослідження впливу" ШІ на індивідуальні свободи, аналогічне дослідженню впливу, встановленому GDPR, у випадку масової або конфіденційної обробки даних.
• ШІ повинен мати можливість постійно контролюватися "штучним моральним агентом", який би сигналізував про ненормальну поведінку і дозволяв людям втручатися, якщо це необхідно, деактивуючи ШІ (і ця технічна можливість повинна існувати)
• Застосування цього штучного агента, а також попереднє створення дослідження впливу та інструмента простежуваності, підпадало б під загальний принцип підзвітності, завжди як GDPR.
• Фонд колективної компенсації повинен бути створений на випадок збитків, спричинених ШІ, без вини, спричиненої його розробником.

---