Стан пропозицій Європейського Союзу та штучного інтелекту - електронна комерція Dalloz
23 січня Європейський Парламент, засідаючи в комітеті, прийняв тридцять дев'ятьма голосами "за", "проти" та чотирма утримались свій проект резолюції про автоматизовані процеси прийняття рішень: захист споживачів та вільний рух товарів і послуг. Незабаром ця резолюція буде проголосована на пленарному засіданні, а потім буде передана державам-членам та Комісії. Одночасно останній готує свою довідку з питань штучного інтелекту, перша версія якої була оприлюднена 17 січня 2020 року веб-сайтом Euractiv.com (див. С. Столтон, LEAK: Комісія розглядає заборону розпізнавання обличчя в "Білій книзі" ШІ ”, Euractiv.com, 17 січня 2020 р.), Тоді як на 19 лютого 2020 р. Запланована зустріч у Комісії з метою вироблення європейського підходу з цього питання. Демонструючи стан дебатів на рівні Союзу, ці проекти дають змогу побачити можливі регуляторні пропозиції, які можуть бути подані державам-членам.
Між автоматизованим прийняттям рішень та штучним інтелектом
Ще до будь-якого читання проекту цікаво відзначити, що резолюція Парламенту стосується "автоматизованих процесів прийняття рішень", а не "штучного інтелекту", де в прес-релізі йдеться про "штучний інтелект (ШІ) та автоматизоване прийняття рішень (ADM) технології ". Будь то в англійському чи французькому значенні, термін автоматизованого прийняття рішень посилається на статтю 22 Загального регламенту захисту даних (ЄС) 2016/679 від 27 квітня 2016 року (RGPD), що викликає дві труднощі.
З одного боку, ця сама стаття 22 в цілому стосується алгоритмів (Дж. Рошефельд, Структура рішень, що приймаються алгоритмами, Dalloz IP/IT 2018. 474; Т. Дувіль, Parcoursup à l'Île-de-Transparency des algoritam, Dalloz IP/IT 2019. 390; А. Сі, Регулювання алгоритмів: нова модель глобалізації ?, RFDA 2019. 830). Однак алгоритми, що розглядаються як "вивчення вирішення проблем шляхом реалізації послідовностей елементарних операцій згідно з визначеним процесом, що веде до вирішення" (обр. 27 червня 1989 р., Що стосується збагачення словникового запасу "обчислень, Додатку I), охоплюють ширший спектр технологій, ніж штучний інтелект, такі як експертні системи.
З іншого боку, якщо проект резолюції стосується лише автоматизованого прийняття рішень, він у будь-якому випадку виключає більшість випадків підтримки прийняття рішень, коли людина, якій допомагають у своїх міркуваннях штучний інтелект, приймає рішення в повному обсязі. Дійсно, у значенні статті 22 GDPR, автоматизоване прийняття рішень є "рішенням, заснованим виключно на автоматизованій обробці", яке, крім того, повинно мати "найбільш юридичні наслідки щодо особи, яку обробляють. це подібним чином ”. Використовуючи те саме значення, що і GDPR, важко визначити, чи бажає Парламент обмежити сферу свого проекту лише автоматизованим прийняттям рішень, або звільнитися від нього, націлившись на інші технології.
Що стосується проекту Білої книги Європейської комісії, вона уникає цієї пастки, визнаючи відсутність міжнародного консенсусу щодо визначення штучного інтелекту. Таким чином, він використовує терміни, запропоновані групою незалежних експертів високого рівня з питань штучного інтелекту, які розглядають системи штучного інтелекту як "програмні (і, можливо, апаратні) системи, розроблені людьми і які, отримавши складну мету, діють у реальному чи цифровий світ шляхом сприйняття навколишнього середовища шляхом збору даних, інтерпретації структурованих або неструктурованих зібраних даних, обґрунтування знань або обробки інформації, отриманої з цих даних, та прийняття рішення про найкращі дії для вжиття досягти поставленої мети »(Етичні вказівки для довіреного ШІ, 8 квітня 2019, § 143).
Ця перевага має перевагу, включаючи унітарну конструкцію:
• байдужість до форми, включаючи тілесні речі: роботи, апаратні засоби, «діючі в реальному світі» та нематеріальні речі: боти, програмне забезпечення, «діючі в цифровому світі» (див. Вже «Комунікаційне повідомлення, Інтелектуальний інтелект для Європи», 24 квітня). 2018, COM (2018) 237 final, с. 1);
• мета: «отримавши складну мету»;
• із визначеними засобами: "сприймаючи своє оточення шляхом збору даних, інтерпретації зібраних структурованих або неструктурованих даних, застосовуючи міркування до знань або обробляючи інформацію, отриману з цих даних";
• засоби, що базуються на імовірнісній логіці: "шляхом прийняття рішення про найкращі дії для досягнення заданої мети".
Крім того, Комісія пропонує кваліфікувати штучний інтелект як програмне забезпечення у значенні Директиви 2009/24/ЄС від 23 квітня 2009 року про правовий захист комп'ютерних програм (с. 12). До цієї кваліфікації додано функціональне визначення, яке включає, наприклад, здатність виконувати певне складне завдання за допомогою автоматизованих процесів, таких як машинне навчання (стор. 12).
Законодавчі пропозиції від євродепутатів
Євродепутати об’єднують свої пропозиції у чотири теми.
Вибір споживача, впевненість та добробут
Відповідно до доктрини більшості депутати пропонують посилити інформаційні зобов’язання, зокрема щодо функціонування штучного інтелекту (див. Не. CNIL, Як дозволити людям тримати контроль? Етичні питання алгоритмів та штучного інтелекту, грудень 2017 р., с. 48 f .; Звіт Вільяні, Надання значення штучному інтелекту, 28 березня 2018 р., с. 140 f .; Етичні вказівки щодо ШІ, гідного довіри, поперед., п. 53; Повідомлення Комісії, Штучний інтелект для Європи, поперед., с. 19). Таким чином, Комісія приєднується до цієї позиції, додатково вказуючи, хто може бути боржниками цього зобов'язання та яким буде його зміст (див., Наприклад, с. 13: "Вимоги до підзвітності та прозорості для розробників [...] щодо розкриття параметрів проектування системи штучного інтелекту »). Цікаво також зазначити, що застосування Регламенту (ЄС) 2018/302 від 28 лютого 2018 року, спрямованого на протидію невиправданому геоблокуванню та іншим формам дискримінації за національністю, вимагається контролювати. Місце проживання або місце проживання встановлення споживачів на внутрішньому ринку.
Безпека та відповідальність виробу
З метою запобігання шкоди для споживачів, члени Європарламенту пропонують внести зміни до низки директив (реж. 2006/42/EC; 2009/48/EC; 2014/53/EU; 2014/35/EU; 2001/95/EC) після ризику аналіз Комісією щодо цієї глобальної зміни в нормативних актах. Депутати Європарламенту також наполягають на адаптації, де це необхідно, директиви 85/374/ЄЕС про "браковані товари" від 25 липня 1985 року, зокрема концепцій продукту, пошкодження чи дефекту, які не завжди пристосовані до інтелекту. Штучні (див. Не. А. Бенсамун, Європейська стратегія щодо штучного інтелекту: все ще в етичному плані…, D. 2018. 1022; на противагу Г. Куртуа, Інтелектуальні роботи та відповідальність: які режими, які перспективи? Dalloz IP/IT 2016. 287). Усі ці пропозиції розглядаються Комісією в її проекті технічного документу (с. 17, варіант 4: Безпека та відповідальність).
Нормативна база послуг
Згадавши про існування таких положень, як GDPR, які вже регулюють певні аспекти штучного інтелекту, депутати пропонують, щоб люди завжди мали бути остаточно відповідальними та спроможними замінити рішення, які приймає штучний інтелект під час його діяльності, що повинен матеріалізуватися професійним навчанням. Ця пропозиція відповідає їхній резолюції від 12 лютого 2019 року (2018/2088 [INI], попередня, Pt 123). Автономія прийняття рішень професіоналами, які використовують штучний інтелект як частину підтримки прийняття рішень, справді є головною. Слід зазначити, що у випадку актів догляду, стаття 11 законопроекту про біоетику, що обговорюється, пропонує закріпити гарантію людського втручання, рекомендовану національним консультативним комітетом з етики (CCNE, висновок № 129, с. 102 f. Дослідження впливу законопроекту про біоетику, 23 липня 2019 р., с. 282 f.).
Якість та прозорість управління даними
Депутати Європарламенту наголошують на важливості використання високоякісних та неупереджених даних при навчанні штучного інтелекту, як, наприклад, Комісія, яка додає вимогу до різноманітних даних, які можуть певною мірою обмежити упередженість (див. Етичні вказівки щодо довіреного ШІ, вище, п. 44, пояснюючи, що дані повинні «бути якомога інклюзивнішими та представляти різні групи населення»). Крім того, згідно з проектом депутатів, ці дані слід використовувати на алгоритмах, які самі по собі є неупередженими та пояснюваними. Вони додають, що на підприємстві, яке розробляє штучний інтелект, повинна існувати служба, здатна виправляти помилки, а також право споживачів отримувати людське втручання для автоматизованих рішень, які є остаточними та постійними. Для забезпечення прозорості та пояснюваності систем штучного інтелекту члени Європарламенту пропонують повноваження Комісії контролювати ефективність цих заходів. Комісія, зі свого боку, підтримує делегування національних органів влади, залишаючи за державами-членами рішення, який орган (органи) здійснюватиме контроль.
Комісійні регулятивні пропозиції
Проект Білої книги Комісії щодо штучного інтелекту, який є більш розробленим, ніж проект резолюції, містить ключові теми, які не розглядались Парламентом, включаючи два підходи, засновані на оцінці ризику: один, з метою визначення боржників одного зобов'язання, інший, з метою встановлення.
Однією з основних труднощів, породжених штучним інтелектом, є простежуваність помилок, що спричиняють шкоду, особливо з огляду на різноманітність економічних суб'єктів, що беруть участь у житті штучного інтелекту. Для того, щоб визначити, хто нестиме відповідальність за штучний інтелект, Комісія пропонує підхід, заснований на призначенні особи, яка найбільш здатна відповісти на нього (с. 12). Таким чином, на думку Комісії, розробник мав би найкращу можливість реагувати на ризики, що виникають на етапі розробки. З іншого боку, його здатність контролювати ризики на етапі використання буде більш обмеженою. Цей підхід, заснований на оцінці ризику, передається боржникам за зобов'язаннями, пов'язаними зі штучним інтелектом: хоча зобов'язання розробника будуть зосереджені на етапі розробки, зобов'язання користувача будуть зосереджені на етапі використання. (С. 12-13).
В якості іншої помітної пропозиції Комісії цікаво навести її третій варіант регулювання, що полягає у диференціації регулятивного порогу відповідно до ризику (с. 16-17). Ці ризики враховуватимуть сектор (наприклад, медичний сектор), додатки (наприклад, прогностична поліція), рівень ризику, визначений дослідженням впливу, або контекст. З цих критеріїв та аналізів Комісія пропонує скласти визначення та перелік додатків із високим ризиком, які підлягають посиленому регулюванню.
Назустріч закону про штучний інтелект ?
Читаючи послідовні тексти Комісії та Європарламенту, стає очевидним, що роздуми про штучний інтелект поступово формуються. Вони пройшли визначення основних принципів, матеріалізованих прагненням запобігти ризикам, уникаючи уповільнення інновацій (Резолюція Парламенту, 16 лютого 2017 р., Попереднє повідомлення; Повідомлення Комісії, 24 квітня 2018 р., Попереднє.). Отже, ці роздуми були уточнені щодо інших технічних аспектів, зберігаючи деякі застереження (резолюція Парламенту, 12 лютого 2019 р., Попередня; Етичні вказівки для надійного ШІ, 8 квітня 2019 р., Попередня). Зараз вони базуються на конкретних положеннях, що підлягають регулюванню (Парламент, проект пропозиції резолюції, 21 січня 2020 р., Попередньо; Комісія, проект Білої книги, 12 грудня 2019 р., Попередньо).
Як результат вищезазначеного, обидва проекти слідують баченню своїх попередників і ще більше посилюють хватку майбутнього регулювання. Однак якщо вони будуть прийняті такими, як є, питання все ще залишаються без відповіді, по-перше, щодо юридичної кваліфікації штучного інтелекту, а також щодо того, як будуть внесені зміни до деяких нормативних актів, зокрема до директиви про "браковані товари" від 25 липня 1985 року. Коротше кажучи, проекти відображають сфери, що підлягають регулюванню, без прийняття чітких заходів щодо реформування цих сфер. Отже, конкретне регулювання штучного інтелекту ще далеко не встановлене.