Зобов’язання пояснювати загальнодоступні алгоритми один рік даремно
Рік тому набув чинності один із ключових заходів Цифрового закону: обов'язок адміністрацій пояснювати на запит, як працюють їх алгоритми. Однак важко знайти громадського актора, який би нахилявся до вправи.
Виділення сімейних надбавок або стипендій, сума податку на прибуток. З 1 вересня 2017 року всі окремі рішення, що приймаються "на основі алгоритмічної обробки", теоретично повинні супроводжуватися "явною згадкою", повідомляючи громадянину про те, що комп'ютерна програма стала втручатися у обчислення його APL, його житлового податку, тощо.
А ще краще: за допомогою цих кількох рядків, які стають обов’язковими згідно із Цифровим законом, кожна адміністрація зобов’язана пояснити користувачеві, що він має право на передачу “правил” та “основних характеристик” реалізації використовуваного алгоритму: ступінь внеску у прийняття рішень, обробці даних (та їх джерел), параметрах обробки, застосованих до ситуації заявника.
Зацікавленість цих положень? Дозволити громадянам мати зрозумілі пояснення щодо роботи алгоритму (алгоритмів), які використовувались для обробки їхніх файлів. Дійсно, для фахівців з інформатики все ще можна вимагати - як доповнення - сам алгоритм.
Досі не найменша "явна згадка"
Проблема: майже через рік після набрання чинності цією реформою стає очевидним, що вона здебільшого ігнорується адміністраціями.
Насправді неможливо знайти найменшої "явної згадки" в повідомленнях, надісланих, наприклад, податковими органами або сімейними надбавками. Як ніби занадто складно інтегрувати коротке речення у стандартні літери - і це просто для попередження користувачів, що вони можуть попросити пояснити, як адміністрація прийняла таке рішення щодо них, використовуючи алгоритм.
Що стосується уточнення алгоритмів саме по собі, то тут також вщипує взуття. Сімейні надбавки, на які ми просили, намагалися виконати цю практику. За винятком того, що це було більше поясненням розрахунків, що стосуються даної допомоги (бонус за активність), ніж реальним розшифровкою того, як працював алгоритм.
Податкова адміністрація, зі свого боку, ніколи не відповідала на наш запит про роз'яснення. Наприкінці 2017 року ми передали справу Комісії з питань доступу до адміністративних документів (Када), яка запропонувала Берсі детально описати роботу алгоритму розрахунку житлового податку - все ще марно донині.
"Це не погана воля, це скоріше незнання", - запевнив нас кілька місяців тому старший чиновник, знайомий з цим питанням. "Це насправді не розглядається як пріоритетна дія, оскільки санкції не передбачені, крім можливого дефіциту іміджу. "
Однак ставлення адміністрації викликає питання. У вересні 2017 року ми надіслали запити на співбесіду до Pôle emploi, податковій адміністрації та Національному фонду сімейних допомог, щоб побачити, як ці установи, які в першу чергу орієнтовані на цифровий закон, готуються до виконання своїх нових зобов'язань. Однак усіх їх постійно замуровували, незважаючи на наші нагадування.
Коли Сенат намагається вдарити кулаком по столу
Навесні сенаторів ця ситуація також дратувала. “Який сенс створювати або декларувати права, якщо громадянин не поінформований і якщо, зрештою, ці права залишаються мертвим листом? »Таким чином, засмутившись доповідачем законопроекту GDPR Софі Джойссенс.
Для того, щоб "заохотити адміністрацію дотримуватися закону", Вища асамблея навіть прийняла поправку, яка передбачає, що за відсутності "прямої згадки" адміністративні рішення систематично вважаються нікчемними.
Уряду, який, очевидно, був стурбований наслідками цих положень для мільйонів податкових повідомлень (зокрема), вдалося виправити Національні збори. Депутати справді проголосували за кілька поправок до виконавчої влади, щоб систематична нікчемність не переважала до 1 липня 2020 року - і це лише щодо рішень, прийнятих виключно на основі алгоритму (який теоретично не був санкціонований до набрання чинності Закон про адаптацію французького законодавства до GDPR).
Очевидна інерційність адміністрацій тим більше дивує в цій справі, оскільки Еммануель Макрон під час своєї промови 29 березня пообіцяв, що держава оприлюднить усі використовувані ними алгоритми. Однак це не завадило більшості проголосувати, кількома тижнями раніше урядова поправка, яка скасовує зобов'язання щодо роз'яснення алгоритмів в рамках Паркурсупа.
Протягом найближчих місяців Etalab розбере п'ять загальнодоступних алгоритмів
"Для реалізації цих нових зобов'язань ми повинні покладатися на випадки використання", - пояснює Лоре Луккезі, директор місії Etalab. Таким чином, у рамках свого останнього плану дій щодо партнерства «Відкритий уряд» Франція взяла на себе зобов'язання «підготувати п’ять монографій публічних алгоритмів».
Цією роботою державні органи мають намір "виявити проблеми в технічному, правовому та організаційному плані". На практиці ці "обстріли" загальнодоступних алгоритмів дозволять краще відтворити їх роботу, перший крок перед тим, як запропонувати пояснення користувачам.
#FridayLab @etalab Семінар-практикум «Алгоритмічне приготування їжі» під керівництвом @schignard та @CellardLoup: Реконструкція рецептів місцевих податкових податків, щоб зробити їх зрозумілими pic.twitter.com/sIzC4RuHtz
- Etalab (@Etalab) 22 червня 2018 рМісія Etalab працює, наприклад, з Головним управлінням державних фінансів щодо податку на житло. Parcoursup також можна вивчити, як і алгоритми, що використовуються в рамках проектів «Культура пропуску» та «Signaux brûlées» - два «стартапи», керовані Міжвідомчим цифровим управлінням (частиною якого є Еталаб).
"Ми розглянемо, як на розроблених нами алгоритмах ми можемо впровадити ці принципи прозорості та підзвітності за задумом", - пояснює Лоре Луккезі. «Ці випадки використання також дозволять нам визначити передові практики. "
Зацікавлена особа, тим не менш, підкреслює, що "Еталабу" непросто "підтримати всі адміністрації з цього нового аспекту", оскільки це "продовження" його початкових місій у напрямку відкриття публічних даних.