Великі дані - це менше персональних даних, ніж зникнення людини; двійковий
Ця стаття опублікована у співпраці з TheConversation.
Нове "Інтерв'ю навколо ІТ". Антуанетта Рувруа, науковий співробітник Бельгійського національного фонду наукових досліджень при Центрі досліджень інформації, права та суспільства (CRIDS) Університету Намура відповідає на наші запитання щодо алгоритмів та алгоритмічного управління. Це веде нас до кордонів права та філософії. Це виняткова можливість поставити собі запитання про ці нові виміри нашого життя та цифрового світу. Серж Абітубул і Крістін Фройдево
Двійкові: Антуанетта Рувруа, хто ти ?
Антуанетта Рувруа: Я вивчала право, яке продовжила докторською дисертацією з філософії права в Європейському університетському інституті у Флоренції (*). З тих пір мене цікавлять філософські, політичні та правові питання "оцифрування" світу та його мешканців та зростаючого розширення можливостей комп'ютерних систем. .
Проблема захисту персональних даних гостра сьогодні ?
Це правда, що явище «великих даних» ставить правові режими захисту персональних даних «в кризу». Проблемою, пов’язаною з експоненціальним і надзвичайно швидким розповсюдженням різних цифрових даних, є те, що, насамперед, режими захисту даних здаються непридатними для вирішення безпрецедентних викликів явищ профілювання та персоналізації, характерних для оцифрованого суспільства.
Сьогодні будь-які цифрові дані можуть допомогти нам ідентифікувати нас або дуже точно охарактеризувати нашу унікальну поведінку, якщо їх поєднати з іншими даними, навіть не дуже «особистими». Отже, нам, як видається, загрожує вже не передусім неналежна обробка персональних даних, а перш за все розповсюдження та сама доступність цифрових даних, хоч і безособових, у величезних кількостях. Інформатики це знають: анонімність, наприклад, застаріле поняття в епоху великих даних. Необмежені можливості перетину анонімних даних та метаданих (даних про дані) дозволяють дуже легко повторно ідентифікувати людей, хоча всі дані були анонімізовані.
Саме кількість, яка перевищує якість оброблених даних, робить обробку потенційно проблематичною.
Ці великі обсяги даних та великі дані суперечать основним принципам захисту даних: мінімізація (ми збираємо лише дані, необхідні для переслідуваної мети), остаточність (ми збираємо дані лише для встановленої, заявленої, законної мети), обмеження за часом (дані повинні бути стерті після досягнення мети і не можуть використовуватися, за винятками, для цілей, відмінних від цілей, які були спочатку заявлені). Великі дані, навпаки, - це максимальний збір, автоматичний, за замовчуванням, і необмежене збереження всього, що існує в цифровій формі, без необхідності встановленої мети. Корисність даних стає очевидною лише на шляху, завдяки статистичній практиці видобутку даних, машинного навчання тощо.
Дарпа Великі дані. Вікісховище
Однак ми не можемо розширити поле захищених даних? Це означало б піддавати майже всі цифрові дані режимам законного захисту даних, і це означало б кінець європейської цифрової економіки. Є ще що робити ?
Сьогодні актуальність полягає у тому, щоб протистояти тому, що насправді є проблемою, а не продовжувати фетишизувати особисті дані, одночасно підлещуючи прихильний індивідуалізм наших сучасників, обіцяючи посилити індивідуальний контроль або навіть майно та вільне комерційне розпорядження кожним із своїх «даних». Якщо дивитись на точку зору особистості, крім того, проблема полягає не в більшій соціальній видимості чи в зникненні приватної сфери. Навпаки, ми спостерігаємо гіпертрофію приватної сфери на шкоду громадському простору.
Сучасні інформаційно-комунікаційні технології насправді не роблять нас більш «помітними». "Телефонні панянки" минулих років, неминучі свахи і не завжди стримані побачення в соціальних мікрокосмах, жадні чуток, представляли загрозу принаймні настільки ж важливу для захисту персональних даних та конфіденційності людей сліпих та глухих алгоритмів сьогоднішнього пошуку двигуни. Можливо, ми ніколи не були менш «видимими», менш «значущими» у публічному просторі як суб’єкти, як люди, ніж сьогодні. Поширення селфі та інших виступів із цифровою ідентичністю є симптоматичним у цьому відношенні. Невизначеність існуючого спонукає безпрецедентний потяг до редагування себе: проявити себе, щоб повірити у своє існування.
Справжнє питання: зникнення "людини"
Що цікавить приватні та державні бюрократії, які «керують нами», це автоматичне виявлення наших «потенцій», наших схильностей, того, що ми могли б бажати, що б ми могли зробити, не будучи самими собою, іноді навіть свідомими. Схильність, ризик, потенціал, це ще не людина. Справа не в особистих даних, а радше в зникненні "особи" в обох сенсах цього терміну. Нам стає неможливо бути "ніким", бути "відсутнім" (ми не можемо не залишати слідів), і нас неможливо вважати "ніким". Хіба те, що ми можемо сказати про себе, не стає надмірним, якщо не підозрювати, зважаючи на ефективність та механічну об'єктивність автоматичного профілювання, якому ми піддаємось? ?
Сліди говорять про/за нас, але не говорять, хто ми: вони говорять, на що ми здатні. На додаток до чітких заборон щодо продуктивності виробництва та споживання споживання, що характеризують неолібералізм, існує нейтралізація "того, на що ми були б здатні", "того, що ми могли б хотіти". У військовій та безпековій сферах це страта озброєними безпілотниками або запобіжні арешти потенційних учасників бойових дій або терористів. У комерційній галузі мова йде вже не стільки про задоволення попиту, скільки про його передбачення.
Процес формалізації та вираження бажання обходить стороною.
Наприклад, те, що цікавить платформи електронної комерції, полягає в тому, щоб обійти процеси, за допомогою яких ми будуємо та переглядаємо свій вибір споживання, включатись безпосередньо в наші попередньо свідомі імпульси, і таким чином забезпечувати проходження в акті покупки, якщо це можливо, мінімізуючи попередні роздуми з нашого боку. Відмова від загальних категорій на користь індивідуального профілювання призводить до гіперіндивідуалізації, до зникнення суб'єкта, оскільки, незалежно від його можливостей розуміння, волі, рефлексивності, висловлювання, ці - вони вже не передбачаються або вимагається. Автоматизація рухає імпульси людей безпосередньо до дії; його бажання передують йому. Що це підриває - і до цього можна було б звернутися до Дельоза та Спінози - це сила суб’єктів, тобто їх здатність не робити всього, на що вони здатні. Завдяки автоматичному виявленню наміру, процес формалізації та вираження бажання обходить.
Я не засуджую тут в абсолютному вираженні "інтелект даних", а також усі способи використання та програми, які можуть бути використані при новій обробці даних типу великих даних. Є великі програми, зокрема, у багатьох наукових галузях. «Автоматична цікавість» алгоритмів, здатних здійснювати навігацію даними, не піддаючись ярму репрезентації і не обмежуючись ідеєю завжди розташованої точки зору людського спостерігача, все це відкриває нові перспективи і обіцяє несподівані відкриття. Мене тут турбує сучасне використання цієї алгоритмічної раціональності для моделювання та управління поведінкою людини.
Автоматичні алгоритми рекомендацій можуть також втручатися в прийняття адміністративних або судових рішень стосовно осіб. Уявіть, наприклад, систему підтримки прийняття рішень, засновану на алгоритмічному моделюванні поведінки рецидивістів. Хоча це в принципі лише автоматизовані "рекомендації", що дають посадовим особам гнучкість дотримуватися рекомендацій або відхилятися від них, цілком ймовірно, що дуже мало хто відхилятиметься від негативної рекомендації (пропонуючи затримання, а не умовне чи дострокове звільнення), незалежно від їхніх особистих знань відповідної особи та незалежно від її твердої впевненості щодо ризику рецидиву злочинів, оскільки це означало б прийняття особистої відповідальності за можливу невдачу. Насправді, у цьому випадку рекомендація замінює рішення людини, і поняття вибору, але також рішення та відповідальності затьмарюються роботою машин.
Алгоритми токсичні, якщо ми використовуємо їх для оптимізації нестерпного, відмовляючись від своїх обов’язків - стояти в праведній позиції щодо власного незнання та використовувати наші колективні можливості змінювати світ. Алгоритми корисні, з іншого боку, коли вони дозволяють нам стати розумнішими, чутливішими до світу та його мешканців, більш відповідальними, винахідливішими. Вибір, як використовувати їх ліниво, токсично, сміливо та розширено, залежить від нас.
Інтерв’ю Сержа Абітубула та Крістін Фройдево
(*) Антуанетта Рувруа, людські гени та неоліберальне управління. Критика четвірки, Рутледж-Кавендіш, 2007.