Демонтувати масштабну інфраструктуру нагляду та дискримінації

Теми

• Мобільність (807)
• Території (639)
• Інтерфейси (616)
• Медіа (574)
• Довіра та безпека (531)
• Економіка та ринки (471)
• едемократія (438)
• Освіта та догляд за дітьми (419)
• Інновації, РД (333)
• Гра (306)
• (.)

Порядок денний

• Усі новини ІКТ

Книгарня

• Наш вибір книг

Чи сприяє нагляд добробуту людей ?

Колумніст і дослідник з лабораторії досліджень нових технологій університету Монаш, Джатан Садовскі (@jathansadowski), робить те саме спостереження у колонці для OneZero. Для автора "Надто розумного", нещодавно опублікованої книги, яка особливо критикує технології, ці полохливі зречення далеко не "демонтують міську машину війни", яку ці компанії запроваджують. Всюдисущі камери, прогнозуючі алгоритми, інтелектуальні системи ... "розумним" міським технологіям немає місця в суспільстві, яке відкидає гноблення, каже він. Цей інтелект, який слід розуміти перш за все в англійському розумінні "інтелекту", більше схожий на роботу поліції, ніж на будь-який факультет, як це зазначав філософ та історик науки Мішель Блей у "Пенсер оу клік".

Для Садовського ми можемо використати цей хапакс, цей момент заперечення все більш технологічного збройного нагляду, щоб намагатися демонтувати правоохоронні механізми, які зараз вбудовані в технологічну інфраструктуру. «Подумайте про це відповідно до методів, запропонованих Марі Кондо (папою зберігання), але щодо технологій: чи ця послуга сприяє добробуту людей чи соціальному добробуту? Якщо ні, то викинь! "

Незважаючи на те, що лише кілька тижнів тому призначення поліції здавалося немислимим, варіант раптово стає можливим, незважаючи на скарги консервативних опонентів, які підвищують небезпеку збільшення злочинності.

Вимагайте від поліції не реагувати на соціальні проблеми

У той час як у своїй останній книзі Садовський стверджував, що зруйнувати інфраструктуру нагляду за планетою буде важко, сьогодні ця пропозиція видається набагато менш радикальною, ніж вчора. Оскільки вимоги до кращого світу відкривають нові можливості, можливо, настав час відповісти, стверджує він. Ми маємо скасувати не для того, щоб скасувати, а тому, що лише тоді ми можемо почати будувати новий світ на руїнах старого, підкреслює Садовський. Рішення про розпуск Департаменту поліції Міннеаполіса свідчить про те, що курс світу не закладений. Якщо установи можна скасувати, то інфраструктуру також можна демонтувати. «Компанії, які скористалися цими технологіями, та уряди, які застосовували їх проти громадськості, не мають моральних повноважень говорити нам, що слід зберігати, а що викидати. "

Для Рашада Робінсона, президента "Кольору змін" (@ColorOfChange), групи з питань цивільних прав, яка консультує технічні компанії з питань расової справедливості, технічні лідери повинні застосовувати антирасистські принципи при розробці власних продуктів, а не просто висловлювати свою підтримку для питання "Чорні життя". А цей запросити платформи модифікувати свої рекомендаційні системи або запровадити цікаву "вірусну кришку" на повідомленнях ...

Більше немає даних Зброя !

Для Єші Мілнера перетворення великих даних як інструмент соціальних змін вимагає зміни культури. Він полягає у відмові від програмування, як воно нам нав'язується. Створити багаторасові, міжпоколінні та міждисциплінарні союзи для створення нових моделей. Створити нові стандарти для технологічних компаній шляхом посилення політичного тиску на них. Нарешті, мова йде про надання людям, безпосередньо зацікавленим, засобів для ведення боротьби. "Нам потрібно оптимізувати не несправедливість минулого, а навпаки, справедливість і солідарність завтрашнього дня! "

Асоціація також нещодавно опублікувала звіт про використання даних у контексті пандемії Covid-19, в якій відкидається використання даних, пов’язаних з пандемією, для поліції, нагляду, контролю, відмови у кредитуванні або націлювання на чорношкірі громади.

Зростають інші протести, наприклад, під проводом "коаліції за критичні технології" (@forcriticaltech), групи з майже 2000 дослідників, які хочуть скасувати конвеєр даних, який веде від технологій до в'язниці. Ці дослідники дуже рішуче виступають проти відкрито френологічної публікації видавця Спрінгер, використовуючи розпізнавання обличчя для прогнозування злочину за рисами обличчя. Але за цією конкретною дією дослідники стверджують, що дані, отримані системою кримінального судочинства США, більше не використовуються для ідентифікації злочинців або прогнозування злочинної поведінки. І зауважте, що технічне питання етики та справедливості відволікає увагу від основних питань дійсності алгоритму.

Визначте поліцію! ... Ризикуючи її уберизувати ?

Щодо OneZero, журналіст і прозаїк Тім Моган (@timmaughan), тим не менше, попереджає ... визначення поліції не полягає у заміні її на все нові і нові технології спостереження. Поточна дискусія щодо фінансування американської поліції стимулює, вважає Моган, але ризик поступитися технологічним компаніям є реальним. У Камдемі, американському місті, яке останнім часом часто наводять як приклад, оскільки воно протягом декількох років скорочувало бюджет, виділений на поліцію, і розвивало поліцейські сили громади, було створено багато систем спостереження (камери спостереження, спостереження за допомогою мікрофонів, теплова камера, система прогнозуючої поліції ...) на благо приватних компаній ... За визначенням поліції існує ризик розвитку її уберизації. Що стосується Моген, оголошення великих технологічних компаній про те, що вони більше не пропонують свої засоби спостереження в поліції, не зобов'язують їх до інших приватних компаній, які співпрацюють з ними, або навіть замінюють їх.

Невід’ємною проблемою нагляду, як зазначив експерт з питань безпеки Кріс Гілліард (@hypervisible), є те, що воно постійно розширює рівень злочинності та використання поліції. Поліція стає засобом вирішення всіх щоденних труднощів, тоді як ми цілком могли б сприяти іншим формам реагування, наприклад, втручанню соціальних служб, коли на вулицях виникають проблеми з безпритульними людьми ... Для Моґен ці питання вимагають кращого визначення що стосується підтримання порядку, щоб не зводити нові гнітючі структури шляхом демонтажу старих.

Вихід з логіки управління ?

Однак перерозподіл частини бюджетів поліції на соціальні програми створює нові проблеми, говорить дослідник Дороті Робертс (@dorothyeroberts) у "Хроніці соціальних змін". Соціальні системи не завжди є більш доброчесними, ніж система кримінального правосуддя, нагадає вона: вони також часто призначені для регулювання та покарання найбідніших верств населення. Гірше, зазначає вона, такий переказ коштів насправді загрожує посиленням контролю над чорношкірими та маргіналізованими групами населення ... як дуже добре продемонструвала книга Вірджинії Юбанс. Нарешті, ризик полягає в тому, щоб представити соціальних працівників як універсальний замінник міліції! Служби захисту дітей також, як правило, карають бідні та чорношкірі сім'ї, не обов'язково усуваючи структурні причини їх труднощів. Існує небезпека переходу від одного примусу до іншого, коли необхідно уявити кращі способи запобігання домашньому насильству або задоволення потреб сімей, ніж відокремлення дітей від своїх або розвиток їх моніторингу (наприклад, надання грошових коштів допомога, охорона здоров'я, житло та матеріальна допомога ... без обмежень).

Технологія, підтримка зближення дискримінації

За цією невидимізацією та цією байдужістю ми виявляємо як надмірне, так і нехтування, пояснює Алондра Нельсон: це означає, що меншини, яких дискримінують, обумовлені як специфічними зловживаннями, які породжує ця байдужість, так і надмірним опроміненням, яке посилює цей контроль.

Джой Буоламвіні (@jovialjoy), засновник Ліги алгоритмічної справедливості (@AJLUnited), показала у своєму дослідженні, що результати інструментів розпізнавання обличчя мають дуже різну частоту помилок залежно від того, аналізують вони обличчя світлошкірого чоловіка чи темношкірого шкіра жінка. З тих пір вона уклала пакт про компанії, що пропонують ці технології. Активіст і дослідник хоче залишатися оптимістом і виступає за системи, які вдаються бути інклюзивними.

Однак ці глибоко вкорінені суперечки підкреслюють, наскільки ця мета, здається, віддаляється, оскільки технології поширюються на всі верстви суспільства. У будь-якому випадку, ці мобілізації та дискусії показують, що дискурс проти технологій розтягується. Як Бен Тарнофф (@bentarnoff) дуже добре підкреслив в американському соціалістичному журналі Якобін: "Деякі цифрові послуги не можна робити менш зручними або більш демократичними, а просто скасувати". Вимога зупинити машини, яка, якщо вона не нова, поляризує позиції як ніколи. Залишається, за питанням демонтажу цифрової зброї, краще охарактеризувати, що потрібно демонтувати, а що потрібно зберігати.