Прогнозні тести можуть бути безпечними для людини; TechCrunch
Масовий аналіз прогнозів - порівняно нове явище, яке ставить під сумнів як десятиліття закону, так і проблеми, пов’язані з конфіденційністю споживачів.
Як технологія, вона може врятувати тисячі життів у таких додатках, як прогностична медицина, але якщо не застосовувати її обережно, вона може призвести до тисяч позик, наприклад, коли алгоритм підписки є упередженим для певних користувачів. .
Кілька тижнів тому я говорив із Деннісом Гіршем про виклики нової економіки даних. Гірш - професор права в штаті Огайо, керівник програми даних та управління. Він також є членом університетського інституту ризику.
"Етика даних - це нова форма зниження ризику для алгоритмічної економіки", - сказав він. У світі після Cambridge Analytica кожному бізнесу потрібно оцінити дані клієнтів та зменшити ризик шкоди. Однак те, як це робиться, є головним у новій галузі управління даними, яка вивчає процеси та політики, які організації використовують для управління своїми даними.
Ви читаєте додаткову інформацію Crunch Daily. Як цей бюлетень? Підпишіться безкоштовно стежити за усіма нашими дискусіями та дискусіями.
"Традиційна політика конфіденційності запитує, чи ви повідомляли когось і дали їм вибір", - пояснює він. Цей принцип є основою європейського закону DSDPR та мозаїкою американських законів про конфіденційність. Він базується на спрощеній ідеї, що колись ̵
Зростання "прогнозної аналітики" повністю зруйнував закон про захист даних. Прогностичний аналіз - це нечіткий термін, але він, по суті, означає інтерпретацію необроблених даних та виведення нових умовиводів з умовиводу. Це історія знаменитої кризи цільових даних, коли роздрібний торговець рекомендував жінкам, які мали певні покупки, купувати товари, пов'язані з вагітністю. Як пояснив Чарльз Духігг:
Багато покупців купують мило та ватяні кульки, але якщо хтось раптом починає купувати ватяні кульки та екстравагантні ватяні пакети, крім дезінфікуючих засобів для рук та килимів, це свідчить про те, що ви наближаєтесь до дати доставки.
Прогностичний аналіз важко передбачити. Гірш каже: "Я не думаю, що хтось із нас буде достатньо розумним, щоб зрозуміти прогнозування Google Analytics". Говорячи про клієнтів, він сказав: "Вони відмовляються від своїх поверхневих продуктів - таких як бавовняні кульки та лосьйони для тіла без запаху - я знаю, що вони поділяють це, але я не знаю, що вони відмовляються від своєї вагітності ... Люди не будуть Ви знаєте, як вони захищаються, бо не знають, що можна зробити з їхніх поверхневих даних ".
Іншими словами, величина цих передбачень повністю підриває увагу та схвалення
Хоча закон не спромігся вирішити цю складнішу проблему в геометричній прогресії, "компанії, здається, дуже відкриті після подій Target та Facebook". Ми чуємо, що ми не хочемо загрожувати нашим клієнтам ", - сказав Гірш. Вони розуміють, що ця перспективна технологія надає їм неймовірної сили, і вони можуть робити багато добрих справ, але також можуть завдати шкоди людям. "Основними гравцями тут є службовці з питань захисту даних компанії, роль, яка зіграла свою роль. За останні роки деякі з цих викликів були пом'якшені.
Гірш витрачає багато часу на розробку нових стратегій управління, які дозволяють компаніям використовувати прогностичну аналітику етично, щоб ми могли "отримати їх і використовувати їх без будь-яких стійких витрат". Він зосереджується на чотирьох сферах: конфіденційність, маніпуляція, процесуальні упередження та несправедливість. "Ми встановимо принципи, які є етичними, а не", - сказав він.
Значна частина цього акценту була зроблена на тому, як допомогти регуляторам розробити керівні принципи управління прогностичною аналітикою. Оскільки люди не можуть зрозуміти якомога більше інформації про свої дані, «набагато кращий регуляторний підхід - це мати когось, хто щось розуміє, в ідеалі - якогось регулятора, який може провести деякі риси. ". Дослідження Гірша, FTC може стати способом реалізації цієї політики на практиці.
Він також працює в Управлінні з контролю за продуктами та ліками. "Ми не можемо оцінити ризики певного препарату [так], що ми надаємо експертному агентству і дозволяємо йому оцінювати", - сказав він. "Це правило нам потрібне".
Гірш має збалансований погляд на ризики та можливості, які тут виникають. Він хоче, щоб аналіз був "більш соціально прийнятним", але в той же час вважає, що необхідний ретельний моніторинг та контроль для забезпечення захисту споживачів. Нарешті, він вважає це надзвичайно вигідним для компаній, які можуть використати цінність цієї технології без шкоди для споживчого споживання.
Хто викраде ваші дані: Китай чи Америка?
Jaap Arriens/NurPhoto на Getty Images
Що стосується етики даних, Європа знаходиться в середині супердержави. Huawei, телекомунікаційний гігант Китаю, визначив континентальну експансію головним пріоритетом, тоді як США направили делегації в делегації, щоб переконати своїх західних союзників відмовитись від китайського обладнання. Дилема була цілком помітна на MWC-Барселона минулого тижня, де обидві сторони намагаються пояснити свою справу.
Минули роки з тих пір, як Одкровення Сноудена показали, що Сполучені Штати мають величезну інфраструктуру перехоплення, націлену на країни усього світу. в тому числі по всій Європі. Huawei повторила свою позицію, що вона не краде інформацію зі свого обладнання, і неодноразово закликала адміністрацію Трампа публічно доводити помилки безпеки. Існує велика кількість морального релятивізму, але я бачу в цьому все більш важке випробування Заходу щодо Китаю. Китай не приховує своїх амбіцій зіграти визначну роль у Східній Азії, а також своїх намірів побудувати масштабну мережу спостереження за власним народом або впливати на засоби масової інформації за кордоном.
Однак ця тактика безпосередньо стосується американського порядку денного, який за останні два десятиліття втратив свою моральну легітимність завдяки поєднанню воєн в Іраці, Сноудена, Вікілікс та інших громадських скандалів, які підірвали довіру до країни. за кордоном.
Безпека та конфіденційність могли б бути конкурентною перевагою для американських продуктів перед їхніми китайськими аналогами, але ця перевага в багатьох країнах була послаблена майже до нуля. Країни все частіше обиратимуть поєднання китайського та американського обладнання в делікатних програмах лише для того, щоб переконатися, що якщо країна викраде її дані, це може бути збалансовано.
Речей, які мені здаються цікавими, не читали
Одержимість
- Можливо, більше проблем з точки зору використання даних та алгоритмічної відповідальності
- У нас проблема з економіками, що розвиваються, макроекономікою та наступними користувачами, які приєднаються до Інтернету.
- Більше дискусій про мегапроекти, інфраструктуру та "Чому ми не можемо будувати речі"
Дякую
За кожного учасника Extra Crunch: Дякую. Вони дозволяють нам відійти від рекламного бізнесу та проводити якісний час із вражаючими ідеями, людьми та бізнесом. Якщо я можу вам допомогти, натисніть "Відповісти" або надішліть електронне повідомлення на [email protected]
Цей бюлетень був написаний за підтримки Армана Табатабі з Нью-Йорка.
Ви читаєте Extra Crunch щодня. Як цей бюлетень? Підпишіться безкоштовно стежити за усіма дискусіями та дискусіями.