Люди з надмірною вагою частіше; піддаватися цензурі; es від Instagram korii
Алгоритм платформи повідомляв би їх оголені фотографії більше, ніж фотографії худих людей.
Створено Офелі Суркуфом у Fast Company
18.10.2019 о 14:02
Алгоритми визначають те, що ми бачимо, обсяг того, що ми розміщуємо, і (частково) поміркований вміст соціальних мереж. Але як вони працюють? За якими критеріями вони приймають рішення?
Важко зрозуміти: чи то Facebook (чи Instagram), TikTok, Google (або YouTube), компанії ревно тримають свої інгредієнти в таємниці.
Однак їхній вплив є значним. Інфлюенсери, які заробляють на життя завдяки своїм громадам і кількості людей, яких постраждало в мережах, зобов'язані вивчити всі підказки, які, ймовірно, покажуть їм, як краще розташуватися в результатах пошуку або збільшити шанси віралізації спільного вмісту.
Непрозорі процеси та послідовна цензура
Дженніфер Олбо, віце-президент Гільдії акторів для дорослих виконавців (APAG), особливо помітила, що алгоритм Instagram, схоже, частіше виявляє оголені фотографії людей із зайвою вагою, ніж худих людей.
"Чи правда, що ви використовуєте програми, щоб виміряти, скільки шкіри ви бачите на зображенні, а потім вирішити, що це, ймовірно, нагота?" Вона попросила команду Instagram обговорити ці питання. Можлива дискримінація та упередженість алгоритму з APAG.
"Ми фактично використовуємо машинне навчання, щоб спробувати попередньо ідентифікувати вміст, який може порушувати [наші правила]", - відповіла Карін Ньютон, одна з керівників Instagram, присутніх на зустрічі. “Так, ми можемо сказати, що машинне навчання визначає“ відсоток ”шкіри, хоча реальність трохи делікатніша та складніша. Але так, ми використовуємо [штучний інтелект] для виявлення можливих порушень наших умов наготи ".
Тоді можливий звіт залишається під опікою людини, яка вирішить, чи краще цензурувати зображення чи залишити його в мережі. Повторні звіти можуть сильно вплинути на деякі акаунти.
Цей алгоритмічний та людський процес був би непрозорим та упередженим, на думку деяких, таких як Каріна Шеро, інсталятор, яка позує оголеною на своїх фотографіях. "Один і той же вміст можна побачити на людині з надмірною вагою та худорлявій людині, але те, що вважається порнографічним на людині із зайвою вагою, дозволено на худорлявій людині".
У статті Fast Company Джессіка Річман, засновниця The Visible Collective - яка має на меті ініціювати діалог щодо упередженості та грософобії - відкриває роздуми про наслідки гумано-алгоритмічної дискримінації.
Справа не стільки в тому, чи Instagram любить великих хлопців, скільки в тому, чи відкриті приватні компанії та спільноти для діалогу та чи можуть вони спільно працювати над зменшенням багатьох упереджень у технологіях, як людей, які їх створюють, так і тих, хто використовувати їх.