Розміщення пріоритетів на Instagram Data Journalism Home News - edjnet
Ексклюзивне розслідування показує, що Instagram надає пріоритет знімкам чоловіків і жінок, на яких вони коротко одягнені, окреслюючи поведінку творців контенту та сприйняття світу 140 мільйонів європейців, що залишається чутливим пунктом для регулювання ЄС.
Сара живе у Берліні та є підприємцем із харчування (ім’я та місто змінено). Компанія, яку він створив, допомагає жінкам почуватись комфортно і підтримує "інтуїтивне харчування". Як і багато власників малого бізнесу, Сара залучає клієнтів до соціальних мереж. Instagram, друга за величиною соціальна мережа після Facebook, є маркетинговим каналом, без якого вона не змогла б вижити, сказала вона.
Але в Instagram, який в основному орієнтований на фотографії та відео, вона відчула, що її фотографії не потрапили занадто багато з 53 000 фоловерів, якщо вона не позувала в купальнику. Дійсно, чотири із семи найпопулярніших публікацій за останні кілька місяців застали її в бікіні. Елі Кілліуз, автор книги зі 132 тисячами підписників в Instagram, яка погодилася говорити офіційно, сказала, що "майже всі" найпопулярніші її фотографії показували її в нижній білизні або купальнику.
Їх велика аудиторія, можливо, воліє бачити Сару та Елі в купальниках. Але з початку 2016 року Instagram упорядковує фотографії з інформаційних стрічок користувачів таким чином, що фотографії, які користувач «віддає перевагу, з’являються у верхній частині стрічки». Якщо інші фотографії, опубліковані Сарою та Елі, менш популярні, можливо, це пов’язано з тим, що вони не так сильно демонструються своїм послідовникам.
Які картинки з’являються, а які - не що інше, як питання смаку. Підприємці, які покладаються на Instagram для залучення нових клієнтів, повинні прийняти правила, які заохочує служба, щоб охопити своїх послідовників. Навіть якщо ці правила не відображають цінностей, на яких вони будували свій бізнес, або цінностей їх основної аудиторії.
Проаналізовано 2400 фотографій
Щоб зрозуміти, які фотографії Instagram надав пріоритет, Європейська мережа журналістики даних (EDJNet) та AlgorithmWatch попросили 26 добровольців встановити розширення браузера та стежити за добіркою професійних творців контенту. Ми відібрали 37 професіоналів з 12 країн (з них 14 чоловіків), які використовують Instagram для просування брендів або залучення нових клієнтів для свого бізнесу, переважно у сфері харчування, подорожей, фітнесу, моди чи краси.
Розширення автоматично відкриває головну сторінку Instagram через рівні проміжки часу та зазначає, які публікації з’являються у верхній частині стрічок новин про волонтерів, даючи огляд того, що вони вважають найбільш відповідною платформою для кожного волонтера.
Якби Instagram не вписався в алгоритм, різноманітність публікацій у стрічках новин користувачів повинна відповідати різноманітності публікацій творців вмісту, за якими вони стежать. І якщо Instagram пристосував стрічку новин кожного користувача до власного смаку, різноманітність публікацій у їх стрічках новин повинна бути різною для кожного користувача. Жоден із цих сценаріїв не збігався.
У період з лютого по травень було проаналізовано 1737 публікацій, опублікованих авторами контенту, який ми відстежуємо, що включає загалом 2400 фотографій. З цих постів 362, або 21%, були визнані комп’ютерною програмою як фотографії жінок у бікіні чи нижній білизні або чоловіків з оголеними грудьми. Однак у стрічках новин наших волонтерів дописи з такими фотографіями становили 30% від усіх дописів, що з’явилися під тими самими акаунтами (деякі дописи з’являлися кілька разів).
Дописи, на яких були фотографії жінок у нижній білизні або бікіні, мали на 54% більше шансів з’являтися в стрічці новин наших волонтерів. Публікації, що містять зображення чоловіків з оголеними грудьми, на 28% частіше відображалися. На відміну від цього, публікації, де відображаються фотографії з продуктами харчування чи декораціями, мали на 60% менше шансів відображатися в стрічці новин.
Ці результати, які можна детально прочитати на спеціальній сторінці, пройти стандартні тести статистичної значущості.
В очікуванні аудиту
Схильність до наготи може стосуватися не всіх користувачів Instagram. Хоча це було послідовно і очевидно для більшості добровольців, невелика меншість отримувала дописи, які краще відображали різноманітність дописів творців вмісту. Алгоритм Instagram, ймовірно, сприяє наготі в цілому, але персоналізація чи інші фактори обмежують ефект для деяких користувачів.
Наші результати далекі від висновків, які може мати повний аудит алгоритму подачі новин Instagram. Вони лише документують те, що сталося у стрічках новин наших волонтерів. (Ви можете допомогти нам покращити ваші результати, встановивши розширення, ми опублікуємо оновлення після того, як отримаємо більше даних.) Без доступу до внутрішніх даних та виробничих серверів Facebook завжди буде неможливо зробити остаточні висновки.
Facebook не відповів точно на наші запитання, але вони надіслали заяву: «Це дослідження є помилковим з кількох причин і свідчить про нерозуміння того, як працює Instagram. Ми класифікуємо публікації у вашій стрічці на основі вмісту та облікових записів, до яких ви виявили зацікавленість, а не на основі довільних факторів, таких як наявність купальника ".
Однак ми маємо підстави вважати, що наші висновки відображають спосіб роботи Instaram загалом.
Максимізація прихильності
У патенті, опублікованому в 2015 році, інженери з Facebook, компанії, яка управляє Instagram, пояснили, як стрічка новин може вибрати, які фотографії надавати пріоритети. Коли користувач публікує фото, воно автоматично аналізується на місці, згідно з патентом. Фотографії супроводжуються "показником залучення", який використовується, щоб вирішити, відображати чи не відображати конкретне зображення в стрічці новин користувача.
Метрика залучення базується, з одного боку, на минулій поведінці користувачів. Якщо користувач оцінив певний бренд, а на фотографії зображений товар тієї ж марки, показник залучення збільшується. Але показник залучення також може бути розрахований на основі поведінки всіх користувачів послуг. Патент конкретно передбачає, що стать, етнічна приналежність та "рівень роздягання" людей на фотографії можуть бути використані для обчислення метрики залучення.
У той час як Instagram стверджує, що стрічка новин організована відповідно до критерію "що найважливіше" для конкретного користувача, патент компанії пояснює, що його можна класифікувати відповідно до того, що подобається всім користувачам. Чи бачитимуть користувачі фотографії, розміщені в облікових записах, за якими вони стежать, залежить не тільки від їхньої поведінкової історії, а й від того, що, на думку Instagram, найбільше захоплює інших користувачів платформи.
Помилкові кореляції
Facebook автоматично аналізує фотографії за допомогою програмного забезпечення, відомого як комп'ютерний зір, перш ніж алгоритм вирішить, що показувати в стрічці новин користувача. Таке програмне забезпечення збирає автоматичні умовиводи з набору навчальних даних, розроблених з тисяч зображень, котрі вручну коментуються. Його обмеження можуть вплинути на те, як Instagram надає пріоритет фотографіям у стрічках новин.
Комп’ютерники вже багато років знають, що такі системи копіюють і посилюють упередження їхніх навчальних даних, що призводить до помилкових або помилкових співвідношень. Наприклад, програма для ідентифікації вовків і собак на основі фотографій собак, знайдених в Інтернеті, не розпізнає тварин у звичному розумінні цього слова. Натомість він позначить будь-яку тварину на засніженому фоні.
Дані навчання комп’ютерному зору, як правило, отримують низькооплачувані працівники, яких стимулює той факт, що їм доводиться працювати швидко і приносити задовільні результати для роботодавців. Це змушує їх без розбору приймати призначені категорії та не враховувати тонкощі, які може містити фотографія, - написала Агате Балайн, кандидат докторських наук щодо упередженості автоматизованих систем Технологічного університету Делфта.
Ці наслідки можуть бути серйозними. У грудні бразильський художник намагався просувати один зі своїх дописів в Instagram. Його прохання було відхилено на тій підставі, що посада містила насильницькі елементи. У ньому взяв участь лише один хлопчик і пілот Формули-1 Девід Гамільтон. У обох була темна шкіра. У квітні інструктору йоги було відмовлено в рекламі на тій підставі, що знімок закликав до ненормативної лексики, хоча він показував лише положення півня збоку. Вона азіатсько-американська.
(У нашій експериментальній установці ми також використовували систему комп'ютерного зору, Google Vision. Хоча її результати надзвичайні - наприклад, ярлик "краса" призначався лише жінкам, - цілком імовірно, що його забобони подібний до механізму комп'ютерного зору Facebook, навіть просто тому, що його побудували переважно ті самі люди.)
Тонка лінія, якої слід слідувати
Інструкція з експлуатації Instagram підтримує той факт, що нагота "заборонена" в їх службі, але сприяє публікаціям, які демонструють шкіру. Тонка різниця між тим, що заохочується, і тим, що заборонено, вирішується нечуваними і, можливо, упередженими алгоритмами комп'ютерного зору. Кожного разу, коли вони публікують фотографію, творці вмісту повинні дотримуватися цієї дуже тонкої межі між тим, щоб відображати достатньо, щоб охопити послідовників, і не виявляти настільки, що вони будуть видалені з платформи.
Анкета 2019 року, проведена американським журналом Salty на 128 користувачах Instagram, показала, що жорстоке видалення вмісту було розпорядком дня. Наскільки поширені подібні події, і якщо чорношкірі люди та жінки зазнають непропорційного впливу, не можна сказати, доки алгоритми Instagram не залишаться неаудированими.
У будь-якому випадку, огляд 238 патентів, поданих Facebook, що містять фразу "комп'ютерний зір", показав, що з 340 людей, перелічених як винахідники, лише 27 були жінками. Середовища, в яких переважають чоловіки, зазвичай призводять до несприятливих результатів для жінок. Наприклад, ремені безпеки автомобіля тестуються лише на чоловічих манекенах, що призводить до вищого рівня травматизму серед жінок. Наші дослідження показують, що алгоритми Facebook можуть слідувати цій схемі.
Страх перед забороною тіні
Сара та інші підприємці, що базуються на Instagram, з жахом розмовляли з пресою. Більшість професійних творців контенту в Instagram бояться можливої помсти з Facebook, що виражається у формі видалення облікового запису або заборони тіней (метод, за допомогою якого повідомлення користувача не відображаються нікому або лише кільком послідовникам без відома користувача) - смертний вирок за свій бізнес.
Молодий підприємець із близько 70 000 підписників, яка заявила, що Instagram є "дуже важливим" для її бізнесу, уточнила AlgorithmWatch, що вона не хоче, щоб її визнавали через страх перед тіньовою забороною. У офіційній заяві Елі Кіллеуз зазначила, що володіння іншим джерелом доходу є для неї "умовою номер один". Занадто велика залежність від Instagram означала б втрату свободи та психічного здоров’я, додала Елі.
Загальний регламент про захист даних (GDPR), який набрав чинності в 2018 році, та регламент про бізнес-платформи (P2B), який діятиме з 12 липня 2020 року, вже надає багато гарантій для користувачів та професіоналів. Зокрема, GDPR вимагає від користувачів «права на пояснення» для автоматизованих рішень, а регламент P2B повинен змусити онлайн-брокерські служби розкривати «основні параметри, що визначають (алгоритмічний) рейтинг».
Цей новий захід не повинен змушувати платформи розкривати особливості своїх алгоритмів, на думку Петри де Саттер, яка очолює Комісію з питань внутрішнього ринку та споживчих проектів Європейського парламенту. Заборонити Instagram сортувати стрічки новин своїх користувачів буде неможливо з юридичної точки зору, написала вона в електронному листі до AlgorithmWatch. Натомість прозорість P2B повинна дозволити на пізньому етапі добре інформовані політичні рішення, додала вона. Що стосується побоювань тіньових заборон, де Саттер вважає, що їм надається занадто велике значення. "Питання ніколи не відповідало", - написала вона.
P2B може бути іншим, але через два роки після набуття чинності GDPR деякі експерти скаржаться на дуже хибне впровадження. Однією з проблем є те, що ірландський орган із захисту даних, який відповідає за регулювання європейської дочірньої компанії Facebook у Дубліні, виглядає так, ніби у нього є недостатньо кадрів і "він, схоже, не розуміє GDPR", як один механізми платформи, пояснені для AlgorithmWatch. Іншою проблемою є відсутність політики. Жоден орган влади на європейському рівні та серед держав-членів не має повноважень та інструментів для прослуховування будь-якої з гігантських платформ, включаючи Instagram, залишаючи багато положень GDPR нереалізованими.
Можлива дискримінація
Хоча наші результати показують, що творці вмісту чоловіків та жінок змушені демонструвати свою шкіру подібними способами, якщо хочуть охопити свою аудиторію, ефект може бути ширшим для жінок і вважатись дискримінацією жінок-підприємців. Однак, хоча Хартія основних прав Європейського Союзу забороняє дискримінацію за ознакою статі, користувач Instagram не має законного способу розпочати будь-які судові провадження. Специфіка підприємництва у соціальних мережах не врахована у законодавстві.
Міріам Куллманн, доцент Віденського університету економіки та бізнесу WU, написала AlgorithmWatch, що європейське антидискримінаційне законодавство стосується майже виключно трудових відносин. Фрілансери, такі як професіонали, за якими ми спостерігали, не захищені.
Деякі групи борються за свої права як незалежні творці в соціальних мережах. IG Metall, найбільший союз у Європі, підтримує колективні дії творців на YouTube, вимагаючи більшої справедливості та прозорості від Google (який є власником YouTube), коли відео було демонетизовано. Вони не планують поширювати свою програму на творців вмісту в Instagram та інших платформах.
Кожен третій європейці
Коли тисячі європейських підприємців створюють контент в Instagram, вплив їхніх публікацій величезний, оскільки вони можуть похвалитися наявністю сотень тисяч підписників. Facebook заявляє, що майже 140 мільйонів жителів ЄС, або кожен третій, користувалися Instagram у квітні.
Серед тих, хто віком від 18 до 24 років, рівень проникнення Instagram становить приблизно 100% у кожну країну ЄС . Домашні замовлення під час пандемії Covid-19 різко збільшили час, проведений в Instagram. За тиждень в карантині в Італії кількість переглядів Instagram подвоїлася порівняно з нормальними, повідомляє Facebook інвесторів.
Свій власний профіль
Майже століття тому відома британська письменниця Вірджинія Вулф сказала, що жінкам потрібна "власна кімната", щоб їх творчість процвітала. Слідуючи думкам іноземних влад, вона писала, це було як запрошення гнилі примножуватися в основі своєї роботи.
В Instagram брати до уваги думку влади, яка побудувала алгоритм стрічки новин, не можна. Відмова від показу частин тіла різко зменшує аудиторію. Підприємці-чоловіки чи жінки повинні дотримуватися правил, встановлених інженерами Facebook, якщо вони хочуть мати можливість заробляти на життя.