Як роз’їдання пост-фільтру розлад в соціальних мережах
Поки існує Інтернет, існують також спільноти, що підтримують розлад харчової поведінки: блоги, групи, форуми та профілі в соціальних мережах, де користувачі діляться історіями та фотографіями про безладні харчові звички та образ тіла. Деякі члени просто хочуть, щоб місце без суджень висловлювало свої почуття щодо складної хвороби, але інші заохочують більш небезпечну поведінку, наприклад, заохочення екстремальних дієт або перешкоджання людям отримувати допомогу.
А інші типи шкідливого вмісту на Інтернет-платформах, на яких розміщуються спільноти, що підтримують ЕД, давно намагаються змиритися з тим, як їх можна модерувати. У 2001 році
"Дуже, дуже важко зрозуміти, що потрапляє в категорію токсичних або за", - каже Клер Мисько, генеральний директор Національної асоціації еректильної дисфункції, яка співпрацює з соціальними мережами для просування поміркованих спільнот, що підтримують ЕД. "Люди, які її публікують і беруть участь у цих спільнотах, справді мають проблеми, вони не хочуть її створювати, бо вони хороші і погані, а люди, які її публікують, демонізуються".
Дилема хештегов [19659006] Нові медіа та суспільство зосереджуються на хештегах як інструменті модерації контенту, підкреслюючи, наскільки важко може бути для технологічних компаній пошук проблемного контенту та вирішення, що слід видаляти, а не.
Після публікації статті HuffPost 2012 року Instagram, Pinterest та Tumblr почали модерувати хештеги Pro-ED та пошукові терміни.
Коли користувачі шукають теги для розладів харчування, таких як #bulimia, сайти повністю блокують результати або відображають спливаюче повідомлення з проханням про допомогу.
Що відбувається, коли користувач натискає Tumblr після "Булімія". Це зрозуміла стратегія: на відміну від зображень, хештеги можна легко сортувати та класифікувати за допомогою автоматичного виявлення модератора та систем злому ". скільки людей знаходить новий вміст, тому блокування певних хештегов обмежує кількість людей, які можуть влаштуватися на роботу. Історично тегований контент також наголошували дослідники соціальних наук з тих же причин. аналізуйте великий запис із певними хештегами, а не видаляйте тегований вміст вручну.
Однак певні хештеги не є невід’ємними частинами соціальних мереж і їх можна легко адаптувати до потреб спільнот. Окреме дослідження Технологічного інституту штату Джорджія у 2016 році показало, що користувачі Pro-ED просто навмисно ставилися до написання або зміни термінів: "#intinspiration" було, наприклад, "#thynspiration". #thinspire "або" #thinspirational ". Щоб уникнути модерації, багато облікових записів Pro-ED та блогів не використовують хештеги, що ускладнює пошук та дослідження платформ.
"Ця група справді виконана, бо вони знають, що роблять". Це неприйнятно в очах суспільства, в очах платформи, в очах тролів ", - каже Ізабель Джерард, автор поточного дослідження, викладач Університету Шеффілда". Вони знають, що їхній рахунок можна видалити
Як проводилось дослідження
Джеррард розпочав своє дослідження зі створення нових облікових записів в Instagram, Pinterest та Tumblr на iPhone, а на тристорінковому посібнику спільноти сказано, що це не дозволяє користувачам робити це, щоб розміщувати вміст, який "заохочує або штовхає людей на заподіяння собі шкоди". самостійно "або" активно заохочує порушення харчової поведінки “.
Вони відразу виявили, що Instagram-хештег має простий байпас: ви можете шукати людей, у яких у вашому імені користувача є ключові слова, які не були хештегом у своїх публікаціях, визначивши 74 загальнодоступних акаунти, що містять такі терміни, як "proana", проанорексія "або" товста щілина "в назві або біос, а також опублікував вміст Pro-ED. Потім вона проаналізувала 1612 публікацій - з яких лише 561 містив хештеги - каталогізуючи вміст зображення та його підписи.
На Tumblr Джеррард дотримувався ряду термінів, пов’язаних із вмістом, що підтримує ED, таких як "Thinspo", "Proana" та "Bulimic". Tumblr дозволяє вам стежити за темами без необхідності стежити за певними користувачами. Наприклад, вони могли просто стежити за "фільмами", не слідкуючи за конкретним користувачем, який повідомив про тему, використовуючи цей метод, вони знайшли 50 блогів Pro-ED та проаналізували 20 повідомлень з кожного або 1000 дописів. загалом,
"Ця група справді хороша, бо знає, що те, що вони роблять, неприпустимо в очах суспільства, в очах платформи, в очах тролів".
Ізабель Джеррард
Джеррард вивчив 2612 публікацій в Instagram та Tumblr і виявив складний лексикон сигналів, який, ймовірно, не матиме зусиль модерації кожної платформи. Наприклад, вона знайшла ряд публікацій, пов’язаних з дієтичними планами, наприклад, дієта Ana Boot Camp, яка сприяє різкому зменшенню споживання калорій. Оголошено як дієта ABC, важко відрізнитись від більшості вмісту фітнесу та дієти, який поширюється на такі програми, як Instagram. Деякі з цих дієт, такі як популярна кетогенна дієта, також неймовірно обмежувальні, показуючи, наскільки розмита межа між спільнотами, що підтримують ЕД, та іншими, які не заявляють, що порушують правила сайту.
Роль рекомендацій
Одним з найбільш тривожних результатів дослідження є роль, яку відіграють рекомендаційні алгоритми. Джеррард дізнався, що сайт, побачивши публікації Pro-Ed у Pinterest, припустив, що він може "любити" інші "ідеї", які "пов'язані зі смертю та самогубством, наприклад" Порушення харчування. дієта часто співіснує з іншими формами психічних захворювань, включаючи депресію та занепокоєння, а сайт Джеррарду надіслав електронною поштою "популярні шпильки для вас", включаючи такі теми, як "кістки стегна".
Цей тип вмісту з інших веб-сайтів та соціальних мереж на нашій платформі ", - сказав представник Pinterest у заяві". Коли цей вміст потрапляє в нашу систему, ми маємо ряд автоматизованих та ручних процесів для його видалення чи пошуку. Ми не будемо показувати результати, коли хтось шукає ці терміни. Ми сприймаємо цей вміст дуже серйозно і прагнемо постійно вдосконалюватись. "
Алгоритми рекомендацій Instagram та Tumblr поводилися подібним чином, згідно з дослідженням Джеррарда: "Наприклад, в Instagram Геррард не любив і не коментував повідомлення, які користувачі бачать і можуть вплинути на їх поведінку, але має вміст файл pro-ED, збережений для збережених публікацій, які не надсилають сповіщення про плакати. Після збереження розпочате збереження вкладки Instagrams Explore-Tab заповнено іншим вмістом Pro-ED, а Instagram і Tumblr не відповідають на неодноразові запити про коментарі. [19659003 ] Алгоритми рекомендацій на інших платформах також помилково просували проблемний вміст для користувачів. Обидва Wall Street Journal на початку цього року виявили, що алгоритм YouTube виявив, що теорії змови підкріпили інший екстремістський вміст.
"Платформа Вони не скоригували свій моральний алгоритм. Вони стверджують, що одночасно передають проблемний вміст своїм користувачам і відкидають його", - написав Джеррард у своєму дослідженні.
Які платформи можуть зробити
Не всі експерти сходяться на думці, що вміст Pro-ED слід використовувати нижче оптової ціни. Одне дослідження показало, що ці групи можуть бути корисними місцями для людей, які іноді вперше формулюють свої хвороби. Інша проблема полягає в тому, що коли платформи виключають користувачів Pro-ED, вони переїжджають у важкодоступні місця, такі як приватні групи та ефемерні програми, такі як Snapchat.
У той же час, немає сумнівів, що групи розладів, пов’язаних з харчуванням, можуть бути токсичними та шкідливими. "Це був один із найбільших загострень хвороби для мене, ці сайти", - каже жінка, яка одужала від анорексії, і попросила не використовувати її справжнє ім'я. "Форум - ідеальне місце, щоб використати весь свій час та енергію, щоб зупинити свій розлад, і ви отримаєте підтвердження своєї хвороби".
Мисько, генеральний директор NEDA та Джеррард погоджуються, що компанії соціальних мереж можуть зробити більше, щоб допомогти людям із порушеннями харчування, які користуються їхніми сайтами.
Джеррард пропонує відмовитись у видаленні всього облікового запису особи та замість цього видалити окремі публікації. Таким чином, їх не можуть різко відрізати інші користувачі, які могли б їм допомогти. У багатьох облікових записах Pro-ED використовуються псевдоніми, що ускладнює відновлення контакту при призупиненні дії облікового запису.
Джеррард також рекомендує платформам використовувати кваліфікованих фасилітаторів, які спеціалізуються на виявленні шкідливого вмісту про-ЕД. Політика компанії часто нечітка; Модераторам або користувачам непросто дізнатися, коли вони переступили межу.
Мисько каже, що платформи також повинні розглянути можливість безпосередньої роботи з відомими факторами здоров’я та факторами, що впливають на здоров’я, щоб просувати здоровіші продукти харчування та зображення тіла. Групи та блоги з порушеннями харчування завжди були в мережі Інтернет. Змінилося те, що вони зараз існують поряд з морем персоналізованого контенту, часто гендерного, що підсилює, але не явно, той самий ідеал тонкощі.
"Існує тенденція порівняння, багато людей справді є перфекціоністами, і це посилюється у просторі соціальних медіа", - каже Мисько. "Це постійне посилення тих невизначеностей, які лежать в основі багатьох розладів харчування".
Якщо ви або хтось, хто вас цікавить, страждає розладом харчової поведінки, ви можете зателефонувати на гарячу лінію Національної асоціації з порушеннями харчування. 800) 931-2237. Ви також можете написати "NEDA" на номер 741741. Більше інформації про доступні ресурси можна знайти тут.