Дискримінаційна модерація правила верхньої межі інвалідності TikTok
Нове розуміння правил модерації показує, як TikTok намагався боротися із залякуванням: Відео людей з обмеженими можливостями просто приховували. Навіть дивні та товсті користувачі: всередині ви відвернули аудиторію. Подив і злість з цього приводу великі.
TikTok, нині швидко зростаюча соціальна мережа з Китаю, застосувала незвичні заходи для захисту нібито вразливих користувачів. Платформа доручила своїм модераторам позначити відео людей з обмеженими можливостями та обмежити їх діапазон. Дивні та товсті люди також потрапили до списку "спеціальних користувачів", чиї відео зазвичай вважалися ризиком знущань, а їхній діапазон був обмежений - незалежно від їх вмісту.
Це показують внутрішні правила модерації, які netzpolitik.org зміг побачити. Ми також обговорили з джерелом у TikTok, яке має уявлення про модерацію платформи обміну відео. Після вивчення меж охоплення політичного змісту та механізмів помірності в першій статті та вивчення того, як у другій статті розглядаються питання критики та конкуренції, нові документи вперше показують, як ByteDance, китайська технологічна компанія, що стоїть за TikTok, займається знущаннями на своїй платформі - і вжив проти цього проблемних заходів.
Помірність "знущань над цілями"
Відповідний розділ у модераторських правилах називається «Зображення суб’єктів, вразливих до кібербулінгу». У подальших поясненнях говориться, що це користувачі, які "базуються на їх фізичній чи психічній структурі", і їх слід вважати об'єктом атак. Показано, що мобінг має тяжкі наслідки для постраждалих. Отже, відео від таких користувачів слід розглядати як ризик та обмежене в межах їх охоплення.
TikTok використав опцію з арсеналу модератора, щоб обмежити видимість цих користувачів. Модератор повинен позначити людей з обмеженими можливостями як “Ризик 4”. Це означає, що відео видно лише в країні, в якій воно було розміщене. Для людей з фактичною або передбачуваною інвалідністю це означає: Замість глобальної аудиторії в мільярд - саме стільки зараз користується додатком за даними TikTok - їх відео охопило максимум 5,5 мільйонів людей. Саме стільки користувачів має наразі мати TikTok у Німеччині, повідомляє спеціалізований журнал AdAge.
Люди з обмеженими можливостями не на великій сцені
Що стосується випадків, які вважалися особливо ризикованими, TikTok мав ще більш далекосяжні правила. Якщо ваші відео потрапляли на екрани модераторських команд у Берліні, Пекіні чи Барселоні - після 6 000 до 10 000 переглядів - їм було надано автоматичне обмеження під назвою "Auto R". Результат: якщо ці відео перевищують певний розмір аудиторії, вони автоматично потрапляють до категорії «не рекомендую». Така категоризація означає, що відео більше не відображається в алгоритмічно складеному для вас каналі, який користувач бачить під час відкриття програми. Власне кажучи, такі внески не видаляються - але насправді вони навряд чи мають аудиторію.
The For-You-Feed - це можливість отримати якомога більшу аудиторію дуетів, комедійних сцен, пустощів та танцювальних хореографій. Той, хто потрапить там, грає на великій сцені і може стати "відомим TikTok". Багато людей для цього позначають свої відео хештегом, наприклад #foryou або # fürdich. TikTok доручив модераторам тримати людей з обмеженими можливостями подалі від цієї стадії.
В якості прикладів користувачів, для яких це стосується, наводяться "спотворене обличчя", "аутизм" та "синдром Дауна". Модератори повинні самі судити в процесі перевірки, чи має хтось ці характеристики, і відповідно позначати відео. На це у них в середньому близько півхвилини, як повідомляє наше джерело в TikTok.
"Аутизм", "Синдром Дауна": ці правила модерації для роботи з нібито інвалідами були дійсними на TikTok щонайменше до вересня 2019 року.
TikTok втягує бар'єри
Правила спочатку дратують на дуже практичному рівні: Як модератор повинен визнати, чи має хтось, хто ділиться 15-секундним відеокліпом на TikTok, аутичним розладом? Ця інструкція є одним із декількох незрозумілих правил, які також суттєво бентежать самих модераторських команд, як повідомляє джерело в TikTok.
Однак ще більш принципово, що вказівка показує велику відсутність невігластва, коли йдеться про дебати щодо включення та видимості людей з обмеженими можливостями у ЗМІ. В останні роки вони проводились інтенсивно - в основному цими людьми. Хоча активісти вимагають доступного Інтернету та видимості, TikTok навмисно ставив бар'єри - без потерпілих нічого не підозрюючи.
Неправильно зрозумілий догляд
Константин Грош з організації AbilityWatch описує цей підхід як "надмірний і маргіналізаційний". Люди з обмеженими можливостями вже недостатньо представлені в ЗМІ і є патерналізованими. "Положення, перераховане тут, переносить цю поведінку на нові цифрові платформи, на яких видимість людей з обмеженими можливостями свідомо знижується через неправильне розуміння та непотрібну турботу". Особливо, коли ви знаєте, що широко розповсюдженою формою залякування є так званий привид - свідомий Ігнорування когось іншого - будь ця практика нищівною. Заходи проти кібер-знущань мають бути спрямовані на обмеження вчинків, а не на жертви, а також мають стосуватися всіх людей однаково.
Грош також зазначає, що позначення людей через інвалідність здається особливо дивним у Німеччині і посилається на історію. У період з 1940 по 1941 рік націонал-соціалісти систематично фіксували і вбивали понад 70 000 людей з фізичними, психічними та емоційними вадами в рамках "Акції T4".
Мануела Ханнен та Крістоф Крахтен з Фонду Євангельської Гепати, який наразі створює інклюзивну команду соціальних мереж, також дратуються. «Ми сприймаємо це як цензуру, для якої немає підстави. Абсолютно абсурдно не карати тролів, а жертв кібербулінгу. Щоб протидіяти нашим зусиллям таким чином досягти значних масштабів, наш проект потрапляє на ринок ".
Активіст інклюзії Рауль Краутхаузен сказав netzpolitik.org: «Захистити імовірну жертву від себе завжди важко. Не всі люди з обмеженими можливостями є рівними. Деякі можуть впоратися з цим краще, інші гірше - як і люди без інвалідності ".
PR-кампанії для різноманітності та інклюзії
Джерело, яке знайоме з модерацією, повідомляє, що працівники неодноразово вказували на проблеми цього керівного принципу та просили більш делікатного та змістовного регулювання. Однак їхня інформація була відхилена особами, які приймають рішення в Китаї. Правила переважно передавалися з Пекіна. Це багато в чому збігається з тим, що Washington Post дізналася від колишніх співробітників TikTok у США.
В даний час TikTok особливо прагне забезпечити гарну погоду в Німеччині, США та інших ринках, де додаток нещодавно швидко зростав. Нещодавно платформа багато зробила з хештегом щодо позитиву на тілі чи поважної поведінки, щоб заборонити знущання на TikTok. Наприклад, у День безпечного Інтернету, 5 лютого, TikTok запропонував "надіслати потужний сигнал через платформу: сигнал про включення, різноманітність та безпеку та проти знущань, висловлювань ненависті чи образливої поведінки".
На даний момент модераторам все ще було наказано різко обмежити коло людей з обмеженими можливостями та інших осіб, які, як вважалося, піддаються залякуванню.
Занепокоєння щодо TikTok також підсилюється тим фактом, що TikTok набагато менш прозорий за своїми рекомендаціями, ніж конкуренти з Силіконової долини. Протягом тривалого часу компанія нічого не розкривала про те, на якій основі приймалися рішення про модерацію. Під посиленим тиском громадської уваги, особливо щодо протестів у Гонконзі, TikTok зараз намагається чітко відмежуватися від звинувачень у тому, що вміст спрямовується з Китаю.
TikTok управляється китайською компанією ByteDance. Кажуть, що на даний момент це коштує близько 75 мільярдів доларів, більше, ніж Uber і Snapchat разом, повідомляє Washington Post. ByteDance належить Чжан Імін, одному з найбагатших людей Китаю. У 2017 році ByteDance придбав уже популярний в США додаток для обміну відео Musical.ly і поставив його під парасолькою власного бренду TikTok. З тих пір додаток, який користується особливою популярністю серед молодих користувачів, швидко зростав. Кажуть, що нещодавно він досяг 1 мільярда користувачів - швидше, ніж будь-яка інша платформа соціальних мереж раніше.
TikTok: Ніколи не задумувався як довгострокове рішення
Тим часом TikTok, схоже, помітив, що правила боротьби з булінгом не були ідеальними. Прес-секретар заявила на запит, що правила були обрані "на початку" для протидії знущанням на TikTok. "Цей підхід ніколи не задумувався як довготермінове рішення, і хоча ми мали наміри з ним, ми зрозуміли, що це не правильний підхід". Нормативні акти тепер замінені новими, нюансованими правилами. Технологія виявлення знущань отримала подальший розвиток, і користувачам пропонується позитивно взаємодіяти один з одним.
Схоже, правила є пережитком далекого минулого платформи. Однак із документів, доступних для netzpolitik.org: Вказівки модераторам продовжували діяти принаймні щонайменше до вересня цього року. TikTok не хотів коментувати інші наші конкретні питання, такі як те, як з'явились правила, від часу до часу їх дії та чи будуть асоціації інвалідів також брати участь у розробці нових правил.
Список створений за допомогою "спеціальні користувачі: всередині"
На додаток до згаданих правил, модератори з TikTok підтримували список "спеціальних користувачів", на яких знущання можуть більше вплинути. Ці користувачі, як правило, оцінювались як ризиковані, а їхні відео автоматично обмежувались позначкою “Auto R” у діапазоні, щоб вони не перевищували певної кількості переглядів.
Усього в цьому списку 24 облікові записи, включаючи людей, які публікують відео з такими тегами, як #leben mitbeherung, або мають у своїх біографіях "аутизм". Але в списку є і користувачі: всередині просто товсті і які займаються цим впевнено. Вражаюче багато людей показують у своїй біографії веселковий прапор або описують себе в своїх текстах та відео як лесбіянки, геї чи небінарні особи.
Один з облікових записів у цьому списку належить Анніці на TikTok miss_anni21. 21-річна дівчина працює вихователькою в дитячому садку і публікує сценки, вшанування матері та, насамперед, танцювальні відеоролики на TikTok, які показують її у повному фізичному напруженні. Підзаголовок: «Я люблю танцювати! # впевнено # я # товстуха “. Вона була шокована тим, що TikTok включив її до списку жертв знущань. Вона сказала netzpolitik.org: «Я вважаю грубим і дискримінаційним те, що людей знижують таким чином. Це нелюдсько ". Коли ти потрапляєш до такого списку, вона дивується.
Звичайно, є люди, які ментально менші і не можуть боротися з ненавистю. Сама вона не з них. Близько року тому два її танцювальні відео стали вірусними, вперше вона показала все своє тіло, і раптом кількість її послідовників вибухнула з 800 до 10 000 (сьогодні понад 22 000 людей, які спостерігають за її танцями). З увагою прийшла ненависть. Вбий вас, ніхто в світі вас не хоче. Це зайняло близько двох-трьох місяців, каже вона. "Але я така людина, мені все одно". Це також пов'язано з її новою аудиторією на TikTok. “Зараз за мною стежать люди, які сприймають мене як зразок для наслідування. Це зробило мене ще сильнішим. "Той TikTok обмежує їхній асортимент і таким чином нібито захищає їх від самих себе - абсолютно непотрібних для них.
За останні кілька тижнів вона вже набрала 4000 нових фоловерів. Вона каже, що складається враження, що її відео зараз знову охоплює більше людей. Чи вилучено цей список? Сам TikTok не відповів на наші докладні запити.
Про це дослідження та джерела:
Наші знання про модерацію в TikTok в Німеччині базуються на розмові, яка тривала кілька годин між netzpolitik.org та джерелом, яке має розуміння щодо модераційних структур та політики. Ми перевірили особу джерела та їхній трудовий договір. Ми не можемо і не хочемо детальніше описувати джерело з міркувань захисту інформаторів.
-
Якщо у вас є якась інформація чи порада з цієї чи інших тем, ми з нетерпінням чекаємо від вас - із зашифрованим задоволенням. Не використовуйте для цього робочі адреси електронної пошти, номери телефонів, мережі чи пристрої.
Вам потрібні більш критичні звіти?
Наша робота на netzpolitik.org фінансується майже виключно за рахунок добровільних пожертв наших читачів. В штаті редакції, що наразі нараховує 15 осіб, це дає нам змогу вести журналістську роботу з багатьма важливими темами та дискусіями в цифровому суспільстві. За вашої підтримки ми можемо пояснити ще більше, проводити слідчі дослідження набагато частіше, надавати більше довідкової інформації - і захищати ще більш основні цифрові права!
Про автора
Кріс Кевер
Маркус Ройтер
Гарний настрій та цензура
Ніколи раніше платформа не зростала так швидко, як TikTok. Ми отримали ексклюзивне уявлення про модерацію та опублікували витяги з правил модерації: TikTok працює із складною системою для ідентифікації, контролю, придушення та прямого вмісту. Платформа може обмежувати відеозаписи протестів та демонстрацій відповідно до своїх правил.
Новий вимір в управлінні інформацією
Наше дослідження щодо модерації вмісту на TikTok показує, як мало поважається політична свобода вираження поглядів на платформі. Китайська компанія контролює та маніпулює новою публікою непрозоро, як жоден інший конкурент, який домінує на ринку. Навіть Facebook, навпаки, працює майже як демократичний форум. Коментар.
Критика гасить з боку TikTok
Той, хто лаяв відеоплатформу, отримував менше висвітлення. Ми публікуємо уривки з правил модерації TikTok. Вони показують, що не лише політичний контент змусив відеоплатформу нервувати. Згадування конкуренції та критика компанії також були покарані.
Тоді, швидше за все, що розмовляють і натовп, як хтось це знає і не любить.
Однак це також свідчить про те, що керівництво Китаю здається досить худим.
Все може бути ще гірше: які правила, згідно з якими люди потрапляють на рівень "Рекомендований"? Можливо, саме тоді, коли вони поводяться зразково (у сенсі ідей нинішньої влади щодо цього!). Відповідно, будуть "штовхатися" люди, яким незабаром буде присвоєно особливо велику кількість балів після завершення розширеного громадського спостереження з 2 мільярдами камер. (О так: Чи буде у інваліда, товстої людини чи іншого відхилення від ідеалу шанс найближчим часом отримати багато балів?
Я волію зупинитися зараз, це мене вже здригає більш ніж досить!
Я не розумію 3 речей:
1.) Китай представлений у багатьох німецьких компаніях. Вони забороняють будь-яке втручання у їх внутрішню політику!
Чому німецький уряд просто не викидає їх і не зберігає їх активи?
2.) Крадіжка товару німцями - це "честь" у Китаї.
Тільки коли німці роблять те саме, передбачається смертна кара. (Я знаю 4 випадки!)
Китай масово озброюється. Коли світ це розуміє? (див. Тайвань.) Чи піде тоді світ у відставку так само, як кіт Шредера (Путін)?
Особливо кричуще, що щоденне шоу, що фінансується за рахунок гонорару, надає контент для китайців "безкоштовно". Тож платформа, яка дискримінує людей, і що вміст доступний скрізь, лише якщо він узгоджується з думкою/доктриною Вінні-Пуха.
https://www.dwdl.de/nachrichten/75021/die_tagesschau_gibts_jetzt_auch_auf_tiktok/
Скасувати додавання
Ліцензія: Якщо не зазначено інше, вміст, який ми написали, підпадає під ліцензію Creative Commons BY-NC-SA 4.0.
За дружньої підтримки від