Дискримінаційні практики модерації Надто потворні для TikTok
TikTok доручив модераторам приховувати на платформі відео жирних, непривабливих або бідних людей, щоб вони не відлякували нових користувачів. Документи, що просочилися, змальовують імідж компанії, якій не вистачає уваги на пропорційність.
TikTok не викручується з поганих заголовків. Нове дослідження The Intercept тепер показало: відеоплатформа наказала модераторам приховувати “потворних” та бідних користувачів на платформі. Про це свідчать внутрішні документи, які The Intercept отримав через викривачів.
Згідно з так званою "Потворною політикою щодо вмісту", модераторам пропонувалося обрізати відео людей у межах, визначених політикою TikTok як непривабливі. «Очевидний пивний живіт» або «занадто багато зморшок» у літніх користувачів призвели до дискваліфікації, а також до «ненормальної форми тіла», «пухкої», відсутність зубів або видимих рубців.
Відео, заявлені таким чином, не слід відтворювати у стрічці додатка для вас - алгоритмічно керованій стартовій сторінці, яка може катапулювати відео на екран мільйонів користувачів по всьому світу. Іншими словами: кожен, кого видаляють із стрічки для вас, зникає в підвалі програми, невидимий для великої частини аудиторії.
Бідність і потворність не рекомендуються
Документ доповнює картину, отриману в результаті дослідження netzpolitik.org щодо політики знущань TikTok: Швидко зростаюча компанія, якій не вистачає професіоналізму, проникливості та тактовності щодо модерування вмісту на власній платформі.
Грубі інструкції, перекладені англійською мовою, перелічують людей, які страждають ожирінням або “занадто худими”, в одному реченні з іншими, які мають вроджені вади, такі як низький зріст. Один розділ нижче стосується користувачів, соціальні та фінансові обставини яких TikTok, мабуть, оцінили як страшні: Відео, зняті в "нетрях" або перед будівельними майданчиками та розбитими стінами.
В обох випадках аргументи були однаковими: такі користувачі могли зменшити "короткочасну лояльність користувачів" до платформи. "Якщо зовнішній вигляд персонажа або середовище зйомки погані, відео буде набагато менш привабливим, не варто рекомендувати його новим користувачам", - йдеться в документі.
Представник китайської материнської компанії ByteDance, яка стоїть за TikTok, сказав The Intercept, що керівництво "Некрасивий вміст", мабуть, було таким самим або подібним, що netzpolitik.org опублікувало в грудні минулого року. Але це не так. Опублікований нами настанова нібито служив для боротьби з залякуваннями на платформі - шляхом вилучення із стрічки імовірно користувачів, що перебувають під загрозою зникнення. Однак опублікований зараз документ чітко аргументує маркетингову логіку. Метою було не захистити користувачів від дражниць і насильства, а навпаки, зростання програми. TikTok просто не вписувався в бідність та потворність.
Політична цензура та дивні пріоритети
Настанова "Некрасивий вміст" - одне з багатьох правил модерації платформи, що призвело до зменшення кількості відео у стрічці для вас. Намір: зменшити аудиторію таких відео якомога менше і відображати інший, більш бажаний вміст. Однак інший документ, опублікований The Intercept, розкриває численні видання, які TikTok робив для прямих трансляцій на своєму сайті - і там він також відкрито говорить про політичну цензуру.
Під крилатою фразою "суперечливий зміст" Директива забороняє не лише пропаганду терористичних організацій, але й потоки, які загрожують "національній безпеці, честі та інтересам". Порушення призвело до блокування облікового запису. Всім, хто транслював поліцію чи військові операції в прямому ефірі, наприклад, у кулуарах демонстрацій, було заборонено на один день. Те саме стосувалося "наклепів на політичних чи релігійних лідерів".
Настанови зміцнюють імідж, який з’явився в результаті нашого дослідження: Хоча TikTok публічно підкреслює, що він не цензурує будь-який політичний зміст і не обмежує його охоплення, багато розділів настанов можна трактувати настільки широко, що їх легко використовувати для критики урядів або інші органи відключити. За відсутності демократичних варіантів контролю та прозорості неможливо перевірити, чи і як ці варіанти використовуються на практиці.
Також у вимогах до прямої трансляції помітно, як по-різному TikTok оцінює різні порушення. Наприклад, вагітні неповнолітні жінки повинні назавжди втратити рахунок - різке покарання, яке в іншому випадку зарезервовано лише за порнографію, погрози смертю або жорстоке поводження з дітьми. З іншого боку, тих, хто ображав інших на підставі їхньої статі, інвалідності чи етнічної приналежності, було призупинено лише на один місяць, а потім їм дозволено продовжувати нормальну трансляцію. Той, хто вульгарно танцював перед мечеттю, був викинутий на добу. Однак усім, хто носив бікіні за межами пляжу, слід заборонити на тиждень. В усьому документі можна знайти незліченну кількість інших прикладів таких спотворених стосунків.
TikTok прагне до гарного PR
TikTok підкреслює The Intercept, що "більшість" згаданих керівних принципів більше не застосовуються ", або в деяких випадках, мабуть, ніколи не застосовувались". Однак, за даними джерел, обидві інструкції використовувались до кінця 2019 року, а правила довічного ігрового процесу були лише написаний минулого року. На запитання про рекомендації щодо придушення бідних або непривабливих користувачів: всередині TikTok повторив ту саму формулювання, яку також називали netzpolitik.org: Правила були "ранньою грубою спробою" протидіяти знущанням на TikTok і більше не використовуються . Представник компанії не відповів на заперечення щодо того, що в документі взагалі не згадується знущання, а натомість чітко вказав користувачів: внутрішня лояльність.
Наразі TikTok намагається забезпечити гарну погоду після того, як за останні місяці накопичились негативні повідомлення про відсутність захисних заходів, непрозору модерацію та політичну цензуру на платформі.
Тільки минулої п'ятниці компанія оголосила, що відкриє новий "Центр прозорості" в Лос-Анджелесі. Критики: внутрішні та зовнішні експерти повинні мати змогу отримати уявлення про практики модерації відеоплатформи, яка в даний час переживає бурхливе зростання у всьому світі. Наразі TikTok також наймає досвідченого персоналу серед таких ветеранів, як YouTube та Microsoft. Тепер компанія повинна показати, що вона не тільки серйозно ставиться до свого зростання, але і ставиться до своїх користувачів з повагою і готова вчитися на помилках.