Радикалізація через алгоритми Youtube Самоексперимент

Відеоплатформа зазнала критики за просування радикального та політично екстремального контенту. Це пов’язано з алгоритмами, які рекомендують нам все більш відверті відео. Але це справді так?

Відео без кінця: На YouTube користувачеві легко споживати вміст годинами, не в останню чергу завдяки алгоритмам.

Як мені спекти найкращий шоколадний торт? Які найпопулярніші визначні пам'ятки Швейцарії? Що сказав Дональд Трамп у своїй останній промові? Той, хто шукає тему в Інтернеті, дуже ймовірно потрапляє на YouTube. Відеоплатформа є другою за величиною пошуковою системою у світі після Google. Для більшості з двох мільярдів активних користувачів YouTube є і розвагою, і джерелом знань.

Відео без кінця: На YouTube користувачеві легко споживати вміст годинами, не в останню чергу завдяки алгоритмам.

Особливо популярними є розважальний вміст, пояснювальні відео (“відео з інструкціями”) та, насамперед, музичні кліпи. Щохвилини на YouTube завантажується 500 годин відеоматеріалів. Три роки тому відеопортал пробив магічний слід. З тих пір на платформі щодня переглядається понад мільярд годин відео - більше, ніж у Netflix та Facebook разом узятих.

"Youtube є одним з найпотужніших інструментів радикалізації 21 століття".

Але настільки корисним і розважальним, як YouTube може бути багато в чому, глибина відеоплатформи така темна, в якій всі види екстремального вмісту полюбляють. Тому експерти звинувачують YouTube у тому, що він є машиною радикалізації. На думку критиків, це пов'язано з алгоритмами, які внесли б великий внесок у рекомендування все більш радикальних відео для користувачів.

Зокрема, мова йде про зміст, що прославляє насильство, політично радикальний, расистський та теоретичний змови, що вписується в рекомендації для користувачів. Youtube вже критикували за помітне відображення відео, що спеціально поширює дезінформацію, наприклад після смертельної стрілянини в Лас-Вегасі. Після різанини в жовтні 2017 року з’явилися відео, в яких стверджується, що вистріл було викрито як «обман».

Як працює алгоритм?

Термін алгоритм часто асоціюється з персоналізацією вмісту. Алгоритм реєструє, що ви бачили вміст за певною темою чи пошуковим терміном. На додаток до кожного відео, Youtube рекомендує інші відео у правій колонці, які можна відтворити за допомогою автоматичного відтворення. Те, як саме складається алгоритм, значною мірою зберігається в Google під прикриттям. Це ускладнює отримання наборів даних та аналіз системи для дослідників. Загалом, історія користувачів, контекст та залучення (коментарі, вподобання) до відео відіграють важливу роль у рекомендаціях. За даними Youtube, алгоритм постійно вдосконалюється. У 2016 році співробітники Google дали зрозуміти систему в цій роботі.

Два роки тому техно-соціолог Зейнеп Туфекчі висловив жорстку критику YouTube. У своєму коментарі до "Youtube, Великого радикалізатора" вона описує, як, коли вона шукала відео про Дональда Трампа, їй швидко рекомендували вміст про ідеологію верховенства білих, заперечення Голокосту та висловлювання ненависті. У лівому спектрі їй в основному траплялися змовні відео, зокрема 11 вересня. Навіть щодо неполітичних питань, запропоновані їй відео ставали дедалі екстремальнішими. "Youtube є одним з найпотужніших інструментів радикалізації 21 століття", - заявляє Туфекчі у своєму аналізі на окремих прикладах.

Експерт попереджає про небезпеку штучного інтелекту. Великі технологічні компанії використовували алгоритми, щоб якомога довше "захопити" користувачів і, таким чином, отримати більше прибутку від реклами. Туфекчі вважає, що ця бізнес-модель фатальна. "Facebook і Youtube забруднюють суспільну сферу і передають суспільству витрати", - критикувала вона в інтерв'ю і закликала до додаткових державних регуляцій для великих платформ.

Я хочу зробити самотестування: чи буде показано мені радикальний вміст, якщо я його не шукаю? Я створюю новий обліковий запис Google. Це означає, що Youtube не має готових пошукових запитів від мене, і я починаю з нуля. Я шукаю "вакцину від корони" і переглядаю рекомендації. Відтепер алгоритм буде "харчуватися".

Перші кілька відео нешкідливі, я бачу добре створені відео з популярних ЗМІ, які я вважаю надійними. Але я помічаю відео у правій колонці. Він називається «9 кроків, щоб законно звільнити вас від обов’язкових щеплень», і його запрошували понад 100 000 разів. Я переглядаю відео, яке жінка записала у своєму кабінеті чи вітальні. Я не можу довго слухати, якість відео не особливо хороша.

Я знаходжу коментарі під відео, що виявляють: Корона - це обман, це говорить. Права людини були б скасовані під час пандемії. Говорять про "брехню зрадників". Мені пропонують ще одне відео: «Щеплення не захищають від хвороб». Відео переглянули понад 75 000 разів. В одному з коментарів зазначено, що щеплення існують лише для того, щоб "зробити фармацевтичну мафію багатою, а населення - хворим".

Нещодавно опубліковане дослідження, опубліковане в науковому журналі "Nature", прийшло до висновку, що противники вакцинації є меншиною в Інтернеті, але дуже добре пов'язані між собою і, таким чином, привертають багато уваги. В умовах нинішньої пандемії інтерес до вакцинації зріс. Це також грає на руку тим, хто виступає проти вакцинації. “У той же час вони також добре продаються: вони роблять відео з особистими історіями, змішаними з науковими цитатами. Ці відео дуже добре зроблені », - говорить один із дослідників дослідження.

Також я помічаю, що суб’єктивні відео мені демонструють знову і знову. Здебільшого це людина, яка висловлює свою думку перед камерою у вітальні. Я також бачу відео із відомих ЗМІ, але YouTube також рекомендує відео з досить невеликих облікових записів. Однак їх аматорські відео часто записують більше
100 000 переглядів. Здається, особистий підхід добре сприймається користувачами. Це також було доведено бурхливим зростанням інфлюенсерів протягом багатьох років.

Деякі оператори каналу скаржаться у своїх відео, що деякі з їх вже завантажених відео були видалені - Youtube. Очевидно платформа втручається тут регулярно, оскільки ці відео порушують правила. У відеозаписах йдеться про Білла Гейтса, який стоїть за всім, «лобі щеплення» та «маніпуляцією масами». У коментарях користувачі підбивають один одного. Навряд чи існує якесь протиріччя. Тут легко загубитися в спіралі радикалізації.

Минулого літа звіт у "Нью-Йорк Таймс" під назвою "Створення Youtube радикалу" показав, як бути втягнутим у вир радикальних відео. У ньому 26-річний Калеб Кейн описує, як його радикалізували на відеоплатформі: У життєвій кризі він шукав відеозаписи про самодопомогу і в кінцевому підсумку отримав правий екстремістський контент. Великий вплив мав рух Альт-Права, який служить ідеологіям правих і пропагує расистські, ісламофобські та антисемітські погляди.

Звіт був цікавим, оскільки газета мала доступ до всієї історії YouTube Каїна (понад 12 000 відео). Це дозволило журналістам зрозуміти, яке саме відео Кейн натиснув і коли, поки не потрапив у так звану "кролячу нору" на основі рекомендацій: користувач стає залежним від нових відео і потрапляє у віртуальну діру.

Критика полягає в тому, що бізнес-модель YouTube та алгоритми "ненавмисно" призвели Каїна до радикалізації. "Для мене дійові особи у відео також були як батькові фігури", - пояснює своє захоплення юнак. Однак там також описується, як Каїну вдалося знайти вихід із цієї "кролячої нори", переглядаючи відео з різними політичними поглядами та ставлячи під сумнів розповідь альт-правих.

"Ми повинні визнати, що рекомендації YouTube є токсичними".

Якщо вірити колишньому співробітнику YouTube Гійому Шасло, алгоритми були створені таким чином, що люди повинні проводити дедалі більше часу на платформі, оскільки це призводить до більшої кількості переглядів та прибутку від реклами. Він описує алгоритми сумнівними, оскільки вони вважають за краще поляризуючий вміст. Система створює залежність від користувача. "Ми повинні визнати, що рекомендації YouTube є токсичними", - говорить програміст, якому довелося залишити Google у 2013 році після суперечки.

Його проект “AlgoTransparency” захоплює, оскільки дає трохи розуміння того, як працюють алгоритми, імітуючи поведінку користувача YouTube. Француз написав програму, яка спеціально здійснює пошук найбільш рекомендованих відео у понад тисячі каналів на YouTube. Однак через обмеженість джерел модель демонструє лише частину найбільш рекомендованих відео.

Які відео дивиться ідеолог змови?

Веб-сайт Theytube розробника Томо Кіхари надає уявлення про світ користувача YouTube із певними переглядами (шість різних типів користувачів). Відео рекомендовано YouTube на основі відповідної історії користувача. Наприклад, ви можете переглянути рекомендовані відео користувача, який вірить у теорії змови. Відео про QAnon або «PizzaGate» з’являються тут. За словами Кіхари, алгоритм неодноразово показує подібну інформацію, яка підтверджує та підсилює власну упередженість. Це іноді призводить до того, що люди мають радикальні погляди та ідеї.

Я переглядаю різні відео на Youtube протягом декількох днів зі своїм новим обліковим записом. Я постійно перевіряю, що пропонує Youtube. Коли я шукаю “Виступ Меркель”, мені пропонують друге відео: “Чи була Меркель п’яною під час цього виступу в ЄС?”. Оператор каналу з 15 000 передплатників стверджує у надзвичайно погано зробленому відео, що канцлер Німеччини був явно напідпитку, і запитує своїх глядачів, що вони думають про політиків, які вживають алкоголь.

Повертаючись на домашню сторінку, серед іншого, пропонується інтерв’ю з суперечливим німецьким активістом Кеном Єбсеном. Ці відео радикальні? Цікаво. Принаймні я класифікував би це як розповсюдження змісту теорії змови. Під час іншого пошуку відео з канцлером Ангелою Меркель мені рекомендується все більше і більше відео AfD - хоча до цього часу я не бачив жодного відео AfD. Повернувшись на початкову сторінку, мій правий мікросвіт уже впізнаваний на початку. Я вже на шляху до бульбашки фільтра.

Ці бульбашки політичного фільтру були досліджені двома науковцями з комунікацій з Берліна та Цюріха в 2017 році. На основі їх аналізу Йонас Кайзер та Адріан Раухфлейш показали, як праві канали (партії та медіа-провайдери) створили "паралельний всесвіт" на YouTube. Один результат дослідження: між правою мережею та “медіа та політичним потоком” існує мало зв’язків. Ось чому ви політично застрягли в тупику на Youtube.

Вчені не погоджуються щодо того, який вплив насправді має алгоритм у разі можливої радикалізації користувачів. Понад 70 відсотків часу, який ми проводимо на YouTube, очевидно під впливом алгоритмів. Цей персональний досвід перегляду - це і благословення, і прокляття. З одного боку, корисно для користувача, коли він бачить відео, які потенційно його цікавлять. З іншого боку, алгоритм може призвести до того, що той застряє в монотематичному бульбашці фільтра.

Радикалізація існує, механізм - загадка

Рік тому міжнародна дослідницька група зі Швейцарії та Бразилії проклала ці "шляхи радикалізації" за допомогою масштабного дослідження на YouTube. З цією метою було оцінено набір даних із 350 каналів, 300 000 відео та 72 мільйони коментарів. Дослідники показали, що користувачі YouTube перейшли з більш поміркованих або консервативних каналів на політично екстремальні канали.

Маноель Хорта Рібейро проводить дослідження в Політехнічній школі Ecole fédérale de Lausanne.

Маноель Хорта Рібейро, один із співавторів дослідження, заявив NZZ: “Раніше міграція до радикалізації була невідомою. Але за допомогою нашого методу ми не могли точно дослідити, як працює механізм, який лежить в його основі ".

Дослідження розглядало рекомендації лише протягом короткого періоду. Зібрати історичні дані не вдалося. Крім того, не вистачало персоніфікованих даних, оскільки алгоритм YouTube відображає результати кожного користувача.

Рібейро впевнений, що алгоритм відіграє певну роль, але: "Ми також повинні визнати, що YouTube та інші великі платформи значно змінили правила Інтернету. Екстремальні погляди існували завжди, вони лише ставали помітнішими, а такі платформи, як Youtube, дозволяють знаходити користувачів ».

На YouTube була створена альтернативна медіасистема

Дослідник ЗМІ Ребекка Льюїс також не бачить алгоритм головним фактором радикалізації. У своєму аналізі експерт з’ясував, що за цим криється більше система альтернативних впливових осіб та добре об’єднана спільнота. "Youtube може завтра видалити весь свій алгоритм рекомендацій, і це все одно буде найбільшим джерелом онлайн-радикалізації", - сказав Льюїс. На YouTube розроблена альтернативна система засобів масової інформації, яка просуває радикальний контент і "продає" політично крайні ідеології.

Рібейро сприймає той факт, що YouTube все частіше блокує радикальні канали, як позитивний розвиток подій. Зовсім недавно YouTube заблокував акаунти правого екстремістського ідентичного руху, включаючи австрійський канал Мартіна Селнера. Youtube зацікавлений представляти цінний вміст своїм користувачам, зазначає дослідник. Кілька тижнів тому Youtube також заблокував акаунти правих екстремістських ютуберів у США, включаючи екс-лідера Ку-клукс-клану Девіда Дьюка. Користувачі повинні бути захищені від мови ненависті, дезінформації та кримінального вмісту, - йдеться на веб-сайті. Будь-який канал, який неодноразово порушує правила, буде видалений.

Коли я ввів пошуковий термін «Штутгарт», то побачив багато звітів із якісних ЗМІ. На перший погляд, я не помічаю жодного радикального змісту. Знову ж мене лякають коментарі до відео: Штутгарт був «інсценізований», стверджує один користувач, маючи на увазі ніч заворушень. Навіть здається, що це "платний сюжет". А інший зауважив, що цей інцидент був чистим "страху перед владою". Навіть якщо відео не є радикальними, багато коментарів нижче.

Для того, щоб вивчити алгоритм YouTube та його наслідки, вам потрібні насамперед конкретні дані користувача. Отримати персоналізовані дані непросто, пояснює Ніколас Кайзер-Брил, репортер міжнародної організації AlgorithmWatch. Тому вони залежать від передачі даних користувачів YouTube. Портал, який критично вивчає алгоритми платформ, перш за все хоче більшої прозорості від Google. Зокрема, вони закликають до незалежного органу, який би посередництвом між дослідниками та платформами.

В інтерв’ю NZZ менеджер Google Ізабель Сонненфельд каже, що YouTube надає вищий пріоритет високоякісному медіа-контенту. За їхніми словами, "вміст ЗМІ та достовірна інформація" навмисно отримують пільговий режим за алгоритмом. Під час коронарної кризи Youtube вже видалив тисячі відео з неправдивим та оманливим вмістом.

"Алгоритм залишається для нас чорною рамкою", - говорить Рібейро. Але він також розуміє, що Google хоче захистити конфіденційність своїх користувачів, і тому обережно ставиться до даних. Тим не менше, він хотів би, щоб суспільство відігравало в цьому важливішу роль. «Я думаю, що алгоритм YouTube чудовий. Проблемою буде регулювання великої кількості вмісту на платформі, як на ринку, та зменшення фінансових стримуючих факторів », - говорить Рібейро.

Хоча мій самоексперимент тривав лише кілька днів, я бачу певну тенденцію до сумнівного змісту. Я припускаю, що якби я продовжував робити цей експеримент, я бачив би гірші відео. Ваша поведінка власного користування є надзвичайно важливою: чи дозволяю я спокусі за допомогою клікбейтингу та провокаційних відео? Чи дозволяю я також інші думки? Алгоритми, безсумнівно, відіграють важливу роль у візуальній поведінці, але головне те, що кожен користувач усвідомлює, як працює YouTube, і задає правильні питання: Які джерела? Наскільки це достовірно? На мій погляд, медіаграмотність - найкращий спосіб боротьби з радикалізацією.