Малюнки, що змінюють особистість дітей
The Guardian публікує аналітичний матеріал про досить нове і дуже небезпечне явище для дітей. У листопаді минулого року газета New York Times також розглядала те саме питання: шокуючі зображення, які проходять через фільтри мобільного та планшетного додатків YouTube Kids, очевидно присвячених дітям.
У цих "мультфільмах" дуже популярні персонажі, такі як Свинка Пеппа (ні. Свинка Пеппа - менш відома нам) або Міккі Маус п'ють відбілювач або їх прасує машина.
Короткий пошук у мережі виявляє, що про цю проблему повідомлялося в багатьох інших статтях чи публікаціях у Facebook. Деякі з цих матеріалів також посилаються на серйозні наслідки, які має це явище: раніше абсолютно здорові та щасливі діти бояться темряви, схильні до епізодів плачу, стають жорстокими і починають заподіювати собі шкоду. Все це класичні симптоми зловживання.
Однак, незважаючи на численні матеріали, що просочились на цю тему, YouTube та материнська компанія Google не зробили багато для вирішення проблеми. Крім того, здається, ніхто не знає, хто їх виробляє, як вони виготовляються і чому вони існують.
Автор "The Guardian" Джеймс Брідл пише, що у своїй документації він натрапив на зображення, які важко перетравлювати дорослі.
«За викликами стоїть цілий клас безглуздого вмісту, створеного на основі алгоритмів пошуку; мільйони і мільйони відео з єдиною метою, щоб залучити перегляди та принести прибуток ", пише Брідл.
Після того, як авторський нарис на цю тему став вірусним по всьому світу, згенерувавши мільйони переглядів, це питання також обговорили в Європейському парламенті, і YouTube почав вживати певних заходів. Однак сором'язливий, який, здається, не вирішив проблему.
Для початку вони обмежили рекламу шокованим вмістом, орієнтованим на дітей. Але оскільки щогодини на платформу завантажується 400 годин матеріалу, явище важко контролювати. Тим більше, що про зображення повинні повідомляти користувачі, які є дітьми, і тому шкода вже заподіяна. Спробувавши автоматичну систему фільтрації, у квітні вони визнали свою поразку, повністю відмовились від неї та приступили до модерування вмісту вручну.
Таким чином, багато відео із шокуючим вмістом були видалені з платформи, але для маленьких все ще надзвичайно легко отримати доступ до цього типу вмісту. Крім того, видалені зображення просто публікуються знову.
Ніхто не знає, чи ці матеріали навмисно зроблені, є «роботою» тролів чи ефектом складної системи створення вмісту. І навіть не в цьому проблема, пише Брідл. Проблема полягає в тому, що система, за допомогою якої ці зображення розповсюджуються, на якій вони вірусуються і завдяки якій вони заробляють гроші, видно прямо на наших очах і є співучасницею цього явища, є автором матеріалу. Тобто, якщо ми можемо бути чесними із собою і прийняти проблему.
Наприклад, система, за допомогою якої YouTube рекомендує інші зображення, не робить різниці між фільмом Діснея та шокованими зображеннями тварин, зарізаних у Китаї. І ця система, як "якщо тобі сподобалось, тобі теж сподобається" "навчає" людей з дитинства натискати на перше, що вони бачать, незалежно від джерела. І це точно такий самий механізм, який використовує Facebook, і який призвів до поширення фальшивих новин та теорій змови, які вплинули, серед іншого, на голосування за Brexit або обрання Трампа на чолі США. Потім, неможливість встановити джерело цих матеріалів кидає людей у море екзистенціальної невизначеності, яка починає відчуватися як звичайний стан справ, особливо у світі, де непрозорі системи, до яких неможливо звернутися відповідальність контролює наші найважливіші аспекти повсякденного життя.
Брідл зізнався, що розмовляв з цим питанням із представниками YouTube, але, як і всі люди, які працюють у галузі технологій, багато хто вірить, що проблема буде вирішена за допомогою кращих алгоритмів, більш ретельної модерації контенту та розвитку технології. Інші люди, до яких він звертався - жителі Заходу, які не перебувають у зоні технологій, з високими доходами - просто вражені тим, що люди залишають своїх дітей на YouTube.
Але подібні проблеми ніколи не будуть вирішені звинуваченням компаній, так само як проблема ожиріння не буде вирішена демонізацією мереж швидкого харчування. Рішенням можуть стати програми, що допомагають людям вийти з бідності.
Подібним чином, якщо YouTube почав впливати на спосіб навчання дітей, рішенням є більше фінансування для навчання. І це тому, що перші роки життя цих людей вплинуть на майбутнє всіх нас.