Чи косяться алгоритми після випуску?

Блог лектора з інформаційних наук.

22 грудня 2016 р

Чи косяться алгоритми після випуску? ?

Ось уже стара морська змія. У бурю Фальшивих новин та епоху постправди Google, або, точніше, її алгоритм, звинувачують у висвітленні антисемітизму або запереченні результатів пошуку. Однак це не вперше, коли "Google приховує євреїв". Або те, що алгоритми демонструють расизм або що "штучний інтелект" переймається фашизмом.

Кілька слів, ключовим у цих проблемах є наступне: алгоритми виробляють форму детермінізму (при відборі інформації та виборах, наших виборах, які з цього випливають). Цей детермінізм є частиною іншого режиму істинності відповідно до кожної платформи (про режими істини Google - популярність -, Facebook - зобов’язання - або Вікіпедія - перевіреність, подивіться, що я писав тут), і незалежно від різних режимів істинності різні платформи, всі надають перевагу тиранії акторської гри (див. роботу Домініка Кардона). І є лише одне рішення для вирішення цієї проблеми алгоритмічного детермінізму та упередженості в результатах пошуку: відновлення ентропії та децентралізації шляхом створення індексу, незалежного від Інтернету.

Чи справді стався Голокост? Правильна відповідь - не задавати неправильне питання нацистській партії.

Отже, тепер до запитання: "Чи стався Голокост?" На запитання Google, вперше з’являється неонацистський сайт (Stormfront), який публікує статтю про клікбейт під назвою: «10 найкращих причин, що ніколи не траплялися в Холокост». (Ви можете тихо натиснути на попереднє посилання, що вказує на статтю Guardian, яка розповідає історію, а не на сайт неонацистів).

У вас є 2 хвилини? ГАРАЗД. Коли я пояснюю своїм студентам DUT infocom історію алгоритмів та інструментів дослідження та те, що ми ставимо під сумнів поняття "актуальність" та "популярність", я постійно даю їм один і той же приклад. На двигуні американського Google, запит "нацист" дає як перший результат сайт Американської нацистської партії.

Той самий запит ("нацистський"), але щодо німецької версії двигуна, дуже довго давав як перший результат сайт музею Голокосту (сьогодні він дає лише компіляцію сторінок Вікіпедії про нацизм).

Той самий запит, той самий алгоритм, відсутність ручного втручання в результати пошуку та все ж два перших ідеально антагоністичних посилання: Американська нацистська партія та сайт Музею Голокосту. Наприкінці демонстрації мої студенти зрозуміли, що поняття "доречність" є абсолютно суб'єктивним, що поняття "популярність" має культурні, історичні та законодавчі упередження (нацистська партія легальна в США) і що Сам алгоритмічний детермінізм стримувався культурним детермінізмом. І що все це мало дати дуже цікавий урок;-)

І тому сьогодні, коли ми ставимо неправильне запитання (чи відбувся Голокост?) Пошуковій системі, алгоритмічна діяльність якої полягає в наданні премії виконавцям та «популярності», і нацистській партії зокрема, і фаскосфері загалом минулі майстри акторського мистецтва та створення суперечок, ми спочатку отримуємо відповідь, яка пояснює 10 вагомих причин, чому Голокост ніколи не відбувся.

Репортер "Гардіан" чудово підсумував весь цинізм справи (та її вирішення) у статті під назвою "Як відбити найкращі сайти відмови Google? Платячи Google". І так. Я перекладу для вас найважливіше:

"Мені вдалося зробити те, що Google вважає неможливим. Мені, журналісту, який не володіє комп'ютером, вдалося змінити порядок результатів пошуку Google на запит" чи справді стався Голокост? "(.) Я штовхнув Stormfront зверху у списку. Я вставив результат зі сторінки Вікіпедії про Голокост. Я замінив брехню фактом ".

Як? 'Або' Що? Граючи з рекламною мережею Adwords та купуючи платне посилання (сторінка Вікіпедії про Голокост) для всіх запитів про відмову, що згадують Голокост. Вартість операції: від 24 до 289 фунтів стерлінгів. Звичайний бізнес. Журналістика має ціну.

"Якщо ви більше не бачите цього спонсорованого посилання, це означає, що у мене більше немає грошей. Кожен клік коштує мені 1,12 фунта, а у мене щоденний ліміт 200 фунтів".

Двісті разів правда на день. Якби хтось вирішив придбати цю правду. Зважаючи на тисячі інших щоденних запитів про Голокост, нам доведеться задовольнити 10 головних причин, чому цього не сталося. І стаття завершується цитуванням Денні Саллівана:

"Google змінив свій алгоритм **, щоб винагородити популярних за авторитетні результати. З тієї єдиної причини, що це приносить Google більше грошей".

(** Про модифікацію алгоритму Google, який "ненавмисно" посилив сп'яніння на шкоду інформації, див. У цій статті Venture Beat)

І коли відбувся не Голокост, Графік знань Google показує нам "фрагмент функції", який на питання "Чи розумні чорношкірі?" відповідає, що це, безсумнівно, "найменш розумна раса". (подвійний sic). І нещодавно ми могли б помножити приклади того, що сприймається як загальний шквал алгоритму, але що є лише демонстрацією того, що він чудово виконує призначений йому кабінет: принесіть більше грошей Google.

Ми будемо думати, що хочемо, але ця загальнодоступна демонстрація повинна переконати тих, хто ще не був у тому, що будь-яке поняття етики в масштабі цієї платформи є, якщо не зайвим, то, принаймні, розчинним у їх моделі. Що, отже, становить те саме.

Потім з’являються дві інші чіткі проблеми: довіру, яку ми надаємо цим результатам досліджень, та відповідальність платформ за показ таких результатів.

Щодо довіри, насправді вона зростає (всі дослідження показують, що ми завжди більше віддаємо результатам досліджень з Інтернету, у прямій конкуренції з телебаченням, радіо чи пресою), і ця довіра виховується. Отже, від суб’єктів освітнього світу залежить формування побудови освіти навколо довіри, яку ми маємо надати в результатах досліджень, що проходять через алгоритмічний фільтр. Тобто, щоб пояснити, як працюють алгоритми, їх режими істинності, логіку вірусності.

Щодо відповідальності платформи, це жарт. Я маю на увазі, за винятком педофілії та меншою мірою явного заклику до тероризму, жарт вірити, що платформи приймуть на себе свої обов'язки. Потрібно лише побачити, з нагоди цієї нової справи, як Google відреагував, пояснивши, що вони не хочуть вести бізнес із сайтами з відмовами (що не заважало журналісту Guardian "купувати це ключове слово"), і пояснюючи в рядку, який не змінився з часу перших бомбардувань Google, що ці результати пошуку не відображають думки Google і що в їх алгоритм не втручається людина, і що вони шкодують (і, звичайно, без будь-якого ручного втручання вони все одно буде прибирати вручну пропозиції або найгірші результати для бізнесу).

А тепер питання про сайти, що займаються життям, що видають себе за інформаційні сайти про аборти.

Про недавню дискусію, яка мала на меті поширити злочин за перешкоджання аборту, було сказано багато про те, що стосується сайтів "за життя", що представляються як "офіційні". На Rue89 Ніколас Фалемпін опублікував текст, в якому пальцем болить: "Наказувати за дезінформацію - це карати інформацію", в якому він пояснює, що якщо сьогодні націлені на сайти, що захищають життя, створений таким чином прецедент може спосіб усіх зловживань та усіх форм цензури.

Це стара морська змія, принаймні така ж стара, як і про свободу слова, і перша поправка до конституції США.

Дозвольте мені (ще раз) розповісти вам про мої інформаційні курси DUT. Коли я обговорюю SEO, функціонування пошукових систем та цифрову культуру зі своїми студентами 2 курсу, я систематично беру той самий приклад. Аборт. Я пояснюю студентам, що в рамках рекламної мережі Google у Сполучених Штатах християнське лобі за життя вклало значні кошти в кампанію спонсорованих посилань проти абортів. Таким чином, коли ми набирали запит, пов’язаний з добровільним перериванням вагітності, тоді ми отримували спонсоровані посилання лише на користь лобі, що підтримує життя, яке спонсоровані посилання було прикрашено абсолютно огидними зображеннями плодів або ембріонів після аборту. Після суперечки, що послідувала, Google тоді прийняв два рішення: спочатку вирішив заборонити вставляти зображення у спонсоровані посилання, а потім змінив Правила згаданих спонсорованих посилань, заборонивши практику будь-якої форми прозелітизму:

"Таким чином, рекламування такого вмісту заборонено:

Вміст, що підбурює до ненависті, насильства, домагань, расизму, нетерпимості на основі сексуальної орієнтації, релігійних чи політичних переконань або стосується будь-якої організації, яка виступає за такі дії

Вміст, який може образити чи відбити ".

Сьогодні нам доступні дві гіпотези.

Або ми залишаємо великі платформи в спокої, щоб самі визначати правила, і ризик - уже широко доведений і спостерігається - полягає в тому, що "кодекс" безумовно переважає "закон". Це рішення, природно, надзвичайно небезпечне, оскільки спокуса ринку (для зазначених платформ) завжди витіснить етичні та суспільні питання (див. Всю першу частину цього допису з питання про Голокост).

Або законодавець втручається, щоб сказати не те, що повинні робити платформи, а рамки, в яких вони можуть це зробити. Ось чому я висловлююсь за поширення злочину за перешкоджання аборту на веб-сайти, залишаючись при цьому стійким захисником свободи слова.

Я тобі пояснюю.

Те, що, на мої очі, було б неприйнятною формою цензури, означало б забороняти, в ім’я будь-якої „моралі”, існування певних сайтів та посилання на них. Якби це сталося, то Ніколас Фалемпін мав би право сказати, що "карати за дезінформацію - це карати інформацію". Але те, на що спрямована ця поправка, - мені здається, - інше: мова йде не про заборону думки, а про покарання за те, що я кваліфікую як "явний обман", тобто про те, що релігійні сайти, що проживають за життя, проходять самі в якості "офіційних" новинних сайтів з питань абортів. І там, знову ж таки, у галузі охорони здоров’я мова йде лише про надання юридичної підтримки рішенням, які вже прийняла пошукова система проти рекламодавців, які розповсюджували „оманливий, фактично" вміст. Неправильний і неточний ".

Тому це законодавство нічого не вигадує, воно супроводжує вже існуючу реальність. Але це також закріплює цю реальність у законі і не залишає її на власний розсуд правил акціонерів, які регулюють великі платформи. Таким чином, він пропонує засіб правового захисту та додаткову гарантію жертвам цих місць дезінформації, але також, і, як мені здається, це найважливіше для асоціацій або державних органів, відповідальних за ідентифікацію та денонсацію цих місць дезінформації.

Нарешті, якщо його великою заслугою є підтвердження того, що явно оманливі сайти можуть бути санкціоновані законом, його найбільший провал - не надати нічого проти платформ, які відображають ці сайти на тому ж рівні, що і планування сім'ї. Те, що алгоритм щодо ключового слова аборт не може розрізнити сайт, що займається життям, та сайт планування сім’ї є проблемою, еквівалентною тому, що стаття Американської нацистської партії могла б з’явитися першим результатом пошуку на питання про існування Голокосту.

Отож ми розглядаємо першу частину цього допису. Не знайшовши рішення ?

Так, рішення існує. Ризикуючи повторитись.

"алгоритми виробляють форму детермінізму (під час відбору інформації та вибору, нашого вибору, що з цього випливає). Цей детермінізм є частиною різного режиму істини відповідно до кожної платформи, і незалежно від різних режимів істинності різних платформи, всі надають перевагу тиранії агентів. І є лише одне рішення для вирішення цієї проблеми алгоритмічного детермінізму та упередженості в результатах пошуку: відновлення ентропії та децентралізації шляхом створення індексу, незалежного від Інтернету ".

Якщо це неможливо, нам доведеться лише косити алгоритми після випуску.

Цей незалежний веб-індекс не є примхою дослідника. Ані нової утолістичної рішення. Питання набагато важливіше і актуальніше, ніж здається. Щоб переконатися в цьому, ми повинні перечитати 14 характерних моментів фашизму за Умберто Еко. Серед яких:

Звернення до соціальних розладів. "Однією з найбільш типових рис історичного фашизму було звернення до розчарованого середнього класу, класу, який страждає від економічної кризи або почуттів політичного приниження і зляканий тиском нижчих соціальних груп".
Одержимість сюжетом. “Послідовники повинні почуватись в облозі. Найпростіший спосіб вирішити сюжет - апеляція до ксенофобії ".
Вибірковий популізм. "У нашому майбутньому є телевізійний або Інтернет-популізм, в якому емоційний відгук вибраної групи громадян може бути представлений і прийнятий як Голос Народу".
Ур-фашизм говорить по-новому. "Усі нацистські чи фашистські підручники використовували бідний словниковий запас та елементарний синтаксис, щоб обмежити інструменти для складних та критичних міркувань".

"Апеляція до соціальних розладів", "одержимість змовою", "вибірковий популізм", "збіднілий новомовний та елементарний синтаксис": ці чотири риси - це теж (я не сказав лише, я сказав "також"), ці чотири риси також є найбільш виразні риси вірусності, ті, з якими алгоритмічний детермінізм найбільше задоволений, ті, хто здатний зробити алгоритмічний детермінізм зброєю математичного знищення (Знищення математики).

І тоді, звичайно, також потрібно і, перш за все, перечитати Ханну Арендт, щоб пам'ятати, що тоталітаризм починається дуже точно тоді, коли передбачуваність або передбачувана передбачуваність фактів дозволяє замінити їх конструкцією художньої літератури, що має адгезію та " впевненість "більша, ніж чутливий досвід.

"Претензія пояснити все ... обіцяє повне пояснення минулого, повне знання сьогодення та впевнений прогноз майбутнього. (.) У своїх претензіях пояснити все, ідеології, як правило, не беруть до уваги, що є, що народжується і вмирає ... Ідеологічна думка звільняється від будь-якого досвіду, з якого вона не може дізнатися нічого нового, навіть якщо це щось, що просто сталося. Тому ідеологічна думка емансипується від реальності, яку ми сприймаємо (.), І підтверджує існування правдивішої реальності, яка прихована за розумними речами ".

До досягнення цієї точки, коли ідеологія повністю відріже "маси" від "реального світу":

"(вони) не вірять ні в що видиме, в реальність власного досвіду. Вони дозволяють переконати себе не фактами, навіть вигаданими, а лише узгодженістю системи, частиною якої вони є".

Ти сказав . постправда ?

Так, існує реальний ризик перекинутися у форму тоталітаризму. Так, "платформи" та "їх алгоритми" при аналізі цього можливого зрушення є горизонтом, який потрібно розуміти та аналізувати. Ні, це не далекий обрій, а можлива дистопія на 2017 рік. Так, я сподіваюся, що цієї ідеї незалежного Індексу Інтернету, який, на мою думку, є єдино можливим і розумним рішенням, буде дотримуватися і призведе до загальних тверджень незалежної мережі. Швидко.