Особливість, вона не тримає води! "; Інтернет-новини
Від наукової фантастики до науки
"Сингулярність, вона не тримає води", - вигукнув він, як крик від серця, під час нещодавньої зустрічі навколо своєї книги, організованої Digital Renaissance (аудіо). Хоча спочатку Сингулярність описувала критичну точку функції у математиці, це поняття швидко вийшло з початкової області. Зараз він позначає ще один критичний момент: обіцянку, що інтелект машин перевершує людський (див. Наші численні публікації на цю тему). Проблема в тому, що це пророцтво не звучить серйозно: воно скоріше схоже на набір ідей із PowerPoint, а не на аргументовані міркування. Маленька книжка Жана-Габріеля Ганасії влучно нагадує історію цієї суміші.
Зображення: Закон Мура через Zdnet.
Автономність машини не на завтра
Жан-Габріель Ганасія критикує сам міф про машинний інтелект. Якщо продуктивність технологій захоплює дух (наприклад, подумайте про AlphaGo або автономні машини) і продовжуватиме бути такою, розширюючи сфери їх дії, чи можуть ці досягнення змусити нас думати, що комп’ютери стануть автономними, що вони зможуть обійтися без людей діяти ?
Насправді інтелект машин - а точніше їх здатність імітувати інтелект - не покладається на збільшення обчислювальної потужності. Якщо "машинне навчання наділяє машини здатними самостійно нарощувати знання і використовувати їх для переналаштування, переписуючи власні програми", і таким чином наділяє машини формою непередбачуваності завдяки можливості обробляти такі масивні дані (що ми не є здатні обробляти як люди), чи маємо ми турбуватися про їх розширення можливостей ?
Насправді дуже добре вказує Жан-Габріель Ганасія:
"Незалежно від методів навчання алгоритмів (незалежно від того, чи вони" під наглядом "," без нагляду "чи" шляхом підсилення "), машини, однак, не набувають автономії у філософському сенсі цього терміна, оскільки вони залишаються підпорядкованими категоріям цілі, нав'язані тими, хто буде коментувати приклади на етапі навчання. "
Якщо вони набувають технічної автономії, вони не можуть дати собі власних законів, а саме правил та цілей своєї поведінки. Вони не здатні стати "філософсько автономними". "Філософсько автономна зброя не мала б задоволення викликати постріл у вибрану ціль, оскільки вона має характеристики кольору або форми, а сама визначала б характеристики цілей, які вона вирішила бити, щоб задовольнити цілі, які вона мала б мати віддала себе ”.
Якими б не були методи машинного навчання, вони потребують конфігурації, щоб вибрати критерій для оптимізації, без того, щоб машина змогла його змінити. "Машини самі по собі не модифікують мову, якою виражаються спостереження, що живлять їх механізми навчання, і знання, які вони будують. "
Тобто, техніки навчання не мають можливості вигадувати нові концепції або будувати нові концептуальні пристрої. Якщо вони знають, як класифікувати набагато краще, ніж ми, Жан-Габріель Ганасія: "ніщо в сучасному стані технологій штучного інтелекту не дозволяє стверджувати, що комп'ютери незабаром зможуть вдосконалюватися безкінечно без допомоги людей" . і тому ніщо не говорить нам про те, що вони зможуть перевершити нас або придбати форми автономії у філософському сенсі цього терміну.
Від обіцянок ... до міфу
Як він пояснив на конференції, ШІ дуже добре імітує певні людські функції. Комп’ютери грають у гру Go краще, ніж ми. Розпізнавання зображень FaceNet від Google набагато краще, ніж у нас. Але це не означає, що машини одного разу можуть імітувати поведінку людини, тобто те, що вони здатні встановлювати власні цілі. Сьогодні системи навчання використовуються для виготовлення хижих і несправедливих систем прогнозування. Недобросовісно, тому що розраховано з вас самих і більше не об'єднано в об'єктиві загального інтересу та справедливості, зазначив він. «Щодо великих даних, ми передбачаємо на основі кореляції. Це передбачення базується на аксіомі закономірності: те, що трапилося в минулому, повинно повторитися. »Але закономірність може передбачити лише те, що є регулярним, не маючи можливості передбачити, коли ця закономірність закінчиться.
Передбачення завжди базувалося на виявленні кореляційних зв’язків, нагадує дослідник. Незважаючи на велику кількість методів та інструментів, сьогодні, схоже, майбутнє не набагато передбачуваніше, ніж раніше, зазначає він. Моделювання є лише посередником між вченим та його об’єктом дослідження, інструментом для спостереження за вимірами. Але навіть множення спостережень не завжди достатньо для підтримки моделі. І дослідник порівняв питання про сингулярність чи трансгуманізм із глобальним потеплінням: якщо в обох випадках ми намагаємося передбачити майбутнє, паралель на цьому закінчується. «У випадку кліматології ми моделюємо різні моделі під різними науковими гіпотезами; вони підтверджені ретроспективними дослідженнями на основі даних контрольованих спостережень; тоді ми порівнюємо очікування, до яких ведуть ці моделі; нарешті, вони публікуються та обговорюються публічно. Сьогодні всі сценарії завершуються глобальним потеплінням, хоча швидкість процесу та його наслідки відрізняються від моделі до моделі. У випадку з технологічною особливістю справа йде зовсім інакше: чіткої оцінки щодо цього сценарію щодо інших немає. "
Для Ганасії ретроспективні дослідження показують, що перспективні дослідження в галузі інформаційних технологій завжди виявляються дуже приблизними. Що стосується Сингулярності, то, зрештою, для нього вона настільки неймовірна, що її не можна серйозно розглядати. Швидкість обчислення не дає інтелекту. Хоча навчання є потужним, воно має внутрішні межі: ви не знаєте, як автоматизувати зміни парадигми ... Насправді, це трохи схоже на те, що Сингулярність насправді абсолютно неможлива від природи. Для Ганасії апокаліптичне оголошення, спричинене Сингулярністю, походить не від раціональності, а від підходу майже релігійного порядку.
Для дослідника, здається, деміургічна амбіція ШІ базується насамперед на символічному маніпулюванні інформацією. Повторюючи обіцянку, яка ніколи не збулася, це стало міфом. Насправді, якщо машини здатні розпізнавати людей або предмети на малюнках краще, ніж ми, якщо вони здатні грати в Go Go краще, ніж ми, якщо вони здатні їздити краще за нас ... це тому, що програми дозволяють їм зміцнити свої знання. Вони краще за нас знають, що ми їм заказуємо робити, особливо тому, що вони здатні мати справу з набагато більшими прикладами, ніж ми. Однак ... машина, яка вміє грати в Go, не може навчитися співати, якщо їй не кажуть, як це робити. Без моделей, без прикладів, без правил, щоб сказати їм, що підсилити, ШІ не може мріяти про електричних овець.
Насправді, катастрофізм сингулярних людей, перш за все, забезпечує їх відомість. Неминучість їхніх пророцтв змушує нас забути, що дуже часто справжня небезпека виходить швидше із невідомого. Справжня проблема, наполягає Ганасія, полягає в тому, що сценарій Сингулярності насправді затьмарює майбутнє, зосереджуючи увагу на одному сценарії за рахунок усіх інших.
Чому Сингулярність так успішна ?
Жан-Габріель Ганасія також вказує на те, наскільки мислителі технологічної Сингулярності плутають раціональні аргументи з уявними у грандіозній історії. Сингулярність - це не горизонт: вчені та інженери виправдовують свої висновки з наукової фантастики, аніж з науки. Це значною мірою винне у фінансуванні досліджень, які надають перевагу проектам, здатним стимулювати мрії, а отже, відповідно до петлі зворотного зв'язку, яка вже не дуже доброчесна, фінансування.
Жан-Габріель Ганасія зазначає, що успіх міфу про Сингулярність значною мірою зумовлений пихатістю, сп'янінням надмірності великих веб-компаній. Ми маємо справу з людьми, які не бачать меж для свого фінансового успіху, їх завойовницького духу ... Технічні успіхи, які вони переживають, підбадьорюють їх: вони впевнені, що у них є ключі до майбутнього. Гіпотеза сингулярності - це водночас зустріч між сліпучими їх власними подвигами, впевненістю в тому, що їх можна знову примножити, а також оволодіти ними, щоб обмежити наслідки ...
Однак для нього цей надлишок є перш за все відображенням їх безсилля. Великі промисловці Інтернету підпорядковуються користувачам, що заважає їм передбачати, бути задоволеними, щоб якнайкраще спостерігати та перекладати потреби та потреби користувачів. Тендітність їхніх імперій вимагає великої історії навпаки. Технологічна неминучість - це спосіб забезпечити власну неминучість. Для них "технології розгортаються самі по собі", згідно з універсальним законом еволюції, зразком якого був би закон Мура. Їх головний внесок - гуманізація технологій ... звідси важливість етики, кодексів поведінки, нескінченно повторюваних обіцянок не робити зла!.
Хоча сп’яніння успіху руйнує всі передбачувальні бар’єри, веб-бізнес за своєю суттю є неміцним. Щодо Ганасії, ми перейшли шлях від підприємців індустріального віку, які залишили свій слід у світі, до підприємців гіперпромислового віку, які не відповідають за зміни, які вони розвивають, які намагаються не відставати від потреб користувачів у гіперконкурентному світі. У цьому контексті Singularity - це спосіб приховати свою відповідальність, змусити нас повірити, що технологія буде розгорнута автономно. Нарешті, популяризація «Сингулярності» також приховує політичні проблеми: програми денних лібертаріанських компаній, які будуються у суперництві з національними державами.
Ніколас Ванбремеерш, керівник "Танку" та агентства "Спінтанк", запитав дослідника, чому цифрові гравці, таким чином, захопили таку мобілізуючу історію? Ця потреба у великому конкурентному оповіданні поєднується з цим відчуттям могутності ... підприємців, ринкові обмеження яких в сотні разів перевищують їхній оборот. Щоб залишитися при владі, вони повинні придумати грандіозну історію, божевільну, перебільшену, пророчу історію, яка, здається, стає все більш розвиненою. "Ми збираємо гроші дуже високою історією про руйнування та перетворення світу", про яку ми дізнаємось з інших країн ... Ми тут перебільшені і дивуємось, як такі держави, як Наука, можуть взяти під свій контроль ?
Дійсно, відповідає Жан-Габріель Ганасія, історії є дзеркалом для міражу, який поділяють усі. Ранні цифрові компанії не мали бізнес-моделей. Більшість із цих компаній мають цікаву економічну модель, коли надана послуга є безкоштовною. Економіка, здається, вже не прив'язана до реальності. Замислитись, чи не зрештою Сингулярність виховує страх приховувати інших, не виявляє стратегію приховування інших ?
Зрештою, обіцянка Сингуляриту здається більше за інших обіцянкою, що самореалізується, яка нічого не досягне. Що підриває сценарій майбутнього, який затуляє інших, заважаючи іншим надавати кредит. "Казка про кінець майбутнього призначена лише для того, щоб відволікти нашу увагу від неї. "Як ніби стало неможливим побудувати будь-яке майбутнє, крім майбутнього апокаліптичного технологічного зростання ...
Нам потрібно критично ставитися до технологічних обіцянок
Питання залишається без відповіді, однак, як обіцянки нескінченно оновлюються, ніколи не виконуються, завжди відкидаються, як Сингулярність, таким чином, у підсумку створюючи міф, самостверджуючись, не реалізувавшись ?
Врешті-решт, ми можемо здивуватися з П’єром-Бенуа Жолі, іншим автором цього багатоголосного твору, якщо те, що перетворює обіцянку в міф, є ідеологією, тобто, що пов’язує ідентичність групи та легітимізує владу. Обіцянки встановлюють горизонт, який дає змогу легітимізувати проекти, мобілізувати ресурси та стабілізувати їх середовище. "Технонаукові обіцянки мають функцію створення необхідного стану, що дозволяє приховувати певні інтереси". Однак нагальність та серйозність проблем, як правило, роблять обіцянки привабливими та законними. Проте Технологічна особливість не стосується жодної серйозної чи нагальної проблеми. Сам факт того, що його завжди відштовхують у часі, показує, наскільки він більше не підпадає під обіцянки, а то й ажіотаж, ажіотаж. Більше ніж міф, «Сингулярність», схоже, залишилася вигадкою.
Для філософа та історика Бернадетт Бензоде-Вінсент ці обіцянки мають на меті не передбачити, а зробити технологічну траєкторію неминучою, встановити детермінізм та полегшити соціальне прийняття технологій. Шаблони, що працюють над Сингулярністю, схоже, повторюються в обіцянках нанотехнологій, синтетичної біології, а також в планах зближення NBIC (нанотехнології, біотехнології, інформатика та когнітивні науки). Можливе стає золотим горизонтом будь-якого часового горизонту: проста пропаганда. «Виконання обіцянок у найближчому чи далекому майбутньому не є важливим. Обіцянки покликані не відображати реальне, а розширити можливе, хоча вони ніколи не зустрічаються з підтвердженням. «Навіть якщо досягнення вже давно назріли, концепції не піддаються сумніву. Майбутнє, втілене в обіцянках, функціонує насамперед як інструмент управління економічною конкуренцією. Вони дають змогу об’єднати та мобілізувати дослідницькі інфраструктури та інтегрувати їх у навколишню соціально-технічну культуру. Для неї майбутнє конфісковане технологічно-науковою обіцянкою, а політика відведена в єдиний регуляторний простір.
Для соціолога Олів'є Глассі, який зазначає у книзі, наскільки соціальне, а не техніка стало горизонтом інформаційних технологій, усі перформативні дискурси про появу соціальної мережі особливо сприяють утвердженню віри у неминучість з оголошених змін, будь то ті, хто сприяє розширенню можливостей або включенню всіх, наприклад, ті, хто передбачає, що вони незабаром зможуть "технічно захопити соціальне". "Соціальне - це вже не просто горизонт обіцянки, це його паливо": великі дані досягають власних досягнень !
Зображення: "Чудово" робити відкриття "," рятувати життя "і" робити світ кращим ", Роджер. Але ваше дослідження навряд чи впливає на соціальні медіа », @TomGauld через AcademicSays.
Для філософа та історика науки Сахи Лоува, який пропонує цікавий погляд на Закон Мура, подібний до того, що міститься в книзі Жана-Габріеля Ганашіа, нам потрібно відкритись для прогресу без обіцянок. Для нього "реальний прогрес у галузі технологій буде відбуватися не від їхньої здатності виконувати обіцянки, ані від здатності обійтися без них".
Не впевнений, однак, що ми знаємо, як обійтися без історій. Щонайменше, чи можемо ми зробити, як закликає нас Жан-Габріель Ганасія, критичний огляд їхніх меж? Краще інтегруйте критику, якої гостро бракує в маркетинговому дискурсі про самореалізацію прогресу. Як підсумовує філософ Ар'є Ріп, ставка, здається, насамперед містить їх надмірність, особливо коли обіцянки стають міфами. Коротше кажучи, дотримуватися критичного підходу до технологічної історії, яка завжди прагне створити власні досягнення.