Чи оновлює штучний інтелект кібернетичну мрію керувати світом, але де?

Дуже забута дискусія, пов’язана зі штучним інтелектом, є, мабуть, однією з її основ: кібернетика. Від грецького κῠβερνήτης (kubernêtês) «пілот, губернатор», кібернетика стає під егідою американського математика Норберта Вінера «наукою про управління людьми». У 2004 р. Своєю книгою L'Empire cybernétique «Від машин до думки до машинної думки» соціолог Селін Лафонтен поставила під сумнів вплив дисципліни на гуманітарні науки у Франції ... Ця стаття, яка не постаріла, - це можливість поставити під сумнів новий бум штучного інтелекту, зростаючі наслідки якого для суспільства не пов'язані з цією дисципліною в основі багатьох наших сучасних концепцій спілкування.

Кібернетика: травмована наука

Кібернетика сягає своїм корінням у конфлікт Другої світової війни. Завдяки американському математику Норберту Вінеру це історично дозволило сконструювати гармати, здатні націлювати рухомі об'єкти - в даному випадку німецькі бойові літаки - в той час, коли швидкість літаків забороняла стріляти з прицілу. Ці пристрої працюють шляхом постійного оновлення своєї траєкторії шляхом порівняння траєкторії цілі з їх оцінками.

Саме під час конференцій Мейсі з 1946 по 1953 рік була встановлена кібернетична парадигма. Ці зустрічі беруть участь вчених у таких різноманітних галузях, як інформатика, автоматизація, когнітивна наука, протезування та молекулярна біологія. Селін Лафонтен нагадує нам про важливий факт: ці зустрічі відбуваються навіть тоді, коли Сполучені Штати заглиблюються в маккартизм. Отже, під очевидним нейтралітетом, з яким зустрічаються вчені, будь-яка занадто бурхлива політична думка автоматично виключається, навіть незважаючи на те, що широко розповсюджений проект - зробити кібернетику моделлю управління суспільством! Також у цей час Жорж Буланже, президент Міжнародної асоціації кібернетики, пророкує, що це нове поле буде "визначати інтелект і вимірювати його, пояснювати роботу мозку та будувати мислячі машини". Він додасть, що соціологія, право та філософія "потраплять у залежність" від кібернетики. Кілька сучасних дискурсів, які хочуть встановити коефіцієнт інтелекту (IQ) як остаточний і об'єктивний стандарт людського інтелекту, є частиною цієї - редукціоністської - традиції, яка ставить людей і машини на один рівень.

Нечіткість антигуманізму

Робота Лафонтена цікава, оскільки вона розміщує кібернетику в більш широкому історичному контексті. Соціолог нагадує про тісний зв'язок між дисципліною та біхевіоризмом (або біхевіоризмом), який стверджує, що вся поведінка людини, включаючи думки, може бути асимільована до адаптивних реакцій відповідно до схеми стимул-реакція. Йдучи ще далі, кібернетика постулює «порожню» особу, дії якої є лише плодом реакцій, що визначаються навколишнім середовищем. Ця гіпотеза підживлює тезу Селіна Лафонтена, згідно з якою кібернетика є антигуманізмом. Якщо сьогодні гуманізм є загальноприйнятим терміном, який є предметом великої критики, він, тим не менше, претендує на людську внутрішність - та особистий вільний вибір - який кібернетика відкидає. Норберт Вінер погодився у відповідь на те, що машина може бути наділена власною індивідуальністю (коли хтось відповість йому, що машина не має внутрішньої обстановки, оскільки вона не страждає, він залишає місце для сумнівів: "Це не так. Не настільки впевнений ...") . Саме в цій філософській невизначеності, що впливає на саме бачення того, якою є людина, ожило багато застосувань штучного інтелекту, ми повернемось до цього пізніше.

Норберт Вінер - афіша конференції з кібернетики, інтелекту та уяви

Від численних впливів до жорстокої асиміляції ...

Кібернетика серед нас

Думати про кібернетику сьогодні може здатися дещо теоретичним. Однак його практичне застосування безліч. Наприклад, сучасна війна глибоко кібернетична. Сучасна зброя, така як безпілотники та інші вбивці роботів, як правило, стають дедалі більш автономними: вони більше не виступають за вбивства людей, а "шаблони" даних, засновані на статистичних висновках. Це наближається до фантазії про повністю автоматизовану війну, яку ведуть машини, здатні забезпечити раціональну і тиху ліквідацію безликого ворога, що знаходиться поза людським контролем. Те саме стосується і передбачувальної справедливості, де штучний інтелект використовується для прогнозування, коли і де станеться злочин. Наприклад, система HART (Harm Assessment Risk Tool) була протестована поліцією Дарема (Великобританія) на основі даних про арешт за чотири роки. На війні чи в поліції кібернетика супроводжує боротьбу з невизначеністю, проти знаменитої ентропії у центрі кібернетичної теорії.

Погодьмося: дебати повинні жити, і ми можемо повністю підписатись на таке бачення. Проте сумнівним є те, що в інтерв’ю автор може стверджувати, що пропонує „нейтральний і загальнодоступний погляд на цифрові технології та їх вплив на бізнес, економіку та суспільство”. Набуває нагальної необхідності вимивати ідеології під технологічним дискурсом, який занадто часто сприймається як нейтральний, навіть наділений безперечною науковою аурою.

Поверніть контроль (яка іронія!)

Кібернетика дала величезний прогрес у багатьох дисциплінах. Від медичного до космічного, проходячи повз різні методи штучного інтелекту, які пов’язані з ним і які також можуть змінити світ на краще. Тут не йдеться ні про заперечення цих подвигів, ні про їх догматичну зупинку.

[1] Складність зробити її справжньою наукою пов’язана з тим, що кібернетика не вивчає природне явище, а має лише практичні цілі