K; що! Але k; роботи також можуть f; виберіть APuZ
Якби ви могли бажати інтелектуальної машини, якою вона б була?
Теа Дорн - Я хочу працювати головою і серцем, саме тому я вважаю чудовим, що прилади виконують для мене домашні справи, на які я б лише скреготів зубами. Але мені ніколи не спадало в голову називати свою пральну машину розумною.
Рауль Рохас - Я хочу технологію, яка постійно не заважає мені і не блокує мене до комп’ютера, як, наприклад, електронні листи. У мене немає мобільного телефону, це мій вихід. Я хочу використовувати свій мозок для чогось іншого. Тож я розробляю автономні транспортні засоби, якими можна користуватися як таксі.
Хіба ми не на милість їх?
Рохас - ні Навпаки. Я хочу перетворити машину на форму громадського транспорту. У нас в Берліні 1,3 мільйона транспортних засобів, а також автобуси та метро. Я хотів би мати 100 000 автономних автомобілів замість автомобілів: спільне таксі. Вони забирали людей на вулиці та везли до метро, автобуса чи іншого місця призначення. Ви їдете разом, діліться витратами. Це полегшує рух транспорту. Більше не було б паркувальних смуг, а велосипеди отримали б смугу, яка стала вільною. Аварій було б менше. І це було б так зручно! Мені більше не потрібно їздити самому, я можу сісти в таксі, почитати, попрацювати. Це було б моєю "автопією" для міста.
оправка - Без заперечень проти цього бачення! Зрештою, мені все одно, шофер за кермом чи машина їде сама. Але поки що ми все ще самі за кермом - і постійно отримуємо покровительство. Це зводить мене з розуму, коли моя машина намагається сказати мені істеричним звуковим сигналом, як припаркуватися чи коли зробити перерву. А навігаційні системи - це найчистіші орієнтаційні машини. Якщо можливо, я вимкну це все.
Рохас - У мене теж немає навігаційної системи. Але серйозно: я читаю багато лекцій про автономні транспортні засоби, і найпоширеніша реакція: я не хочу, щоб хтось забирав у мене кермо! Я відповідаю: багаті люди мають водія і не дбають про деталі. Хіба ми всі не хочемо бути багатими? Тоді мене вже не цікавить водіння. Я читав свою газету, свою книгу, поки шофер не сказав: Ми приїхали.
оправка - Це теж: прекрасне бачення! Я просто боюся, що люди не використають заощаджений час, щоб прочитати Арістотеля або, принаймні, прочитати газету. Вони ще більше возитимуться зі своїми пристроями. Але, звичайно, це правда, що - особливо у великих містах - потрібно багато покращити рух. Кожен, хто їде пішки або на велосипеді в Берліні, ненавидить автомобільний рух.
Але?
оправка - Мене турбує швидкість, з якою ми делегуємо рішення щодо технологій, які раніше нам доводилося приймати самому, або навички, які нам доводилося набувати самому: Розвивати відчуття, чи я досить рухався сьогодні? Не потрібно, додаток для здоров'я каже мені. Планування запасів? Не потрібно, холодильник знає, коли додати нове молоко. Вивчати іноземні мови? Чому, є програми перекладу.
Пане Рохас, вам потрібна технологія, яка робить щось за вас і утримує роботу від вас. Тож уявімо собі домогосподарство, яке самостійно прає білизну, займається харчуванням ...
Рохас - Ні ні. Я не люблю побутових роботів. Мій особистий вид спорту - косіння газону, збирання листя та прання білизни. Не слід звільняти людей від усього, що є в домі, оскільки вони перестануть рухатись і товстіють. Як у фільмі "СТІНА". Ви знаєте, що?
оправка - Тільки причіп.
Рохас - Люди сидять на літаючому дивані, з екраном перед носом, а продукти приносять роботи. Таке майбутнє було б жорстоким. Тому деякі машини, які можна побудувати, не слід будувати з соціальних причин. Наприклад, роботи з догляду за лікарнями, які мінімізують контакт між хворими та іншими людьми.
оправка - Ведеться велика робота над їх розвитком. З одного боку, це зрозуміло: не вистачає медсестер, то чому б не використовувати роботів для допомоги? З іншого боку, з кожним технологічним вирішенням соціальної проблеми наша соціальна творчість буде продовжувати занепадати. По суті, мені здається, що мова йде про: Як ми заповнюємо вільні простори, які дає нам нова технологія? Ми прямуємо до Афін 4.0, в яких кожен може філософствувати і займатися спортом з ранку до вечора, адже доброзичливі раби-роботи роблять за них всю нудну роботу? Або ми в кінцевому підсумку підказуємо "WALL-E": товстий, ледачий і дурний?
Рохас - Це дилема. Класична античність і так не є для мене прикладом для наслідування, бо вільними були лише чоловіки, тоді як жінки та раби виконували цю роботу. Я думаю більше про утопічних соціалістів.
оправка - Троцький сьогодні був би великим прихильником технологізації, бо він би сподівався, що це дасть людям свободу освіти.
Рохас - Велике питання з ранніми соціалістами було в тому, хто виконує нижчі посади. Ваша відповідь: машини. Фрідріх Енгельс писав, коли був ще маленьким: Ви сказали, що нам потрібен нижчий клас, який прибирає туалети, але зараз є автоматичний туалет, який змивається сам! Для нього це довело, що людство майбутнього звільниться від цих підлих робочих місць - соціалістичної утопії 19 століття. Зараз у нас набагато більше машин, ніж коли-небудь мріяли Маркс та Енгельс, але у нас немає великого майбутнього із вільними людьми. Можна майже зневіритися.
оправка - Ну Я думаю, що у людей є лише два варіанти: або вони продовжують змирюватися з тим, що, крім усього великого, що вони можуть зробити, вони мають і обмежені недоліки: іноді сумні, іноді хворі, і врешті-решт настає смерть. Або він хоче залишити все це назавжди і бути назавжди у формі, завжди в гарному настрої і, зрештою, безсмертним. Наш випадковий, гуманістично сформований образ людини закінчився б. Я підозрюю, що в Кремнієвій долині я би заслужив глузливий сміх, якби там сказав, що вважаю подальшу оптимізацію людей у машинному стилі кінцем нашої автономії та гідності. Найсміливіші там мріють завантажити свій мозок у хмару, де вона може злитися зі світовими знаннями: повне розчинення меж. Мовою мовою: кінець особистості, характеру, особистості.
Рохас - Це все фантазії, всі вони дурниці.
оправка - Я заспокоююсь, коли ви це говорите.
Як звичайний читач, звідки я знаю, що це нонсенс?
Рохас - Важко це з’ясувати. Рей Курцвейл, натхненник трансгуманізму, стверджував десятиліття тому, що людей замінять машини, що в якийсь момент буде лише машинний інтелект. За його словами, до 2030 року в комп'ютерах буде стільки транзисторів, скільки у людей нейронів, тому машини автоматично стануть розумнішими. Це нонсенс і це самовпевнено. Знову і знову ми помічаємо, як далеко ми ще від розуміння мозку та пізнання. Той, хто вважає, що машини можуть бути точно такими, як люди, не усвідомлює того, що ми є тілом і розумом.
оправка - Курцвейл настільки послідовний, що тіло є настирливим придатком до розуму.
Рохас - Якби він міг зберігати всю свою інформацію на жорсткому диску, він швидко виявив би, що не був би таким самим без свого тіла.
оправка - Як я вже сказав: я сподіваюся, ви маєте рацію, і "особливості", про яку мріє Курцвейл, ніколи не буде існувати. Тим не менше, я не думаю, що слід відмовлятися від усіх транс- і постгуманістських бачень ...
Рохас - Але. (сміється)
оправка - ... тому що вони стикаються з нами, що зникає в нашій технологічній історії цивілізації. Вони змушують нас запитати себе: чи справді ми хочемо закінчити шлях, який ми так радикально обрали?
Рохас - Будувати роботів - це як фокусник, і людей обманюють. Приклад: якщо ви дозволяєте маленьким роботам навмання штовхати кубики, в якийсь момент в середині арени утворюється купа. Це випадково, але люди думають: Ах! Роботи разом будують вежу. Ви розумні!
оправка - Чи не тому, що люди завжди мріяли створити істот, яких вони нескінченно перевершують - з точки зору здоров’я, довголіття, краси, сили, інтелекту? Пігмаліон та ідеальна жінка, єврейська міфологія та Голем, Ніцше та надлюдина. Тож цей ентузіазм мене не дивує. Але я поділяю вашу оцінку, що ми все ще маємо справу з досить дешевою магією стенду, принаймні на даний момент. Я був на прийомі днями, і маленький білий робот ходив, вітаючи гостей, і міг - переважно - сказати, чоловік це чи жінка. Якщо він думав, що бачить даму, там була троянда.
Рохас - Це популярна німа. Я знаю, який стан техніки. Ми всі готуємо лише на воді. Люди, які створюють цих роботів, поводяться так, ніби робот насправді багато чого розуміє. Замість того, щоб пояснювати межі та проблеми технологій, вони надмірно перебільшують, щоб отримати інвесторів або нові гроші на дослідження.
оправка - Чи вірите ви, що ці Штучні інтелекти колись можуть розвинути щось на зразок емоцій?
Рохас - Ні. Це абсолютно немислимо. Я працюю над цим 35 років. Є певні скромні навички, яким ми намагаємось навчити комп’ютерів. Але: розпізнавання мови все ще не велике. Є кілька корисних речей, таких як розпізнавання обличчя в аеропорту або системи перекладу. Останні працюють, оскільки зараз в Інтернеті так багато книг німецькою та англійською мовами, що комп’ютер може автоматично вивчити відповідність між цими двома мовами.
Це називається глибоким навчанням - люди тренують програми з великим обсягом даних.
Рохас - Так. Однак це працює лише до певної міри. Я показую комп’ютеру мільйони фотографій котів. Тоді в якийсь момент він дізнається, що таке кішка. Але коли я запитую його, чому? Він не може це пояснити.
Звідки беруться ці дані?
Рохас - Від усіх нас.
оправка - Щодня.
Рохас - Якщо ви завантажуєте фотографії в Instagram, дані потрапляють у Facebook. Це дозволяє їм вдосконалити програми розпізнавання облич. Або програми розпізнавання котів. Ми генеруємо ці дані - добровільно та безкоштовно для Google та Facebook.
Нещодавно інтелектуальна компанія Google назвала чорних людей горилами. Ще один ШІ зв’язав кухню і жінок. Системи не навчаються нейтрально до цінностей?
Рохас - Ні. При глибокому навчанні існують лише закономірності. І це призводить до прийняття рішення. Якщо жінку слід бачити в 90 відсотках рекламних оголошень на кухні, то зрозуміло, звідки це береться. Великі дані містять усі наші цінності, суперечності та упередження.
оправка - Я чув, що одна з тих так званих автономних систем у військовій галузі, які розпізнавали танки, раптово вийшла з ладу. Ніхто не знав чому. Тоді було встановлено, що на більшості зображень, використовуваних для тренування системи, були зображені танки під блакитним небом. Тепер небо було похмурим, а система втратила.
Рохас - На жаль, це казка, така система ніколи не застосовувалась. Серйозним прикладом є аварія на Теслі, оскільки тут була задіяна справжня комерційна система. Тоді біла вантажівка перекрила шосе. Камера автомобіля не могла відрізнити хмари на небі від вантажівки; вона не загальмувала.
оправка - Ніщо не може замінити людського судження. Люди здатні зважитись і прийти до рішення, сперечатися та обґрунтовувати своє рішення. Чи може це бути однією з відмінностей між штучним інтелектом і нами?
Рохас - Так. Насправді машини не мають глибокого судження. Перш за все, вони не мають інтуїції, не мають такту.
оправка - У цьому є набагато більше: штучний інтелект не має ні почуття сорому, ні провини, ні жалю, ні совісті. Питання, яке часто задають у вашій науковій галузі, полягає в наступному: Хто несе відповідальність, якщо самохідний автомобіль вирішує в нестабільній ситуації наїхати на пенсіонерів, а не на матір та дитину? Чи не слід нам справді запитувати, що це означає, коли сотні тисяч транспортних засобів незабаром будуть на наших дорогах, яким просто байдуже, якщо вони когось наїдуть?
Рохас - Я постійно чую таке запитання: Хто відповідальний? Звичайно люди, які будують систему! Я пропоную працювати настільки добре заздалегідь, що такі ситуації не можуть виникнути в першу чергу. Мінімальна відстань, знижена швидкість, легкі будівельні матеріали - якщо ми врахуємо все це, ми сподіваємось, ми можемо побудувати системи автомобілів, які не спричиняють серйозних зіткнень і є в кінцевому рахунку безпечнішими, ніж сучасні машини.
Чи повинен ШІ регулюватися на міжнародному рівні?
оправка - Людство заснувало Міжнародне агентство з атомної енергії, коли зрозуміло, яку небезпечну та потенційно небезпечну для Землі державу розв’язало ядерною енергетикою. Напевно, час подумати про те, чи не потрібен нам подібний об’єкт, який би стежив за розробкою та використанням ШІ.
Рохас - Я завжди прихильник регулювання, наприклад, генної інженерії та зброї. Тільки в цьому особливому випадку я не відразу бачу, як можна регулювати інтелектуальні алгоритми. Про це потрібно подумати ретельно - рішення не зовсім тривіальне.
І нам справді не потрібно турбуватися, містере Рохас, що коли-небудь роботи стануть розумнішими за людей або колись звільняться від нас?
Рохас - Однозначно не в цьому столітті! Загалом, я не думаю, що в якийсь момент роботи будуть керувати нами. Конрад Цузе, перший виробник комп'ютерів у Німеччині, одного разу сказав: Якщо комп'ютери стають занадто зухвалими, витягніть штекер.
Інтерв'ю вперше з'явилося в "Крісмон".
Модерація: Марейке Фалет та Майкл Гютлайн, chrismon 12/2017, www.chrismon.de
Цей текст опубліковано під ліцензією Creative Commons "CC BY-NC-ND 3.0 DE - Атрибуція - Некомерційна - Немає похідних робіт 3.0 Німеччина". Автори: Теа Дорн, Рауль Рохас для з політики та сучасної історії/bpb.de
Вам дозволено ділитися текстом, називаючи ліцензію CC BY-NC-ND 3.0 DE та авторів.
Інформацію про авторські права на зображення/графіку/відео можна знайти безпосередньо разом із зображеннями.
Теа Дорн, Рауль Рохас
Теа Дорн
є письменником і філософом. Її роман "Die Unglückseligen" (Кнаус) присвячений скасуванню смертності. Тема штучного інтелекту стосується її: на цьогорічному щорічному засіданні Німецької ради з питань етики на тему "Автономні системи" вона дослідила питання про те, як ці машини змінюють наш образ себе.
Рауль Рохас
є математиком та професором інформатики у Вільному університеті Берліна. Він очолює Центр машинного навчання та робототехніки Далема і став відомим завдяки роботам, які грають у футбол, з якими він та його команда виграли багато чемпіонатів. В даний час він працює над автономними транспортними засобами, прототип називається "AutoNOMOS". Його докторська дисертація на той час мала зовсім іншу тему: Карл Маркс.