Автор бестселерів Ніколас Карр; Комп’ютери посилюють соціальну нерівність; WiWo
Комп’ютери заспокоюють нас у помилковому почутті безпеки?
Так, ми можемо зайти занадто далеко у пошуках безпеки та ефективності. Минулого року американська авіаційна влада FAA опублікувала звіт, в якому говориться про те, що наші пілоти більше не мають достатнього досвіду ручного польоту. Вони настільки покладаються на комп’ютери та бортові прилади, що втрачають власні льотні навички та інстинкти. Якщо ми перекладемо відповідальність за літак і пасажирів на пілотів, а не на комп'ютери, ми можемо літати безпечніше, ніж зараз.
Сьогодні авіаційних катастроф набагато менше, ніж 15 або 20 років тому. Великий внесок у це внесли технологічні досягнення.
Абсолютно. Автоматизація в авіації - це історія успіху. Але за останні 100 років історії польотів ми поступово перенесли роботу від людей до машин. І сьогодні ми бачимо, що, можливо, ми пішли на крок занадто далеко. Навіть якщо автоматизація, як правило, вітається, це не означає, що кожна подальша автоматизація також корисна. У певний момент ми відбираємо занадто багато людських знань, роблячи речі більш невпевненими, ніж раніше.
Вони думають, що якихось нещасних випадків навіть не сталося б, якби людині довелося ще щось сказати?
Ми схильні довіряти комп’ютерам дуже швидко. Коли комп’ютери працюють надійно, у нас немає причин сумніватися в них. Як результат, ми лінуємось і покладаємось на технології. Дослідники говорять про певний комфорт, який забезпечує автоматизація. Це природа людини: якщо ми віримо, що хтось інший - машина чи інша людина - виконує нашу роботу, ми стаємо менш уважними. А це може мати фатальні наслідки. У 2009 році літак Air France, що летів з Ріо-де-Жанейро до Парижа, врізався в Атлантику. Загинуло 228 людей. З записів голосу та даних у чорній скриньці ми знаємо, що пілоти літали з автопілотом. Коли датчики швидкості повітря раптово вийшли з ладу, оскільки вони були замерзлими, система автопілота вимкнулася. Без цієї технології пілоти були повністю пригнічені і допустили серйозні помилки, які в підсумку призвели до аварії.
І навпаки, давайте не будемо ризикувати життям людей, якщо ми нехтуємо автоматизацією і свідомо приділяємо менше уваги всім технічним можливостям?
Абсолютно. Мій аргумент не проти автоматизації. Я просто виступаю за розумну та обережну автоматизацію. Механізація та нові комп’ютерні технології часто мають несподівані наслідки. Більшість людей вважають, що якщо ви автоматизуєте один із аспектів робочого процесу, решта процесу просто продовжується.
Помилка?
Так. Це міф вважати, що окремі аспекти можна автоматизувати ізольовано від загального процесу. Кожен раз, коли ми автоматизуємо частини роботи, ми автоматично змінюємо всю роботу. І це часто призводить до несподіваних ефектів, яких розробники технологій взагалі не передбачали.
Наприклад?
У США багато лікарень замінили рукописні медичні записи на цифрові. Теоретично для цього є багато причин: Наприклад, легше отримати другу думку від колеги. Все, що вам потрібно знати, щоб мати змогу поставити діагноз, - лише один клік. Однак на практиці було встановлено, що цифрова медична карта має несподівані наслідки для стосунків між лікарем та пацієнтом. Дослідження показують, що як тільки лікар починає користуватися комп’ютером під час іспиту, увага пацієнта різко зменшується. Замість того, щоб говорити з пацієнтами, лікарі 25-50 відсотків часу дивляться на екран комп'ютера.
Давайте переоцінимо переваги автоматизації?
Так, давайте просто дотримуватися медичного прикладу. Багато керівників лікарень шукають спосіб зменшити непотрібні та дорогі обстеження пацієнтів. Оцифрувавши медичні записи, вони сподівались стримати кількість непотрібних тестів. Можливість отримати доступ до рентгенівських проб або аналізів крові пацієнта, які вже проводили в минулому, зробила б організацію нових тестів зайвою у багатьох випадках. Витрати на лікарню зменшуватимуться - поки що теорія. Але часто трапляється навпаки. Витрати зростають. Дослідження, опубліковане в 2012 році в журналі "Справи з охороною здоров'я", показує: Оскільки комп'ютер дозволяє так легко організовувати нові тести, і ви маєте їх перед собою на екрані за дуже короткий час, загалом організовується більш ніж непотрібне тестування.
Зупинимося на темі витрат. Історія вчить нас, що комп’ютери та машини роблять певні роботи застарілими. Нещодавно компанія з дослідження ринку Gartner прогнозувала, що до 2025 року кожне третє робоче місце буде замінено роботами або безпілотниками. Ви бачите це так само похмуро?
Не думаю, що реально припустити, що роботи та комп’ютери зможуть зробити для нас що-небудь до 2025 року. Машини все ще мають серйозні обмеження. Їм бракує креативності, критичного мислення, здорового глузду та здатності розуміти світ у будь-якому контексті. Тільки ми, люди, можемо це робити. І комп’ютери не подолають ці перешкоди в осяжному майбутньому.
Проте комп’ютери та алгоритми змінюють спосіб нашої роботи.
Абсолютно. Цікаво, що комп’ютери перестають замінювати лише фізично вимогливі роботи, а й виконують заходи, які раніше виконували добре навчені працівники знань. Зараз машини замінюють набагато більше, ніж прості роботи на конвеєрі. Ми бачимо, що це стосується, наприклад, юристів та суддів. Спеціальні програми для аналізу тексту дозволяють комп’ютерам сканувати тисячі документів та готувати досьє для судових справ. Раніше для цього вам доводилося набирати багато талановитих людей, які переглядали стоси документів і шукали зв’язки для відповідної конкретної справи. Тенденція чітка: все більше і більше добре оплачуваних робочих місць середнього класу автоматизуються. А з іншого боку, ми не бачимо, щоб комп’ютери могли компенсувати втрати роботи. Комп’ютери ще не створили великих категорій нових, добре оплачуваних робочих місць.
Як роботи спрощують повсякденне життя
Чи автоматизація та механізація нашого робочого світу посилює зростаючу нерівність у нашому суспільстві?
Так. Я вважаю, що це одна з причин, чому, принаймні в США, ми боремося з нерівністю доходів та зростаючою нерівністю багатства. Нові технології дозволяють концентрувати прибуток в руках кількох людей. У минулому індустріалізація та механізація праці призвели до підвищення продуктивності праці. І компанії дуже добре переконалися, що зростання продуктивності праці приносить користь більшій частині суспільства. Додатковий прибуток ділили багато робітників. Виникло широке процвітання. Якщо, з іншого боку, ми сьогодні подивимося на систему, яку створили такі корпорації, як Google, то раптом ми бачимо значно більший розрив. Очевидно, що комп’ютери та автоматизація посилюють соціальну нерівність. Тому що приріст продуктивності вже не розподіляється серед великої кількості працівників середнього класу. Парадоксально: хоча валовий внутрішній продукт збільшується, все менше людей отримує від цього вигоду. І комп’ютери - одна з причин такого розвитку подій.
Чи недоліки процесів автоматизації більші за переваги?
Я не уявляю, як це розрахувати. У цьому відношенні я не займаюся цим питанням. Дискусія про автоматизацію стає захоплюючою, коли ми вдаємось до деталей. З іншого боку, грубі псевдообчислення мало сенсу.