Автономні машини в медицині Можливості та етичні межі
Ріхтер-Кульманн, Єва
Автономні системи мають значний потенціал для суспільства. Німецька рада з питань етики обговорила на своєму щорічному засіданні, як суспільство може використовувати це відповідально та зберігаючи етичні стандарти при прийнятті рішень.
Розумні машини не можуть замінити людський контакт. Лікарі та вчені-природознавці, етики, філософи та теологи домовились про це на щорічному засіданні Німецької ради з питань етики на тему «Автономні системи» 21 червня у Берліні. Але одне також точно: прототипи інтелектуальних машин вже здатні виконувати завдання догляду та мотивувати людей похилого та когнітивного розвитку до реабілітаційних заходів. На виробництві спільні роботи можуть позбавити людей від важких фізичних навантажень. У так званих розумних будинках системи допомоги можуть підтримувати реабілітацію після перебування в лікарні та насторожувати сусідів, друзів чи лікарів у разі порушень - наприклад, падіння. Складні датчики, алгоритми самонавчання та розширені мережеві можливості дозволяють системам швидко реагувати на навколишнє середовище, порівнюючи різноманітні дані.
З огляду на ці можливості, голова Німецької ради з питань етики, проф. теол. Пітер Даброк, за активне обговорення автономних машин. "Від нас як суспільства залежить, допоможемо ми формувати цю промислову революцію або залишити її іншим", - сказав він на відкритті конференції, для якої рада свідомо обрала підзаголовок "Як інтелектуальні машини змінюють нас", - повідомив він. Тому що це станеться, це майже консенсус.
Окрім шансів, голова ради також вказав на можливі небезпеки та етичні межі: "Чи можемо ми залишатися самовизначеними в морі наших потоків даних, чи ми спотикаємось - більше сп'янілі, ніж свідомі - в пастку незрілості для самої радості мініатюрних удосконалень у нашому повсякденному житті?" він. Оскільки автономні системи використовуються в багатьох різних життєвих ситуаціях, їх не слід обговорювати етично ізольовано, наголосив проф. вип. нац. Хеннінг Кагерманн, президент Акатеху - Німецька академія наук та техніки. Юридичні та етичні правила та стандарти безпеки необхідні скрізь. Ось чому "необхідний ранній і довгостроковий соціальний діалог, при якому можливості та ризики будуть прозорими та зваженими один проти одного", - сказав Кагерманн. Тоді шанси, які відкривають системи, великі. Загалом, однак, застосовується таке: "Автономні системи можуть підтримувати людей і доповнювати їхні навички, але не замінювати їх", - підкреслив фізик. "Нам потрібні люди як остаточний орган контролю".
Автономні системи можуть покращити участь людей протягом усього їх життєвого циклу, сказав проф. вип. стовп. Крістоф М. Шмідт з Інституту економічних досліджень ім. Лейбніца і голова Експертної ради з оцінки загального економічного розвитку. У той же час, однак, нам потрібні нові регуляторні підходи, які фокусуються на здатності брати участь індивідуально та захищати державу від захисту.
Межі автономних систем відіграють важливу роль, особливо в медицині. Тому учасники щорічної конференції конкретно обговорили можливе використання автономних машин та роботів для догляду: "Автоматизація рутинної діяльності в медицині буде прогресувати повільно, але все більше", - говорить проф. мед. Доктор-інж. Переконана Стеффен Леонхардт, технік медичної інформації з Ахенського університету. З огляду на демографічний розвиток у Німеччині, функції допомоги є важливими у використовуваних пристроях.
В принципі від цього не слід відмовляти, сказав доктор-інг. Біргіт Граф з Інституту виробничої техніки та автоматики Фраунгофера, Штутгарт. "Сервісні роботи пропонують потенціал для поліпшення роботи допоміжних засобів з точки зору ефективного та ергономічного використання, а отже, і полегшення персоналу, який доглядає, від їх роботи", - каже вона. Це допомагає зробити догляд більш привабливим як професію. Розумні машини можуть зменшити обсяг необслуговуваної роботи, залишивши більше часу для людства.
Однак використання автономних машин жодним чином не може знизити кваліфікаційні вимоги до медичного персоналу, вважає проф. філ. Адельгейд Кулмей з Інституту медичної соціології та реабілітаційних наук при Шаріте, Берлін, член Німецької етичної ради. Справа швидше навпаки, сказала вона німцеві Дзтеблату. Ви не вірите, що в майбутньому спеціалісти лікарів та медсестер більше не будуть довіряти. "Ви залишатиметесь тими, хто зможе читати та класифікувати висновки - в тому числі дані автоматизованих машин", - сказала вона. Проте машина може змінити стосунки між помічником та пацієнтом. Процес розпочався з можливості отримати інформацію про стан здоров’я в Інтернеті.
На щорічному засіданні Ради з питань етики також обговорювалося питання про те, чи нові автономні системи не лише позбавлять користувачів від нудних, складних чи небезпечних завдань, а й зможуть приймати “правильні” рішення. Інформатик проф. вип. нац. Катаріна Анна Цвейг з Технічного університету Кайзерслаутерна бачить це в далекому майбутньому. Вона поскаржилася на сумнівну якість систем прийняття рішень на основі алгоритмів та закликала забезпечити якість. Крім того, слід соціально обговорити, які соціальні процеси насправді підходять для алгоритмічних систем прийняття рішень і як їх слід оптимізувати.
Існують також законодавчі обмеження: проф. юр. Крістіан Вендехорст з Віденського університету чітко дала зрозуміти, що згідно з чинним законодавством машини не мають юридичної особи, навіть якщо вони оснащені вдосконаленим штучним інтелектом. "Алгоритмізація етично виправданих рішень автономних систем має жорсткі обмеження", - підкреслив проф. філ. Джуліан Ніда-Рюмелін з LMU Мюнхен. Автономні системи не могли взяти на себе відповідальність, оскільки поняття відповідальності пов’язане з навмисністю та особистістю, тобто з навичками, якими володіють лише люди. «Роботи - це чисті інструменти, які не слід персоналізувати». Філософ також зазначив існування ситуацій дилем. Потрібні індивідуальні рішення, які не можуть бути прийняті системою. У цілому, однак, Ніда-Ремелін з оптимізмом дивиться на впровадження автономних систем у повсякденне життя, але лише "якщо розвиток не веде власного життя і супроводжується політично, культурно та соціально".
Лікар. мед. Єва Ріхтер-Кульманн
Професор доктор філ. Адельгейд Кулмей, член Німецької ради з питань етики
Чи допоможуть медичні машини та роботи з догляду кращу справедливість щодо старіння суспільства, ніж наша нинішня система охорони здоров’я?
Кулмей: Примітно, що демографічні зміни стали головним аргументом для впровадження автономних технологій в систему охорони здоров’я. З одного боку, це очевидно: правильна технологія може сприяти полегшенню догляду для все більшої кількості дуже старих людей, які потребують догляду. З іншого боку, медицина та сестринська справа - це дуже складні проблеми зі здоров’ям для різних людей. Використання більшої кількості технологій ще не довело того, що машина реагує настільки ж гнучко, як лікар або медсестра. Сьогодні ніхто не може точно сказати, як будуть складатися докази.
До якої межі людський фактор можна замінити роботами?
Кулмей: На мій погляд, людей не можна замінити. Але машини можуть допомогти людям у медицині та догляді. Образно, я встановлюю межу, уявляючи собі повністю автоматизований будинок престарілих. Ми повинні пам’ятати, що використання багатьох технологій змінює стосунки між помічником (лікарем/медсестрою) та пацієнтом.
Як можна підтримувати етичні стандарти?
Кулмей: Ніколи не втрачаючи з виду фактичну мету: машини повинні підтримувати життя людей. Якщо вони цього не роблять, ми повинні діяти автономно і не дозволяти ці машини.