Три закони робототехніки — обов'язкові правила поведінки для роботів, які вперше сформулював Айзек Азімов у оповіданні 1942 року «Зачароване коло» (увійшло до збірки 1950 року «Я, робот»), хоча подібні обмеження згадувались і в попередніх оповіданнях. Ці закони покликані не допустити, щоб роботи могли нашкодити людям.
Формулювання законів: Робот не може нашкодити людині або через свою бездіяльність допустити, щоб людині було завдано шкоди. Робот мусить підкорятися наказам людини, коли ці накази не суперечать Першому закону. Робот повинен дбати про свою безпеку доти, поки це не суперечить Першому і Другому законам. Ці три основні закони — наскрізна тема оповідань про роботів Айзека Азімова. Письменник створив особливу професію — робопсихолога, спеціаліста, що на основі трьох законів робототехніки інтерпретує поведінку роботів. Видатним робопсихологом була Сьюзен Келвін. Айзеку Азімову також належить термін «Робототехніка» (), який переріс галузь наукової фантастики й увійшов у реальне життя.
Наприкінці життя в романах із циклу «Фундація» Азімов запровадив четвертий, або нульовий закон робототехніки, яким керується Р. Даніел Оліво — робот віком понад двадцять тисяч років: 0. Робот не може заподіяти своїми діями чи бездіяльністю шкоди людству.
Значення трьох законів Три закони роботехніки Азімова аж до XXI століття є найвідомішою спробою створення етичних правил для роботів.
Від 2014 року, з появою перспектив реального застосування штучного інтелекту в техніці, тривають активні етичні дискусії навколо автономного летального озброєння (бойових роботів), і в цих дискусіях використовуються закони Азімова. Крім праць самого Азімова, в обговореннях використовують етичні основи, які безпосередньо випливають із категоричного імперативу Канта, з якого й Азімов вивів свої закони.
Історія виникнення трьох законів
Поява поняття До Трьох Законів Азімова більшість оповідань про штучно створені істоти взагалі, і про роботів зокрема, писалися в дусі відомого роману про Франкенштайна. Пізніше Азімов відзначав: «Ця проблема стала однією з найпопулярніших у світі наукової фантастики у 1920—1930-х роках, коли написано безліч оповідань, темою яких були роботи, які повстали та знищили своїх творців. …Мені дуже набридли попередження, які звучали в подібних творах».
Однак не всі фантасти дотримувалися такого шаблону. У грудні 1938 року опубліковано оповідання Лестера дель Рея «Гелен О'Лой» — історія жінки-робота, яка шалено покохала свого творця і стала для нього ідеальною дружиною. За місяць опублікував оповідання «Я, робот» про долю робота Адама Лінка — не зрозумілого людям створіння, керованого любов'ю та принципами честі. Reprinted in
Це оповідання дуже сподобалося Азімову. 7 травня 1939 року він відвідав Товариство наукової фантастики Квінза, де зустрів Біндера. За три дні Азімов почав писати власну історію «шляхетного робота», а за 13 днів віддав рукопис своєму другові Джону Кемпбеллу, головному редактору журналу «Astounding». Однак той повернув рукопис, заявивши, що оповідання надто схоже на «Хелен О'Лой».Asimov (1979), pp.236–8 На щастя, відмова Кемпбелла не позначилася на їхніх стосунках з Азімовим, вони продовжували регулярно зустрічатися і розмовляти про новинки у світі фантастики. І ось 23 грудня 1940 року, під час обговорення чергового оповідання про роботівDavid Langford, Laws of Robotics // SFE: The Encyclopedia of Science Fiction, online edition, 2011—.:
…Кемпбелл сформулював те, що пізніше стало відоме як «Три закони роботехніки». Пізніше Кемпбелл казав, що він просто виокремив «Закони» з того, що Азімов уже написав. Сам же Азімов завжди поступався честю авторства «Трьох законів» Кемпбеллу.…
За кілька років ще один друг Азімова — Рендал Гаррет — приписав авторство Законів «симбіотичному товариству» двох людей. Азімов з ентузіазмом прийняв це формулювання.Asimov (1979), pp. 285–7.
Загалом, поява Трьох законів у творах Азімова відбувалася поступово: перші два оповідання про роботів («Роббі», 1940 та «Логіка», 1941) не містять явної згадки про них. Однак у них уже мається на увазі, що роботам притаманні деякі внутрішні обмеження. У наступному оповіданні («Брехун!», 1941) вперше звучить Перший закон. І, зрештою, повністю всі три Закони наведено в «Зачарованому колі» (1942).
Коли було написано інші історії та виникла ідея видання збірки «Я, робот», перші два оповідання «доповнено» Законами. В «Роббі» закони дещо відрізнялися від «класичного» варіанту, викладеного в інших оповіданнях. Зокрема, ідея про робота, який захищає людей, щодо існування яких він не зовсім упевнений, перегукується з думками Іллі Бейлі про недосконалість Законів, описаними нижче.
У 1950-ті роки Азімов писав переважно для молоді. Його видавець припускав, що за цими оповіданнями можна буде зняти телесеріал. Побоюючись, що екранізація виглядатиме «одноманітно жахливо», як і все, на його думку, що показували по телебаченню, Азімов вирішив опублікувати серію «» під псевдонімом Пол Френч. Коли ідея щодо екранізації провалилася, Азімов зняв псевдонім і доповнив текст оповідань серії Трьома законами, тим самим підтвердивши своє авторство.
Етичне обґрунтування законів У оповіданні «Доказ» (1946) Азімов детально виклав моральні обґрунтування Трьох законів. Героїня оповідання, докторка Сьюзен Келвін, наводить такі докази:
Людина зазвичай утримується від завдання шкоди іншій людині, за винятком випадків гострого примусу (наприклад, на війні) або щоб урятувати більше людей. Це еквівалентно Першому закону. Аналогічно, відчуваючи відповідальність перед суспільством, людина виконує вказівки авторитетних людей: лікарів, вчителів, начальників тощо, що відповідає Другому закону. Зрештою, кожен із нас дбає про свою безпеку, — а це і є Третій закон.
Оповідання присвячене питанню: чи можна розрізнити людину і робота, створеного, щоб виглядати людиною, зовні невідмінною від людини? Келвін стверджує, що якщо хтось слідує Законам, то він «або робот, або дуже хороша людина». А на запитання, чи є тоді велика різниця між роботом та людиною, вона відповідає: «Велика різниця. Насамперед роботи глибоко порядні».
Застосування Трьох законів поза фантастикою Якщо Три закони мають під собою глибокі етичні принципи, то, можливо, вони можуть застосовуватися не лише до роботів? Багато авторів ствердно відповідають це питання, наводячи різноманітні приклади.
Так, в есе «Закони роботехніки» Азімов зазначає, що дію Трьох законів можна поширити на всі інструменти, створені людиною:
Інструмент має бути безпечним для використання — наприклад, ножі мають руків'я. Інструмент має виконувати свої функції за умови, що він не становить жодної небезпеки. Інструмент має залишатися цілим під час його використання, якщо тільки його знищення не продиктоване міркуваннями безпеки або якщо воно не входить до його функцій.
Іноді можна побачити, як Три Закони жартома відносять до чогось, створеного для блага людини. Наприклад, їх дія має поширюватися на будь-які соціальні інституції, як от державу:
Держава не повинна шкодити людям або своєю бездіяльністю допустити, щоб їм було завдано шкоди. Держава повинна виконувати свої функції, якщо вони не суперечать Першому закону. Держава повинна дбати про свою безпеку, якщо це не суперечить Першому та Другому законам.
На основі Першого закону Джеф Раскін сформулював закони людиноорієнтованих інтерфейсів:
Комп'ютер не може заподіяти шкоду даним користувача або власною бездіяльністю допустити, щоб дані зазнали шкоди. Комп'ютер не повинен марнувати ваш час або змушувати вас виконувати дії понад необхідні.
Суміжні ідеї Гея, планета колективного розуму в серії романів «Фундація», має щось схоже на Перший закон:
Гея не може заподіяти шкоди формі життя або своєю бездіяльністю допустити, щоб формі життя було завдано шкоди.
Варіації, запропоновані Азімовим У своїх творах Айзек Азімов іноді вносить у Три закони різні модифікації та спростовує їх, ніби випробовуючи Закони «на міцність» за різних обставин.
Нульовий закон Айзек Азімов якось додав Нульовий закон, зробивши його пріоритетнішим, ніж три основних. Цей закон стверджував, що робот має діяти на користь усього людства, а не лише окремої людини. Ось як висловлює його робот Деніел Оліво в романі «Фундація та Земля»:
0. Робот не може завдати шкоди людству або своєю бездіяльністю допустити, щоб людству було завдано шкоди.
Саме він був першим, хто дав цьому закону номер — це сталося в романі «Роботи та Імперія», хоча, саме поняття раніше сформулювала Сьюзен Келвін — у романі «Розв'язати протиріччя».
Першими роботами, які почали підкорятися Нульовому закону, причому з власної волі, були і Деніел Оліво. Це описано в одній із фінальних сцен роману «Роботи та Імперія», коли роботу необхідно було знехтувати наказ однієї людини заради прогресу всього людства. Нульовий закон не було закладено в Жискара й Деніела — вони намагалися прийти до нього через чисте розуміння Жіскара і детективний досвід Деніела, через тонше, ніж у всіх інших роботів, усвідомлення поняття шкоди. Однак Жискар не був упевнений, наскільки це було корисно для людства, що негативно позначилося на його мозку. Бувши телепатом, Жискар перед виходом із ладу передав Деніелу свої телепатичні здібності. Лише через багато тисяч років Деніел Оліво зміг повністю пристосуватися до підпорядкування Нульовому закону.
Французький перекладач Жак Брекар мимоволі сформулював Нульовий закон раніше, ніж Азімов описав його явно. Ближче до кінця роману «Стальні печери» Ілля Бейлі зауважує, що Перший закон забороняє роботу завдавати людині шкоди, якщо тільки не буде впевненості, що це буде корисно для неї в майбутньому. У французькому перекладі («Les Cavernes d'acier», 1956 рік) думки Бейлі передано дещо інакше:
Робот не може заподіяти шкоди людині, якщо тільки він не доведе, що зрештою це буде корисно для всього людства., translated by Jacques Brécard as
Примітно, що логічний розвиток Першого закону до Нульового запропонували творці фільму «Я, робот» 2004 року. Коли суперкомп'ютер В. І. К. І. ухвалює рішення обмежити свободу жителів планети, щоб вони ненароком не завдали шкоди один одному та своєму майбутньому, вона виконує не Перший закон, а саме Нульовий. Ще цікавіше те, що в такий спосіб у фільмі показано суперечність Нульового закону Першому, його неетичність. Дійсно, коли йдеться про благо людства, система не може розглядати людей окремо, а отже, їй ніщо не заважає порушити права і свободу будь-якої або навіть кожної людини (фактично, в оповіданні «Розв'язати протиріччя» позитронні суперкомп'ютери вже поводилися аналогічно, з тією різницею, що вони намагалися гранично зменшити шкоду індивідуумам). Під час воєн, а нерідко й у мирному житті, люди завдають шкоди собі, оточенню, своїй культурі. Тому на підставі Нульового закону цілком логічно тримати людей під постійним піклуванням, не виконуючи наказів таких нерозумних істот.
Модифікація Першого закону В автобіографічних записах Азімова йдеться про те, що друга частина Першого закону з'явилася завдяки сатиричній поемі Артура Г'ю Клафа «Останній декалог», де є такий рядок: «Не вбий, але й не надто намагайся зберегти іншому життя».Asimov, Isaac (1979). In Memory Yet Green. Doubleday. Chapters 21 through 26 .
В оповіданні «Загубився робот» кілька роботів із серії НС (Нестор) випущено лише з «половиною» Першого закону, яка звучить так:
Робот не може завдати шкоди людині.
Це було зроблено з практичних міркувань: роботи працювали разом із людьми, які зазнавали впливу невеликих безпечних доз радіації. Дотримуючись найпріоритетнішого Першого закону, роботи весь час кидалися «рятувати» людей. Оскільки вкрай уразливий для гамма-променів, роботи постійно виходили з ладу. Звуження Першого закону розв'язувало цю проблему, але при цьому створювало більшу: робот міг не вжити жодних дій з порятунку людини, яка зазнає́ лиха, оскільки такий вчинок не суперечить звуженому Першому закону.
Порушення всіх трьох Законів