3 закона робототехники

Наше нынешнее состояние технологий, и робототехники, в частности, было предсказано несколькими авторами научной фантастики в прошлом. Одним из таких авторов был Исаак Азимов, который в своих работах определил три закона робототехники.

Для него и для зрителей его времени все это было научной фантастикой. Учитывая истории, происходящие за несколько десятилетий до нас, сегодня они могут быть не слишком далеки от того, как развиваются события с автоматизацией и робототехникой.

Законы робототехники Азимова имели смысл в свое время, и они все еще имеют смысл сегодня.

Давайте посмотрим на эти законы робототехники и учитываем ли мы их для сегодняшней робототехники.

Первый закон

“Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.”

Для создателей важно ограничить власть, если эта власть может уничтожить их. Таким образом, приоритетом для роботов было бы не навредить человеку или позволить им нанести вред другим способом. Давайте рассмотрим пример.

Человек вот-вот войдет в оживленную уличную развязку, не обращая внимания на проезжающие мимо машины. Если робот должен был заметить это, он помог бы этому человеку, не давая ему или ей быть ранен или даже убит.

Учитываем ли мы это на самом деле? Нет, это не так. Автоматизация всегда была частью индустрии, но до сих пор даже роботизированные руки не обладают интеллектом, чтобы не навредить людям. Им не хватает способности идентифицировать живых существ из-за отсутствия или плохо спроектированных датчиков, и у них нет приоритета следовать этому первому закону робототехники.

Несчастные случаи случаются, и люди могут получить травмы или даже быть убиты роботами сегодня, даже если это просто ошибка в системе. А в системах всегда будут ошибки.

Второй закон

“Робот должен подчиняться приказам людей, за исключением тех случаев, когда такие приказы противоречат Первому Закону.”

Ни один закон и ни одна программа в мире не приносят никакой пользы, если искусственное существо может обходить команды.

Давайте вернемся к нашему примеру сценария сверху. Если бы владелец робота приказал роботу не помогать человеку, находящемуся под угрозой исчезновения, робот проигнорировал бы приказ и независимо от запроса, бросился бы спасать человека. Так что ни прямо, ни косвенно робот не мог стать убийцей.

Третий закон

“Робот должен защищать свое собственное существование, пока такая защита не противоречит Первому или Второму Законам.”

Это объясняет имитацию одного из самых первичных инстинктов для органических существ. Наш главный приоритет — выжить любой ценой. Этот закон имеет смысл учитывать и в робототехнике, поскольку пока его приоритет меньше, чем первый и Второй закон робототехники, как уже говорилось выше.

Опять возвращаясь к примеру человека, который собирается идти по оживленной улице. Робот видит, как этот человек входит в опасность и сталкивается с риском быть раненым или убитым. Робот рассчитывает наилучшее возможное действие, убедившись, что и человек, и сам робот остаются невредимыми. Если расчет не допускает такой возможности, робот попытается спасти этого человека, даже если он может быть уничтожен в процессе, осознавая, что его существование прекратится.