Три закона роботехники

[В.О.]

Недалек тот день (лично я расчитываю до него дожить). когда роботы, внешне ничем не отличающиеся от человека, будут разгуливать по улицам. Естественно, нужно вложить в них некоторый набор правил поведения. Азимов придлагал свои три закона
1.Робот не должен вредить человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2.Робот должен выполнять приказы человека, кроме приказов, противоречащих Первому Закону.
3.Робот должен заботиться о своей безопасности, если это не противоречит Первому и Второму законам.
Очевидно, что эти законы могут быть эффективны только на страницах НФ. Например, следуя этим законам, любой преступник может воспользоваться дорогостоящей роботехникой.
Можно ли подправить эти законы так, чтобы они работали в реальной жизни? Есть подозрение, что для этого нужно полностью имитировать человеческую психику. А с этим, как известно, пока есть некоторые проблемы.
Причем, хотелось бы, не создать некую силу, противодействующую человеческим интересам. Например, ясно, что во многих ситуациях такой робот будет превосходить человека и может вытеснить его в социальной жизни. Получится обество роботов и для роботов, где люди будут выполнять второстепенные функции. Мрачный футуризм, конечно, но вопрос остается.

[Werwolf]

А как преступник может воспользоваться дорогостоящей робототехникой в гнусных целях, если

Цитата:

1.Робот не должен вредить человеку или своим бездействием допустить, чтобы человеку был причинён вред.

? Причем, что этот закон - основной.

[В.О.]

Не так прямолинейно.
По 2-му закону робот должен подчиняться любому человеку. Если робот не является ни чьей собственностью, то любой человек может сделать его своей собственностью и, например, продать его. Это никому не навредит, кроме самого робота.

И потом, вред некоторых поступков совсем не очевиден. Во многих ситуациях человеку запрещает совершать поступок совесть, но не закон. Как ввести роботу совесть?

[ИСН]

Э, какие законы, какая роботехника? Если будет получен алгоритм, позволяющий как-то формализовать и оцифровать понятие причинения вреда (ну и прочие термины, в которых сформулированы эти три закона), тут встанут такие перспективы, перед которыми померкнет и само внедрение роботехники. Для начала можно будет отправить на пенсию всех судей...

[В.О.]

Насколько я понимаю в юриспруденции, судьи не устанавливают факт нанесения вреда, а определяют меру ответственности за нанесение. Но дело не в этом. Полностью и абсолютно точно формализовать понятие вреда, конечно, не удастся. Но дело не в том, чтобы полностью, а в том, чтобы адекватно реалиям человеческого общества.

Вот для полной ясности пример. Скажем, некий молодой человек пригласил девушку-робота в кафе. Они сели за столик и юноша отлучился на несколько минут. В это время подходит другой молодой человек и приглашает нашу героиню к себе в гости. Она должна подчиниться, поскольку по п.2 она должна подчиняться приказам человека и это не противоречит п.1, поскольку она никому этим не навредит. Робот будет должен подчиняться любым сучайным прихотям случайных людей.

Более того, робот не сможет решить даже проблему буриданова осла, если получит одновременно два противоречивых приказа.

Законы Азимова даже в такой плохо формализованной форме слишком не адекватны реалиям общества. Общественные отношения держатся не столько на законах, сколько на морали и совести. А эти вещи в значительной степени зыблются на человеческих эмоциях - страхе, стыде. надежде и прочих.Поэтому я и думаю, что невозможно в нескольких формальных правилах описать законы поведения робота в обществе. Нужно полностью воспроизводить человеческие эмоции, как минимум.
Готовы ли к этому спецы по ИИ?

[Werwolf]

Да, все-таки проблема приоритетности команд от разных людей не оговорена.