Опять про Илона Маска

[Emergency]

Red_Herring в сообщении #1406448 писал(а):

1. У вашего авто отказали тормоза и есть два варианта: направить его с обрыва (и все в нем погибнут) или в автобус, полный детей. Готовы вы отдать ИИ это решение?

2. У вас есть ударный дрон с ИИ. Обычно за все отвечает оператор, но связь прервалась. Уже сейчас есть дроны, которые в таких случаях сами возвращаются на базу. Но ваш дрон умнее: он продолжает выполнение задачи. При этом должен быть оценен риск, что погибнет много мирных людей, и дрон должен сам решить, ударить или перейти на альтернативную цель (возможно, сам найти ее) с той же оценкой риска. Готовы вы отдать ИИ это решение?

1. Это элементарная задача, которая гораздо проще расчета траектории. Конечно, я готов отдать решение ИИ. Но для внедрения автоматического вождения есть более интересные юридические вопросы, в частности - кто отвечает за ДТП. Поскольку с ИИ взятки гладки, а пассажир не может отвечать за действия водителя, то ответственность на себя должен взять разработчик ПО.

2. Это уже рассмотренная выше задача об ответственности. Добавить к вышесказанному нечего. Но вы как-то трепетно относитесь к слову "ИИ". Сейчас (и уже давно) оружие тяжелее ручного управляется опосредованно. При этом никого не смущает, что если прицел сбит или исходные данные неточны, то снаряд или ракета могут прилететь вовсе не туда куда целился оператор/наводчик. Не так давно наша ракета в Сирии сбила вместо израильского самолета российский, ранее кто-то сбил малазийский боинг, ранее во время учений Украина сбила над Черным морем российский пассажирский самолет... Думаю, что ИИ ничего не добавит к таким казусам.

[Red_Herring]

Emergency в сообщении #1406468 писал(а):

Поскольку с ИИ взятки гладки, а пассажир не может отвечать за действия водителя, то ответственность на себя должен взять разработчик ПО.

Ответственность бывает разная: уголовная, гражданская, моральная,.... и у машины, управляемой ИИ, кроме пассажира и водителя, есть еще и владелец. И если вы владелец машины, которая причинила значительный вред, то готовьтесь к гражданскому иску (и если окажется, что вы не апрейдили ПО до последнего, и поэтому погибли люди, то я подозреваю, что может наступить и уголовная). Кстати, попробуйте объяснить родственникам погибших "Это не я, это ИИ!!"

А также, что если ваша машина вообще ни причем, но было несколько тяжелых случаев с машинами, использующими то же самое ПО, то вам запретят поездки с ним. Ну а с тем, кто это произвел и кто вам продал разбирайтесь сами.

Цитата:

Думаю, что ИИ ничего не добавит к таким казусам.

Ну а многие люди этим вопросом занимающиеся считают иначе, а именно, что опосредованность переходит на качественно новый уровень. И если ваш дрон с ИИ собьет пассажирский самолет, то отвечать придется вам--и, возможно, не в суде, а апостолу Петру.

[Emergency]

Степень ответственности подсудность зависит от тяжести последствий, а не от того кто отвечает.
И вы напрасно думаете, что ИИ допустит выезд автомобиля с устаревшим ПО или не прошедшего очередного обслуживания.

Про родственников не понял. Что значит: "Это не я!" ? Пассажир не отвечает за последствия.

Конечно, остаются еще механики, дорожные рабочие и т.п., но это не меняет существующих отношений.

[EUgeneUS]

Red_Herring
Emergency

ИМХО, ИИ к этим игрищам по размыванию ответственности ничего не добавляет.
Автоматика с кривой программой уронила два самолета. Кто пойдет под суд?
Представители авиакомпаний? С чего бы? Авиакомпании может быть и выплатят компенсации родственникам погибших, а потом будут по регрессу требовать с производителя. С неизвестным результатом.
Представители производителя? Ага, щас. Уволили топ-менеджера, вот и вся ответственность.
Индусы-фрилансеры? До этих разбирательство вообще никогда не дойдет.

Получен результат, никто не виноват.
Замените автоматику на ИИ - всё тоже самое.

UPD: В лучшем случае, в отношении ИИ будет что-то подобное, как с животными. Ежели какой-то бультерьер кого-то покусал до смерти, то бультерьера нужно пристрелить (запретить использовать нейросеть с таким обучением). А дальше - см. выше.

[Emergency]

EUgeneUS в сообщении #1406646 писал(а):

Получен результат, никто не виноват.

Вы путаете виновность с наказанием. Причем, с наказанием по суду.
Тем не менее, виновные безусловно есть, как и наказанные. Есть самолет, который разбился и больше не полетит, есть упавшая репутация, грозящая разорением и т.п. Но я допускаю, что во многих происшествиях находятся те, кто должен был понести наказание, но избежал его по той или иной причине.

[EUgeneUS]

Emergency

Вы путаете наказание и последствия. А также юридических лиц (к которым уголовная ответственность не применяется) и физических.

[Emergency]

EUgeneUS в сообщении #1406653 писал(а):

Вы путаете наказание и последствия. А также юридических лиц (к которым уголовная ответственность не применяется) и физических.

Да, вы совершено правы - терминология зависит от применяемого языка. Тем не менее в просторечии есть выражение: "Жизнь накажет" (в разных вариантах).
Возможно скоро у нас появится уголовная ответственность юридических лиц. К этому все идет и уже есть проект федерального закона.
http://www.legalnexus.ru/articles/41%E2%80%91liability

[Vladimir-80]

EUgeneUS в сообщении #1406646 писал(а):

Автоматика с кривой программой уронила два самолета. Кто пойдет под суд?

Тот, кто поставил подпись под заключением: "Изделие по всем стандартам проверено. Ошибок не выявлено. К эксплуатации годно."

[worm2]

Vladimir-80 в сообщении #1406887 писал(а):

Тот, кто поставил подпись под заключением: "Изделие по всем стандартам проверено. Ошибок не выявлено. К эксплуатации годно."

Но если действительно изделие по всем стандартам проверено и ошибок не выявлено (просто стандартные тесты не способны охватить все случаи), то в чём вина этого человека?
Вина возникает, если был нарушен пункт официальной инструкции. Например: водитель сбил пешехода. Есть в его крови алкоголь? Был ли нарушен скоростной режим? Разговаривал ли он по телефону за рулём? Было ли пропущено обязательное техобслуживание? И т.д. Если хотя бы на один вопрос ответ "да" — нарушен пункт ПДД, под суд. Если нет (человек, например, просто чихнул за рулём и на мгновение потерял контроль) — суда нет. Нет такого правила: "Не чихать за рулём".

[Red_Herring]

worm2 в сообщении #1406920 писал(а):

Если нет (человек, например, просто чихнул за рулём и на мгновение потерял контроль) — суда нет. Нет такого правила: "Не чихать за рулём".

Вы говорите об уголовном суде, а вот материальную ответственность он (а точнее, его страховая компания) нести будет. А ему это обойдется резким увеличением страховки. Я вот не уверен, надеюсь, kry разъяснит: допустим, водитель простужен и чихает каждую минуту и в момент чиха сбивает человека. Водитель должен был предвидеть, что он не в состоянии вести безопасно. Наступает ли уголовная ответственность?

[EUgeneUS]

Red_Herring
Это каждый водитель обязан знать и без юристов.
Ищ ПДД

Цитата:

2.7. Водителю запрещается:
управлять транспортным средством в состоянии опьянения (алкогольного, наркотического или иного), под воздействием лекарственных препаратов, ухудшающих реакцию и внимание, в болезненном или утомленном состоянии, ставящем под угрозу безопасность движения;
...

Уголовная ответственность такая же, как за нарушение любого другого пункта ПДД, приведшее к смерти человека.

[kry]

Emergency в сообщении #1406659 писал(а):

Возможно скоро у нас появится уголовная ответственность юридических лиц. К этому все идет и уже есть проект федерального закона.
http://www.legalnexus.ru/articles/41%E2%80%91liability

Разговоры о введении уголовной ответственности для юридических лиц идут давно, но опыт ряда других стран говорит о том, что толку от этой практики немного - применять эти нормы удается только по отношению к преступлениям, связанным с собственностью или иным экономическим оборотом.

worm2 в сообщении #1406920 писал(а):

Вина возникает, если был нарушен пункт официальной инструкции.

Вы правы лишь частично.

Для наступления административной ответственности обязательно должна быть нарушена соответствующая инструкция административного характера. К примеру, водитель должен нарушить конкретный пункт ПДД. Тут Ваше утверждение работает.

Для наступления гражданской материальной ответственности нужно, чтобы имелся факт причинения вреда, субъект, который причинил вред (причинитель вреда) и причинно-следственная связь между причинением вреда и действием/бездействием (обычно используют обобщенный термин "деяние") причинителя вреда и причиненным ущербом. Именно так работает типичная страховая система со страхованием ответственности: не важно нарушили Вы пункт ПДД или нет, но если Вы причинили ущерб и Ваша ответственность застрахована, то страховая компания обязана произвести выплату.

Для наступления уголовной ответственности нужно, чтобы конкретное деяние было квалифицировано как реализация того или иного состава преступления, предусмотренного уголовным законодательством. Если состав преступления предусматривает, что водитель должен нарушить конкретный пункт ПДД для того, чтобы считаться преступником, то так оно и будет. Если нет, то нарушение конкретного пункта ПДД или отсутствие такого нарушения ни на что не влияет.

Red_Herring в сообщении #1406925 писал(а):

а вот материальную ответственность он (а точнее, его страховая компания) нести будет

Возможно, что и он тоже - система страхования обычно подразумевает наличие определенных лимитов страховой выплаты, так что если материальный ущерб превышает по размеру лимит страховой выплаты, то весь оставшийся ущерб должен по идее выплачивать причинитель ущерба.

Red_Herring в сообщении #1406925 писал(а):

допустим, водитель простужен и чихает каждую минуту и в момент чиха сбивает человека. Водитель должен был предвидеть, что он не в состоянии вести безопасно. Наступает ли уголовная ответственность?

Исторически по отношению к понятию "вина" существовали две системы и два соответствующих правовых принципа: система объективного вменения и система субъективного вменения.

Система объективного вменения предполагает, что вина потерпевшего не важна, а достаточно только наличия внешних объективных проявлений уголовного правонарушения (объективной стороны преступлений), объекта (те правоотношения, которые были нарушены), субъекта (лицо, которое совершило уголовное правонарушение), а в более поздней версии системы объективного вменения и причинно-следственной связи между деянием субъекта и правонарушением. Сейчас эта система фактически не применяется, только в странах common law, прежде всего в Британии и США, можно найти какие-то по сути неработающие реликты такой системы.

Система субъективного вменения предполагает, что правонарушение может считаться преступлением и соответственно деяние может считаться преступным только при условии, что субъект преступления по отношению к совершаемому деянию относился с определенной формой вины. Именно эта система и используется для уголовного права в наше время.

Исходя из выше сказанного, при квалификации того или иного деяния как преступления нам нужно установить:

а) в реализации какого конкретного состава преступления подозревается человек;
б) какая форма вины предусмотрена данным составом преступления;
в) как именно психически относилось лицо, совершившее деяние к совершенному деянию, т.е. нам надо определить форму вины.

К примеру, возьмем российское уголовное законодательство и ряд возможных составов преступления:

а) убийство - убийством на обывательском уровне может считаться любое причинение смерти человеку, но по уголовному законодательству РФ (и большинства других стран) это только умышленное причинение смерти человеку. Таким образом ситуация с причинением смерти при чихании водителя явно не может быть квалифицирована как убийство;
б) причинение смерти по неосторожности - а вот здесь нужна наоборот такая форма вины как неосторожность, а не умысел как при убийстве, поэтому данный состав преступления очень даже подходит;
в) умышленное причинение тяжкого вреда здоровью, средней тяжести вреда здоровью или легкого вреда здоровью - формой вины должен быть умысел, очевидно из названия;
г) причинение тяжкого вреда здоровью неосторожно - здесь наоборот форма вины неосторожность, посему данный состав преступления также может подходить;
д) причинение средней тяжести вреда здоровью или легкого вреда здоровью неосторожно - такие составы преступления не предусмотрены уголовным законодательством России. Соответственно если водитель собьет кого-то чихая, но пострадавшему будет причинен легкий вред здоровью или средней тяжести вред здоровью, то уголовную ответственность водитель нести не будет. Это не отменяет того, что он будет нести гражданскую ответственность.

Ну как-то так.

[Red_Herring]

kry в сообщении #1406935 писал(а):

причинение смерти по неосторожности - а вот здесь нужна наоборот такая форма вины как неосторожность, а не умысел как при убийстве, поэтому данный состав преступления очень даже подходит;

Спасибо, я именно неосторожность и имел в виду. Чих чихом, но есть ряд медикаментов, побочным действием которых является сонливость, о чем ясно говорится на упаковке. "Don't drive or operate heavy machinery for 24 hours"

[Emergency]

Red_Herring в сообщении #1406937 писал(а):

я именно неосторожность и имел в виду.

В России дорожные полицейские выражаются проще - "Поймал разявку". Тут не важно что вас отвлекло от управления "средством повышенной опасности" - все равно вы виновны в последствиях.

[kry]

Red_Herring в сообщении #1406937 писал(а):

Спасибо, я именно неосторожность и имел в виду

Тогда по российскому уголовному законодательству уголовная ответственность для такого горе-водителя будет при условии, что потерпевший либо умрет, либо ему будет причинен тяжкий вред здоровью. В случае других стран надо смотреть их законодательство - теория уголовного права везде общая, но конкретные разновидности составов преступлений могут отличаться от страны к стране до унификации законодательства всех стран, к чему дело идет, но медленно.

Red_Herring в сообщении #1406937 писал(а):

Чих чихом, но есть ряд медикаментов, побочным действием которых является сонливость, о чем ясно говорится на упаковке. "Don't drive or operate heavy machinery for 24 hours"

Ну здесь, как и в случае с чихом, формой вины будет неосторожность, а конкретно такая разновидность неосторожности как легкомыслие. Вот что, например, про легкомыслие говорит УК РФ, воспроизводя положения общей теории уголовного права:

УК РФ Статья 26. Преступление, совершенное по неосторожности писал(а):

2. Преступление признается совершенным по легкомыслию, если лицо предвидело возможность наступления общественно опасных последствий своих действий (бездействия), но без достаточных к тому оснований самонадеянно рассчитывало на предотвращение этих последствий.

Юридически (догматически) очевидно, что лицо принимая тот или иной лекарственный препарат должно было внимательно прочитать инструкцию и понять, что может впасть в состояние сонливости, а это создаст опасность участникам автомобильного движения и другим лицам ("лицо предвидело возможность наступления общественно опасных последствий своих действий (бездействия)"), но считало, что оно в такое состояние сонливости не впадет ("без достаточных к тому оснований самонадеянно рассчитывало на предотвращение этих последствий").

Emergency в сообщении #1406941 писал(а):

Тут не важно что вас отвлекло от управления "средством повышенной опасности" - все равно вы виновны в последствиях.

Да, это так называемый принцип правового консеквенциализма (в противовес правовой деонтологии, которую так любят административщики). Не путаем с аналогичным течением нормативной этики и такой разновидностью течения метаэтики как этический ненатурализм, чтобы не запутаться с метаэтикой:

(Всякая метаэтика и прочая болтовня)

kry в сообщении #1031382 писал(а):

*Метаэтика - это абстрактная наука, которая изучает системы морали, духовности и этики, нравственные ценности и нравственные суждения.

Существует три основных раздела метаэтики:
а) моральная онтология (какова сущностная природа морали, каков источник морали и могут ли существовать моральные стандарты?);
б) моральная семантика (каков смысл моральных норм и систем, могут ли они быть истинными?);
в) моральная гносеология/эпистемология (можем ли мы познать моральные норма?).

В моральной онтологии выделяется:

1. Моральный стандартизм - концепция, что существуют некоторые стандарты морали. Моральный стандартизм делится на:

а) Моральный универсализм - концепция, что существует одна или несколько моральных систем, которые могут считаться универсальными в пространстве и времени. Делится на:

- моральный абсолютизм (моральный монизм), т.е. что существует одна универсальная моральная система;
- моральный плюрализм, т.е. что существует несколько универсальных моральных систем;

б) Моральный релятивизм - концепция, что не существует универсальных в пространстве и времени моральных систем.

2. Моральный нигилизм - концепция, что не существует каких-то стандартов морали и нравственности или даже что не существует морали (нерадикальный и радикальный нигилизм).

Мейнстрим моральной онтологии - моральный релятивизм.

В моральной семантике выделяются:

1. Когнитивистские теории (моральные нормы несут рациональный смысл, но могут либо отражать реальные факты действительности или не отражать). Делятся на:

а) моральный реализм - концепция, что моральные нормы отражают факты действительности и могут быть истинными или ложными. Выделяют:

- этический натурализм (моральные нормы можно вывести из биологической, социальной и психологической природы моральных субъектов);
- этический ненатурализм (моральные нормы нельзя вывести из биологической, социальной и психологической природы моральных субъектов);

б) этический субъективизм - концепция, что моральные нормы отражают только оценки ценностей на основе фактов реальности ("факт-ценности") в рамках либо субъективной реальности морального субъекта, либо на уровне группы. Выделяют:

- теория идеального наблюдателя (факт-ценности на уровне отдельного морального субъекта, исходя из биологических и психологических препосылок, а также опыта субъекта);
- теория общественного повеления/теория интерсубъективности морали (факт-ценности - это установки некоторой социальной или культурной общности);

в) теория ошибок - концепция, что моральные нормы пытаются отражать истинные или ложные утверждения о реальности за счет когнитивных ошибок в устройстве и функционировании разума и интелелкта.

2. Некогнитивистские теории (моральные нормы не несут рационального смысла, отражающего реальные или ложные факты действительности). Делятся на:

а) эмотивизм - концецпия, что моральные нормы отражают лишь человеческие эмоции и переживания;
б) квазиреализм (психологический проективизм) - концепция, что моральный субъект переносит (проецирует) свои субъективные представления на релаьность;
в) универсальный прескриптивизм - концепция, что нормы морали вводятся социальной группой как прескриптивное (нормативное) указание для поведения человека.

Мейнстрим моральной семантики - теория идеального наблюдателя, теория интерсубъективности, теория ошибок, квазиреализм.

В моральной гносеологии/эпистемологии выделяются:

1. Моральный гностицизм - концепция, что моральные нормы могут быть познаны. Делится на:

а) моральный логицизм - концепция, что моральные нормы могут быть познаны рационально логически путем. Выделяют:

- моральный эмпиризм, т.е. моральные нормы познаются логически только в рамках их практической реализации;
- моральный рационализм (моральный абстракционизм, моральный теоретизм), т.е. моральные нормы познаются как теоретические абстракции;

б) моральный интуиционизм - концепция, что моральные нормы могут быть познаны рационально через интуицию.

в) моральный нонрационализм - концепция, что моральные нормы могут быть познаны только как иррациональные конструкции.

2. Моральный нонгностицизм - концепция, что моральные нормы не могут быть познаны или их познание крайне маловероятно. Делится на:

а) моральный скептицизм - концепция, что познание моральных норм либо маловероятно, либо затруднено, либо сомнительно.

б) моральный агностицизм - концепция, что моральные нормы непознаваемы.

Мейнстрим моральной гносеологии/эпистемологии - моральный рационализм и моральный эмпиризм.

Разумеется, это крайне идеальная схема.

Другое дело, что уголовное законодательство должно напрямую предусматривать такие последствия. Вот в случае с легким вредом здоровью или средней тяжести вредом здоровью по неосторожности это не работает в РФ.