требуется сначала научить машину чувствовать боль и удовольствие. Насколько я знаю, пока этим никто не занимается, а если занимается, то безуспешно.
Ну, я этим занимаюсь, и не совсем безуспешно.
Почему Вы считаете, что у зенитной ракеты, которая
а) Получила указание цели
б) Выполнила самодиагностику
нет целеполагания и самосознания?
Потому что целевая функция ракеты (даже если б она там была -- а её там нет) связана с эффективным поражением цели, а не с выживанием и размножением популяции ракет.
Ну вообще таки достаточно несколько месяцев или лет машинного обучения
У меня получались оценки на неск. порядков скромнее. Но я разумеется готов пересмотреть свои оценки, если вы приведете свои.
Если отвлечься от квалиативной сути этих понятий, то достаточно сложную нейронную сеть можно натренировать так, чтобы она своим поведением внешне заставляла нас думать, что у нее есть самосознание и целеполагание, такой философский зомби
![Smile :-)](./images/smilies/icon_smile.gif)
Как именно должна быть устроена целевая функция н.с., для того чтобы в конце концов мы подумали, что она подумала, что мы думаем, что она думает, что мы поверили, что у нее есть самосознание? )
(Оффтоп)
Кста, меня одного нереально бесит слово квалиа? Вот просто кущать не могу )
-- 03.10.2019, 08:00 --Вот я уже несколько месяцев бодаюсь с игровой программой го на телефоне.
Она меня чешет в одну калитку без всяких угрызений совести.
Выкрутите на максимум сложности теннисную пушку и попробуйте поотбивать ее удары -- она тоже будет чесать вас в одну калитку. Разница со взбесившимся ИИ та, что вы можете выключить пушку и стереть вашу прогу с телефона (а то и разбить телефон), и ни телефон, ни прога, ни пушка не будут сопротивляться.
-- 03.10.2019, 08:08 --Достаточно развитому AI задать программу не на моральное, а на физическое уничтижение, и я не вижу никаких препятствий, почему он не справится с этой задачей.
Если это просто самонаводящаяся ракета из примера EUgeneUS, то никаких препятствий. Если решение задачи предполагает борьбу с ЛЮБЫМИ методами подавления нежелательной активности AI -- вытаскивание батарейки, дистанционное и проводное перепрограммирование, разлучение ракеты с ее бойфрендом -- стартовым комплексом, шоб не взлетела, уничтожение стаи взбесившихся ракет бомбардировкой военных складов -- тут уже сильно сложнее.
-- 03.10.2019, 08:12 --Для того, чтобы AI устроил человечеству большую пакость вовсе не нужно, чтобы у него была такая цель.
Попробую понять в чем там вообще дело, как только найду подробное описание взглядов Маска на проблему на оригинальном языке. А у вас нигде не завалялась подходящая ссылка?
-- 03.10.2019, 08:18 --Можно сказать что унитаз чувствует боль, когда напор воды давит на клапан, заставляя чего-то там открываться
Сорян, вот этого не заметил. Нет, в унитазе это скрипт, машинная боль это близко не то.