Вокруг искусственного интеллекта

[Ktina]

Приведу две цитаты из подфорума об искусственном интеллекте и машинном обучении:

Ktina в сообщении #1256745 писал(а):

Добрый вечер!
Полагаю, тема о компьютере, победившем чемпиона по игре го, имеет полное право находиться в нашем разделе:
topic105441.html

arseniiv в сообщении #1256751 писал(а):

Это же тема вокруг, а не о. Там разве конкретные вопросы обучения рассматривались?

Ладно, давайте обсуждать также темы, которые вокруг, а не только о.

К примеру, обязан ли искусственный интеллект быть похожим на человеческий? Кто-то из философов заметил, что требовать от искусственного интеллекта, чтобы он испытывал эмоции, равносильно тому, чтобы требовать от самолёта, чтобы тот был покрыт пухом (или махал крыльями, сейчас уже точно не помню), как птица. Самолёты хоть и не летают так, как птицы, но делают это уж точно неплохо!
Мол, эмоции - это вообще пережиток прошлого и в будущем они станут рудиментом, как (пардон) пенис петуха (не путать с пением!).

Предлагаю обсудить этот вопрос, а в дальнейшем и другие, возможно, более интересные вопросы вокруг AI.

[fred1996]

Когда я читаю свои старые сообщения, мне часто кажется, что это не я, а какой-то ИИ.
И вообще человеческий интелект - это что-то, что происходит в реальном времени.
А все что ушло в прошлое, это уже достояние истории, нечто обезличенное.
То же самое написанное кем-то когда-то. Облеченное в словесную, или какую другую информационную оболочку. Это уже не футбольный матч в прямом эфире. Это запись - проекция реальности на информационный накопитель. То что вполне может быть проанализировано с помощью ИИ. Но обратной проекции не имеет.

[mustitz]

Ну... тут больше вопрос в том, что такое AI? Одно из определений относить к AI такие задачи, которые легко решаються человеком и тяжело вычислительными системами. Отсюда ответ — при решении этих задач вычислительная система вовсе не обязана моделировать поведение человека. Шахматные программі и AlphaGo ирают совсем не так, как человек. Потому как человек в принципе не в состоянии рассмотеть миллионы вариантов в секунду. Но результат говорит сам за себя. В разках этого определения большинство алгоритмов, которые решают такие задачи, имеют мало общего с решением таких задач человеком.

[Xey]

fred1996 в сообщении #1260389 писал(а):

Когда я читаю свои старые сообщения, мне часто кажется, что это не я,

Утром видел что-то подобное

Цитата:

... Д. Юм ... пришёл к выводу, что индивидуальное «Я» есть не что иное, как «пучок восприятий».

Мы как веник - пучок прутиков перевязанных веревочкой. Прутики могут меняться, но веник остается прежним.
Наши взгляды и предпочтения со временем могут меняться на противоположные, но для себя мы остаемся прежними.

[Mental]

Саудовская Аравия предоставила гражданство роботу

Во время конференции в Саудовской Аравии, посвященной высоким технологиям, местные власти присвоили гражданство роботу Софии.
Саудовское правительство объявило амбициозный план строительства огромного центра для компаний, работающих в сфере высоких технологий. На проект центра Неом выделены 500 миллиардов долларов.
Голографическое изображение робота Софии, получившей гражданство, поблагодарила власти королевства за эту честь, отметив, что она стала первым в мире роботом с паспортом. Гражданство Саудовской Аравии означает, что робота нельзя выключить или разобрать.

[Ktina]

Ещё по ходу вопрос: как бы робот решил так называемую дилемму вагонетки? Робот ведь не должен причинять вред человеку ни действием, ни бездействием.

[mserg]

Мозг строит модель (приближенное описание) реального мира. Т.е. «природный» интеллект – это часть сложного механизма поддержки устойчивости биологических форм.

Лет 5 назад эта тема уже поднималась. В частности кто-то заметил, что суть пресловутое "самосознание" - это построение модели реального мира, в которую человек включает себя самого.

Многие «любители» ИИ склоняются к тому, что основное качество ИИ – это (само-)способность к построению эффективных моделей. Сразу же возникает вопрос о сравнении эффективности моделей (т.е. о критерии); должен ли человек задавать критерии и как это сделать, если должен; какова минимальная (математическая) база ИИ, как (математически) описываются задачи ИИ, и т.д. и т.п.

[arseniiv]

Ktina в сообщении #1260465 писал(а):

Ещё по ходу вопрос: как бы робот решил так называемую дилемму вагонетки? Робот ведь не должен причинять вред человеку ни действием, ни бездействием.

Ну, раз вы берёте законы из Азимова, заодно почитайте и остальное — там рассматривается множество интересных случаев.

[realeugene]

Ktina в сообщении #1260384 писал(а):

К примеру, обязан ли искусственный интеллект быть похожим на человеческий?

Нет, искусственный интеллект не обязан испытывать эмоции и не обязан руководствоваться человеческой моралью. Эмоции и мораль - это лишь способ социализации человеческого интеллекта. По всей видимости, выработанные в ходе естественного отбора Homo Sapience. То есть, древние человеческие общины с недостаточным уровнем социализации членов, просто, не выжили. Кроме того, для успешной социализации, по всей видимости, необходима примерная одинаковость уровня интеллекта у членов социума. Так что, искусственный интеллект - это иной, небиологический вид интеллекта.

Искусственный интеллект может симулировать человеческие эмоции и, тем самым, обманывать людей, так как никаких древних, созданных естественным отбором ограничительных механизмов, обеспечивающих социализацию, у него нет.

[fred1996]

А кто вообще запрещает моделировать ИИ с учетом морали и эмоций? Такая же функция как и все остальные. Можно запрограммировать ИИ на различную реакцию на события. В том числе и случайным образом.

[realeugene]

fred1996 в сообщении #1261055 писал(а):

А кто вообще запрещает моделировать ИИ с учетом морали и эмоций?

А зачем это ИИ?

[fred1996]

realeugene в сообщении #1261057 писал(а):

fred1996 в сообщении #1261055 писал(а):

А кто вообще запрещает моделировать ИИ с учетом морали и эмоций?

А зачем это ИИ?

Это нужно прежде всего человеку, который общается с ИИ. Нам кажется, что мы такие непредсказуемые, но наши реакции на все события достаточно просчитываемы. Уже сейчас ИИ может достаточно долго поддерживать диалог с человеком, который не подозревает, что с ним общается машина. В конце концов выяснится, что ИИ достаточно просто запрограммировать на более человеческую реакцию, чем у самого человека. И ни один эксперт не определит разницы. Вы будете жить в мире роботов, дажеине не подозревая об этом. Просто каждый сможет запрограммировать для себя соответствующую среду интеллекта, в которой он будет ощущать себя наиболее комфортно.
Кстати, пример вот этого самого научного форума очень показателен. Более половины подфорумов на нем являются площадками общения с экспертами, которые в каком-то смысле исполняют роль роботов. А модераторам как-раз больше всего это и нравится. И роль модераторов тоже могли бы исполнять роботы - просто следить, чтобы не было офтопика.

[Ktina]

realeugene в сообщении #1261047 писал(а):

Кроме того, для успешной социализации, по всей видимости, необходима примерная одинаковость уровня интеллекта у членов социума.

(Оффтоп)

Следует ли из этого, что умным трудно социализироваться, а очень умным - почти невозможно?

[Dmitriy40]

Без образования локальных групп и подгрупп - да, следует. Откуда все эти истории о чудаках-учёных ...

[fred1996]

Ktina
А вы не включайте свой ум где ни попадя. Не превращайтесь в робота своего ума. Умейте перенастраивать свой ум на разные частоты интеллектуальных подуровней.