Может ли машина мыслить?

[Mihaylo]

Serg53
Нам не нужна такая штука, которая будет сама себе на уме что-то выбирать. Ваше утверждение об отсутствии абсолютной оптимальности ложно.

Вот если бы нас, для кого интеллект создаётся, не существовало, то я бы согласился с вами. Но в этом случае все очень плохо, критериев оптимальности бесконечное количество и все они нейтральные, нельзя выделить что-то.

Законы робототехники Азимова - это есть самые простые ограничения, в соответствии с которыми можно составить критерии оптимальности.

Робот должен минимизировать функционал из трёх составляющих - риск для жизни и здоровью человека + невыполнение приказов и пожеланий человека + безопасность собственного существования. См. законы Азимова.

Вы не согласны с этими законами/критериями?

-- 28.09.2024, 12:13 --

Что касается ChatGPT и его аналогов, то 3-й закон отпадает сам по себе, остаются первые два. Методами RLHF генеративным сеткам навязывают эти законы.
https://habr.com/ru/articles/730990/

Упс, теперь вы стали больше разбираться в вопросах силы воли?)))

[Ghost_of_past]

Serg53 в сообщении #1656415 писал(а):

Многие считают, что мышление это процесс работы разума.

Мышление и разум тесно связаны, но это не тождественные понятия.

[Mihaylo]

В жизни человека тоже часто нет места силе воли, потому что есть родители, учители, коллеги, полиция, в конце концов, они поставят вас на место.

Кто умнее? Тот, кто нарушает культурные обычаи или кто их соблюдает? Да ни те и ни другие. Просто с последними легче ладить всем.

[Ghost_of_past]

Mihaylo в сообщении #1656422 писал(а):

Просто с последними легче ладить всем.

К сожалению, это так не работает: не существует универсальных культурных обычаев. То, что в одной субкультуре, социальной группе или классе нормативный культурный обычай, то в другой/другом не играет никакой роли.

Это правило хорошо работало в архаичном традиционном обществе, но совершенно не работает в настоящее время.

[Mihaylo]

Ghost_of_past
А это неважно, что ВСЕ никак не могут поладить со ВСЕМИ. Пусть человек принадлежит хотя бы одной группировке, и тогда у него рано или поздно силу воли отберут.

[Ghost_of_past]

Mihaylo в сообщении #1656431 писал(а):

Пусть человек принадлежит хотя бы одной группировке

Проблема как раз в том, что в современном обществе это совершенно невозможно - мы каждый день контактируем с представителями разных субкультур, разных социальных групп, страт и классов.

Mihaylo в сообщении #1656431 писал(а):

и тогда у него рано или поздно силу воли отберут.

Нельзя отобрать то, что и так не существует: воля есть приятная иллюзия, возникшая в процессе биологической эволюции.

[Mihaylo]

Ghost_of_past в сообщении #1656432 писал(а):

воля есть приятная иллюзия, возникшая в процессе биологической эволюции

Интересно выразились.
Ещё добавлю: человек ощущает иллюзию воли каждый день в духе "захотел надел левый носок на левую ногу, захотел, наоборот, левый носок - на правую ногу".
Иногда он думает "захочу, уволюсь нафиг". Мысль есть, а воли нет.
В этом и состоит иллюзия.

1. Есть миллион малозначительных решений, когда лень собрать дополнительную информацию, изучить особенности, в них соответственно выбор равнозначен - этот миллион создаёт иллюзию свободы.
2. Есть тысяча важных решений, в которых приходится разбираться, лишь бы не получить по шапке, в них выбор более однозначен. В этих решениях нет свободы.
3. Если правильно взвесить первый и второй тип решений, то у первых вес мизерный. Но иллюзия мешает...

-- 28.09.2024, 13:35 --

Я приведу пример малозначительных решений. Допустим вы идёте на работу и на пути у вас дом. С какой стороны его обойти? Слева или справа? На первый взгляд без разницы. А если привлечь аспекты такие как преодолеваемые расстояния, безопасность, то можно-таки выбрать лучший вариант. Но кто же будет мерять расстояния и собирать статистику по асоциальным элементам, шатающимся в этом районе?
Но если вам лень, то искусственный интеллект Гугла не поленится и его роботакси Waymo выберет более безопасный и короткий путь.

[Ghost_of_past]

Mihaylo в сообщении #1656435 писал(а):

В этом и состоит иллюзия.

Я немного о другом. Концепция воли в философии и психологии исторически исходила из того, что человек может сознательно делать выбор без всякой на то причины. Но сейчас мы четко и ясно понимаем, насколько наше поведение детерминировано биохимическими, экономическими, социально-психологическими и культурными факторами, поэтому такая воля и свобода воли есть лишь приятная иллюзия. В результате само понятие воли существенно изменилось до того, что это теперь просто контроль над поведением - и тогда можно говорить о существовании воли, свободы воли и силы воли.

[Mihaylo]

Ghost_of_past
Я чуть подробнее расписал то же самое, указал первопричины стереотипа.

-- 28.09.2024, 14:04 --

Ну и конечно же, я как всегда не доверяю философам, ведь они в этом нисколько не практики. Они только толкают свои размышлизмы в духе Serg53.

[Serg53]

Mihaylo в сообщении #1656445 писал(а):

всегда не доверяю философам

Без перехода на личности, читатели сами разберутся, у кого здесь полстраницы философии.
-
-

Ghost_of_past в сообщении #1656421 писал(а):

Serg53 в сообщении #1656415 писал(а):

Многие считают, что мышление это процесс работы разума.

Мышление и разум тесно связаны, но это не тождественные понятия.

Разум это понятие, увы, довольно расплывчатое, а мышление это процесс. Примитивная аналогия - есть велосипед, и есть езда на велосипеде. Так вот, езда на велосипеде это больше процесс, чем понятие.
-
-

Mihaylo в сообщении #1656418 писал(а):

Нам не нужна такая штука, которая будет сама себе на уме что-то выбирать.

Правильно. Буду рад, если алгоритмы имитирования нейросети позволят решать определённые классы задач, решить которые другими способами трудно или невозможно. Только не нужно красивых слов об искусственных интеллектах.
-
-

Mihaylo в сообщении #1656418 писал(а):

утверждение об отсутствии абсолютной оптимальности ложно.

Нонсенс

[realeugene]

Ghost_of_past в сообщении #1656356 писал(а):

Это определение крайне узкое и совершенно не совпадает с используемыми в психологии и когнитивистике.

Э... Вы попросили собеседника определить используемый им термин, а теперь рассказываете, что его определение каким-то неизвестным образом не соответствует определению других людей.

-- 29.09.2024, 11:12 --

Mihaylo в сообщении #1656386 писал(а):

Нужно тут не свободу воли применять, а нужно потрудиться, проанализировать лучше, пособирать дополнительную информацию.

Идея крайне утопичная. То, что нужно принимать все решения в условиях неполной информации и случайности - важное свойство окружающего мира.

Да и рандомизированные алгоритмы могут быть эффективнее детерминированных по самым разным причинам.

-- 29.09.2024, 11:52 --

Serg53 в сообщении #1656350 писал(а):

Осталось только понять, что такое воображение, и возможно ли оно у вычислительной машины?

Контекст в ChatGPT.

[Ghost_of_past]

Serg53 в сообщении #1656630 писал(а):

а мышление это процесс.

Разум же скорее характеристика, которую можно обозначить как-то количественно или качественно.

realeugene в сообщении #1656634 писал(а):

а теперь рассказываете, что его определение каким-то неизвестным образом не соответствует определению других людей.

Именно так: я исхожу из старомодного представления, что слова желательно использовать в их общеупотребительных значениях.

[realeugene]

Ghost_of_past в сообщении #1656640 писал(а):

Именно так: я исхожу из старомодного представления, что слова желательно использовать в их общеупотребительных значениях.

Но вы не сообщили окружающим это самое "общеупотребимое значение", по крайней мере, как вы его понимаете. Да и зачем тогда спрашивали определение человека, если вам оно не интересно и вы не готовы его употреблять в беседе с человеком?

Любое определение будет обязательно неточным.

Кроме того, в последние месяцы наблюдаемый прогресс в этой теме настолько быстрый, что измышления даже годовой давности уже могут оказаться наивными.

[Ghost_of_past]

realeugene в сообщении #1656642 писал(а):

Но вы не сообщили окружающим это самое "общеупотребимое значение"

В принципе это не проблема, но не хочется тему превращать полностью в терминологическую.

realeugene в сообщении #1656642 писал(а):

Да и зачем тогда спрашивали определение человека, если вам оно не интересно и вы не готовы его употреблять в беседе с человеком?

Чтобы понять, что оппонент подразумевает в данном случае. И выяснилось, что он говорит про воображение и представление, а не про мышление и разум.

realeugene в сообщении #1656642 писал(а):

Любое определение будет обязательно неточным.

Конечно.

[realeugene]

Ghost_of_past в сообщении #1656651 писал(а):

И выяснилось, что он говорит про воображение и представление, а не про мышление и разум.

По его определению это одно и то же. Если не залазить в какие-то нюансы, определение нормальное. Моделирование возможного развития событий в воображении как механизм предсказания этого развития событий. Именно то, что сейчас прикручивают в ChatGPT к трансформеру в виде аргументации.

Разум позволяет строить цепочки логических выводов. Процесс построения этих цепочек в уме (в воображении) и есть мышление. Бессознательные эмоциональные процессы к мышлению не относят.