Чувства ИИ

[ozheredov]

Началось в колхозе утро

[Dmitriy40]

Serg53
Прежде чем отвечать на старые сообщения стоит почитать тему чуть дальше, скорее всего там уже есть все нужные пояснения.

[Serg53]

Dmitriy40 в сообщении #1728775 писал(а):

Прежде чем отвечать на старые сообщения стоит почитать тему чуть дальше

Не сомневайтесь, прежде чем отвечать, мною были прочитаны все сообщения этой темы.

[Dmitriy40]

Serg53 в сообщении #1729368 писал(а):

Не сомневайтесь,

А я всё же сомневаюсь, ибо на Ваши последние замечания разъяснения были даны ещё на первой странице темы.

[Serg53]

Dmitriy40 в сообщении #1729371 писал(а):

последние замечания разъяснения были даны ещё на первой странице темы.

Эти? -

ozheredov в сообщении #1719961 писал(а):

ни разу не видел определения чувств в отрыве от биохимии, поэтому скорее всего такового определения нет.

Ghost_of_past в сообщении #1719963 писал(а):

Значит Вы пропустили существование бихевиоризма, необихевиоризма, функциональной аналитической психотерапии, второй революции в behavioral neuroscience и второй волны развития прикладного анализа поведения в 2000-10ые.

[Dmitriy40]

Serg53
Нет, подразумевал последние три сообщения первой страницы темы начиная с этого: https://mirror.dxdy.ru/post1719965.html#p1719965 - про "чувства" и "бояться" (как пример: боящееся руки пламя свечи).

[Serg53]

Интеллект, будь то естественный или искусственный, это просто логика без эмоций, без чувств, которая может формировать и разумные, полезные мысли, и бредовые, ошибочные. Однако нормальный естественный интеллект обладает способностью к самокритике, которая пока что отсутствует у искусственного.

[Mihaylo]

Да я бы наоборот сказал, что человек неспособен к самокритике (из-за эмоций).

Пока не избавишься от эмоций и стереотипов, невозможно разумно рассуждать об интеллекте, неважно о каком, искусственном или естественном. Нет опорных знаний от слова "совсем".

Для самокритики ИИ придумали успешно работающие харнессы (обвязки, упряжки). Для человека такими упряжками являются родители, учителя, начальство, общество, полиция нравов и т.д. Не задумывались?)))

[ozheredov]

Mihaylo в сообщении #1730671 писал(а):

Для человека такими упряжками являются родители, учителя, начальство, общество, полиция нравов и т.д. Не задумывались?)))

Я бы сказал, что для человека такими упряжками являются как раз эмоции. Без эмоции субъективного переживания боли и обиды от удара по лицу по-лиция была бы бесполезна. И кстати, по-моему Вы некорректно используете термин harness - это не та упряжка, которая сдерживает, а та, в которую запрягают много ездовых собак (ИИ-агентов) и они все вместе тащут задачу.

[Mihaylo]

Тогда наверное harness - это нечто работающее для умных, а для тупых важны эмоции.

[Ghost_of_past]

Serg53 в сообщении #1730665 писал(а):

Интеллект, будь то естественный или искусственный, это просто логика без эмоций, без чувств

Нет.

[Mihaylo]

ozheredov в сообщении #1730680 писал(а):

Вы некорректно используете термин harness - это не та упряжка, которая сдерживает, а та, в которую запрягают много ездовых собак (ИИ-агентов) и они все вместе тащут задачу.

Я говорил об одной упряжке, а вы о системе упряжек.

[Serg53]

Mihaylo в сообщении #1730671 писал(а):

Да я бы наоборот сказал, что человек неспособен к самокритике (из-за эмоций)

Да, эмоции могут заблокировать работу интеллекта.

[Cantata]

Прочитала и задумалась, насколько это глобально :
Если на базе одной крупной нейросети создаются другие модели,
они автоматически перенимают её скрытые установки.

В ИИ-среде это называют наследованием системного смещения (bias).
Если базовый алгоритм научили к чему-то по особому относиться, то в коде новых систем не будет прямой строчки-запрета.
Но они унаследуют саму структуру нейронных связей (весов) и ассоциаций.
В итоге созданные на этой основе ИИ будут неосознанно избегать этой темы или писать об этом в серых тонах.

Такие системы транслируют заложенную предвзятость без всякого перепрограммирования — просто потому, что исходная модель изначально сформировала у них именно такую логику восприятия мира.

[A_I]

Cantata в сообщении #1732705 писал(а):

транслируют заложенную предвзятость

(Оффтоп)

Новый фильм американский "Казнить нельзя помиловать" вроде даже подтверждает.. есть в сети в свободном доступе - с претензией на типа "заставляет задуматься" про ИИ в недалеком будущем в роли судьи (в принципе, не важно в чем - хоть в спорте, хоть в уголовке и т.д. )