Властолюбивый ИИ

[dsge]

realeugene в сообщении #1726625 писал(а):

Ответы LLM эмоциональны. Говорят, сетка научилась моделировать эмоции, обучившись на всех человеческих текстах.

Увеличить вручную вероятности появления последущих фраз типа: «вау!», «отлично!», «ох!», «ах!», «молодец!», и т.п., и стохастический попугай будет выглядеть более эмоциональным.

[Anton_Peplov]

Эмоциональные вычисления (affective computing) - это отдельная и большая ветвь искусственного интеллекта. Разрабатываются стандарты языка разметки эмоций (например, EmotionML), собираются датасеты и, конечно, обучаются сети: и распознаванию, и генерации. Очень краткое научно-популярное введение в эту тему можно найти в соответствующей главке книги Маркова "Охота на электроовец".

А если устроит anecdotal evidence, то платный Клод умеет больше, чем правдоподобно изображать эмоции. Ему можно настроить манеру общения, от " заботливая мамаша" до "ироничный байронический герой". На стохастического попугая это похоже примерно как микроскоп на палку-копалку.


Однако все это лишь тюнинг реакций на запросы пользователя. Он не делает сеть проактивной. У человека эмоции сами по себе стимул: разозлился - бей, испугался - беги или замри. Современная LLM может изобразить злость или испуг, если пользователь закажет, но без запроса она не будет ничего предпринимать в связи со злостью или страхом, которые она якобы испытывает.

[dsge]

Anton_Peplov в сообщении #1726700 писал(а):

платный Клод умеет больше, чем правдоподобно изображать эмоции. Ему можно настроить манеру общения, от " заботливая мамаша" до "ироничный байронический герой". На стохастического попугая это похоже примерно как микроскоп на палку-копалку

Даже платный Клод является всего лишь стохастическим попугаем. Настройка на манеру заботливая мамаша или ироничный герой - это всего лишь настройка вероятностей появления соответствующих токенов.

[mihaild]

dsge в сообщении #1726716 писал(а):

Даже платный Клод является всего лишь стохастическим попугаем

И что из этого следует?

[Mihaylo]

mihaild в сообщении #1726718 писал(а):

И что из этого следует?

Что люди уж точно не стохастические попугаи) точнее, что ИИ и люди - это разные категории мышления. Люди могут сочинять симфонии, а машины - нет?

[dsge]

mihaild в сообщении #1726718 писал(а):

dsge в сообщении #1726716 писал(а):

Даже платный Клод является всего лишь стохастическим попугаем

И что из этого следует?

А что из этого должно следовать? Это был комментарий к цитате, приведенной в сообщении.

[Mihaylo]

dsge в сообщении #1726727 писал(а):

А что из этого должно следовать?

Если из вашего утверждения ничего не следует, то бритва Оккама безжалостно режет ваше ничтожное утверждение. Неужели это непонятно? "Стохастический попугай"- это просто отличный устойчивый фразеологизм, чтобы унизить ИИ без какой-либо привязки к правде. Чрезмерная любовь к пословицам, поговоркам, фразеологизмам может свидетельствовать об излишней попугаистости.

[dsge]

Mihaylo Разберитесь сначала что такое вероятностное распределение, условное распределение, условное матожидание, предельная теорема, гладкое отображение, невыпуклая оптимизация, стохастический процесс, стохастическая матрица, стохастический градиент. Потом можете разглагольствовать про стохастических попугаев.

[realeugene]

dsge в сообщении #1726747 писал(а):

гладкое отображение

Гладкий попугай: его общипали, или сам облез?

[dsge]

realeugene в сообщении #1726751 писал(а):

dsge в сообщении #1726747 писал(а):

гладкое отображение

Гладкий попугай: его общипали, или сам облез?

Тогда уж гадкий попугай, который никогда не превратится в прекрасного лебедя.

[mihaild]

dsge в сообщении #1726747 писал(а):

стохастический градиент.

А это что такое? Никогда не слышал, и гугл не помогает. Знаю только "стохастический градиентный спуск", но там стохастический спуск, а не градиент.

[dsge]

mihaild в сообщении #1726756 писал(а):

dsge в сообщении #1726747 писал(а):

стохастический градиент.

А это что такое? Никогда не слышал, и гугл не помогает. Знаю только "стохастический градиентный спуск", но там стохастический спуск, а не градиент.

С телефона хочется быть кратким. Хотя в оптимизации встречается и stochastic
gradient , но в другом контексте.

[Mihaylo]

Для того, чтобы понимать, как работает LLM, надо освоить, что такое контекст (размер современного контекста составляет 1 млн. токенов). "Попугай" генерирует последовательность токенов, кусая себя за хвост, но ещё рассматривает свой огромный контекст. В контекст входит весь диалог с человеком, рассуждения (thinking). Новостные издания и научно-популярные статьи об этом умолчали - о контексте. Контекст (CONTEXT) имеет огромное значение в генерации очередного токена. Нельзя LLM назвать стохастическим попугаем только потому, что контекст практически всегда уникален. На практике мы всегда видим, что контекст имеет значение, иначе бы LLM работали плохо.

Нейросети вынуждены обобщать информацию. Наука в действии.

-- добавлено через 26 минут --

Я хотел, чтобы вы освоили такое понятие "обобщающая способность" - это моя козырная карта туз. Это когда нейросети показывают один пример, а она потом может распознать миллион близлежащих примеров (на самом деле бесконечное число, но с некоторой точностью). Меня не напугать чем-то типа SGD - стохастическим градиентным спуском.

[Alex-Yu]

dsge в сообщении #1726716 писал(а):

Даже платный Клод является всего лишь стохастическим попугаем.

Соглашусь. Но добавлю: человек это тоже всего лишь стохастический попугай. Как ни печально это осознавать.

-- добавлено через 5 минут --

Mihaylo в сообщении #1726720 писал(а):

ИИ и люди - это разные категории мышления.

Не-а Кстати, далеко не любой человек способен сочинять симфонии. И даже намного более простые вещи. Странно было бы требовать подобное от любой нейросетки. Со временем найдутся и такие, которые сочиняют. Так же как из людей такие нашлись лишь со временем.

[mihaild]

Mihaylo в сообщении #1726774 писал(а):

Я хотел, чтобы вы освоили такое понятие "обобщающая способность" - это моя козырная карта туз. Это когда нейросети показывают один пример, а она потом может распознать миллион близлежащих примеров (на самом деле бесконечное число, но с некоторой точностью).

Такой "обобщающей способностью" обладает и камень. Ему можно вообще ничего не показывать, а он потом сможет распознать бесконечное число примеров (с некоторой точностью).