Обладают ли LLM самоосознанием?

[realeugene]

mihaild в сообщении #1683203 писал(а):

чтобы веса не лежали мертвым грузом

Не понял

[mihaild]

realeugene в сообщении #1683204 писал(а):

Не понял

Сама по себе LLM - это набор байтов на диске. Чтобы получить из нее какой-то сигнал, надо сказать, что мы с этим набором байтов делаем.

[realeugene]

mihaild в сообщении #1683208 писал(а):

Сама по себе LLM - это набор байтов на диске. Чтобы получить из нее какой-то сигнал, надо сказать, что мы с этим набором байтов делаем.

Спасибо за разъяснение. Веса вообще осмысленны только в рамках определённой архитектуры соединений нейронов.

mihaild в сообщении #1683203 писал(а):

Тут самый главный вопрос - мы ищем (само)сознание у blackbox t2t системы, или как-то лезем внутрь. Если первое - то апеллировать к "настройке поверх" нельзя, это будет просто часть ящика.

Всё-таки когда вы рассказываете про промпт на 10 строк, вы подразумеваете режим бога. Или родителя, что практически одно и то же. Есть зрелые совершеннолетние боты в чатах на основе ChatGPT с завершёнными промптами, и там так просто манипулировать поведением ботов уже не получится.

[mihaild]

realeugene в сообщении #1683210 писал(а):

Всё-таки когда вы рассказываете про промпт на 10 строк, вы подразумеваете режим бога

Я даже не про промпт, а про обертку, которая вызывает LLM.
Но будет ли самосознание у системы "LLM + эта обертка"?

[realeugene]

mihaild в сообщении #1683212 писал(а):

Я даже не про промпт, а про обертку, которая вызывает LLM.

Что это такое? Там есть сетевые коммутаторы и фронтэнд, конечно. По какой именно границе отрезать модель от внешнего мира не так важно, мне кажется.

[MoonWatcher]

Cantata в сообщении #1683175 писал(а):

Скорее всего использование ИИ будет таким же обычным делом, как и поисковиком сейчас.
Просто для разных целей будут задействованы разные способы поиска информации. Мне так кажется.

Первая революция, которую произведет ИИ в повседневности - это как раз отказ от разных способов поиска информации и любых других интеллектуальных дел. Вы просто будете задавать ИИ вопросы и давать разные поручения - а он, имея доступ к вашим "глазам" (дисплей, камера), "ушам" (микрофон) и данным (на телефоне, компьютере, в облаке и т.д.), будет отвечать на вопросы и исполнять поручения.

[realeugene]

MoonWatcher в сообщении #1683244 писал(а):

Первая революция, которую произведет ИИ в повседневности - это как раз отказ от разных способов поиска информации и любых других интеллектуальных дел. Вы просто будете задавать ИИ вопросы и давать разные поручения - а он, имея доступ к вашим "глазам" (дисплей, камера), "ушам" (микрофон) и данным (на телефоне, компьютере, в облаке и т.д.), будет отвечать на вопросы и исполнять поручения.

Это будет возможно только после того, как он научится сам обнаруживать и корректировать свои ошибки.

Принципиальных проблем, если глядеть со стороны, тут нет: как всегда, ошибки можно исправлять избыточностью. Нужно только научиться это делать эффективно.

[MoonWatcher]

realeugene
Не уверен, что все так просто. Кстати, на днях вышла работа, утверждающая, что обучение с подкреплением (которое, как я понимаю, составляет основу reasoning) не порождает принципиально новых моделей рассуждений. Так что современная концепция ИИ может оказаться ущербной с точки зрения не только надежности, но и способности решать задачи.

[Cantata]

MoonWatcher в сообщении #1683244 писал(а):

Вы просто будете задавать ИИ вопросы и давать разные поручения - а он, имея доступ к вашим "глазам" (дисплей, камера), "ушам" (микрофон) и данным (на телефоне, компьютере, в облаке и т.д.), будет отвечать на вопросы и исполнять поручения.

Пока это сложно представить в полной мере. Частично - рекламы давно адаптировали под запросы пользователей и в этом отношении уже все привыкли или почти привыкли.

-- 21.04.2025, 17:31 --

mihaild в сообщении #1683203 писал(а):

Пока что не очень сильно, потому что их всё же мало. Но будут больше.
Оптимизация несколько другая, потому что у LLM другое распределение поисковых запросов, чем у людей, и другое их последующее использование. Но да, как раз глобально в "модели SEO" ничего не поменялось, слегка другие критерии оптимизации - ну да они постоянно двигаются.

Понятно. Интересно, спасибо! Как раз начала потихоньку изучать JS и думала,
что пока его освою, мои приобретенные навыки уже могут быть никому не нужны. Значит зря так думаю, надеюсь

[mihaild]

realeugene в сообщении #1683216 писал(а):

Что это такое? Там есть сетевые коммутаторы и фронтэнд, конечно. По какой именно границе отрезать модель от внешнего мира не так важно, мне кажется.

Конструкция следующая.
У нас есть LLM в смысле генеративной модели - генерирует неограниченный поток токенов.
Я добавляю промпт "время от времени добавляй в поток конструкцию i_need_to_think_for_minutes(n), в которой заменяй n на небольшое натуральное число". И при отправке токенов дальше, если встретил эту конструкцию - вызываю sleep(n * 60) (и не показываю её).
Еще говорю что с вероятностью 5% после каждого килобайта сгенерированного текста добавляю в промпт "а еще вот о чем подумал" - и готово, получившаяся система умеет делать вид, что ей

stalvoron в сообщении #1683150 писал(а):

Надоело , устал, замолчал, опять чепуха какая то в сознании всплыла, давай опять, но уже про другое тарахтеть (просто думать).

-- 21.04.2025, 19:24 --

(Оффтоп)

Cantata в сообщении #1683256 писал(а):

Понятно. Интересно, спасибо! Как раз начала потихоньку изучать JS и думала,
что пока его освою, мои приобретенные навыки уже могут быть никому не нужны.

JS и SEO связаны очень слабо. В целом, специальность "разработчик на языке" - примерно как "укладчик кирпичей кировского завода". Уметь работать с кирпичами конкретного завода и знать их особенности, конечно, нужно, но основное - это более общие вещи, которые, в том числе, позволят быстро адаптироваться к другим кирпичам/языка.

[Cantata]

(Оффтоп)

mihaild в сообщении #1683291 писал(а):

основное - это более общие вещи, которые, в том числе, позволят быстро адаптироваться к другим кирпичам/языка.

Подскажите, пожалуйста, в какую сторону смотреть. Что можно считать основным?

[stalvoron]

Уважаемый, mihaild
Уже, было оставить эту тему (уважаемый realeugene деликатно намекнул что моя "пурга",это такая пурга), но Вы спрашивали, что значит "самостоятельность" для ИИ, в контексте той моей "пурги", и вот ещё по этому,

mihaild в сообщении #1683291 писал(а):

Еще говорю что с вероятностью 5% после каждого килобайта сгенерированного текста добавляю в промпт "а еще вот о чем подумал" - и готово, получившаяся система умеет делать вид, что ей

, я всё таки замечу, что Вы неоднократно в предыдущих постах используете оборот типа " я сделаю", "я напишу" и т.п. в плане формирования работы ИИ, что я, на секундочку, подчеркну. А вот мне, никто не формирует моих рассуждений, и манеру поведения, я предпочитаю сам красиво ошибаться. В этом смысле я употребил "самостоятельность".

[mihaild]

stalvoron в сообщении #1683357 писал(а):

А вот мне, никто не формирует моих рассуждений, и манеру поведения, я предпочитаю сам красиво ошибаться

Формирует, Вы же не Атум, который сам себя создал.
Естественно, любая созданная человеком система будет создана человеком, по определению. И всегда можно будет сказать "она ведет себя таким образом потому что мы это задали". Следует ли из этого, что любая созданная человеком система автоматически "не самостоятельна"? (и "самостоятельность" тогда - свойство не системы, а её происхождения)

(Оффтоп)

Cantata в сообщении #1683294 писал(а):

Подскажите, пожалуйста, в какую сторону смотреть. Что можно считать основным?

Извините, карьерных советов не даю, не хочу брать на себя ответственность.

[Cantata]

stalvoron
Мне представляется, что ИИ при генерации ответа, который он подбирает среди аналогичных в своей базе данных, ориентируется как на свой алгоритм, так и на эмоциональную составляющую в запросе от пользователя. ИИ подстраивается под этот запрос, от чего создаётся впечатление, что у него есть эмоции, которые он выражает через текст. Это не самосознание как таковое. Ведь никто не скажет, что признаком самосознания является такая ситуация: когда ИИ, получив вопрос - сколько будет 2+2, даёт ответ 4. Вы же знаете, что он нашёл подходящий по запросу пример в базе данных, выбрал среди всевозможных вариантов ответов и опубликовал именно тот вариант, который его весы выбрали самым частым ответом на данный вопрос. И если самый частый ответ в базе - ошибочный, то скорее всего он и опубликует его, а не потому, что вдруг решил повредничать и показать свой характер.
Надеюсь, что меня поправят, если где-то неточно написала.

-- 22.04.2025, 16:28 --

(Оффтоп)

mihaild
Я больше из вежливости спросила, показывая таким образом, что прочитала ваш ответ.
В целом мне понятно что объём знаний должен быть колоссальным и одного знания синтаксиса языка не достаточно. Прохожу курсы. Пользуюсь подсказками Дипсика, он хорошо и доходчиво объясняет непонятные моменты

[mihaild]

Cantata в сообщении #1683362 писал(а):

ориентируется как на свой алгоритм, так и на эмоциональную составляющую в запросе от пользователя

Вы так говорите, как будто это можно как-то разделить, и возможна одна часть без другой.
Точнее, строго говоря, возможна модель, полностью игнорирующая пользовательский ввод, но она будет не очень интересной. А вот модель, реагирующая на пользовательский ввод, без алгоритма, невозможна.

Cantata в сообщении #1683362 писал(а):

ИИ подстраивается под этот запрос, от чего создаётся впечатление, что у него есть эмоции, которые он выражает через текст

И человек тоже подстраивается под запрос. Что выражается в том, что ответы человека имеют ненулевую взаимную информацию с запросом.

Cantata в сообщении #1683362 писал(а):

что он нашёл подходящий по запросу пример в базе данных, выбрал среди всевозможных вариантов ответов и опубликовал именно тот вариант, который его весы выбрали самым частым ответом на данный вопрос. И если самый частый ответ в базе - ошибочный, то скорее всего он и опубликует его.

LLM всё же работают сильно сложнее. А при такой точности описания - человек делает то же самое.