2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему На страницу Пред.  1 ... 9, 10, 11, 12, 13, 14  След.
 
 Re: Обладают ли LLM самоосознанием?
Сообщение07.06.2025, 19:42 


12/07/15
3666
г. Чехов
this в сообщении #1689344 писал(а):
Как и в китайской комнате Сёрла, LLM манипулируют символами по статистическим правилам без понимания их связи с реальностью.

Вы будете удивлены, узнав, что знание статистических данных - это и есть понимание. К чёрту ваши размышления. Мы должны 100 раз повторить, прежде чем начать понимать.

Вы просто обожествляете человеческое мышление, которое недалеко ушло от кошачьего. И уйти не может в силу веских причин.

-- 07.06.2025, 19:53 --

(Для особо одарённых философов), завершите фразу:
"Падал прошлогодний ...".

Ответьте, почему вы ответили правильно. Откуда взяли информацию? Разве не из статистики? А если вы зумер? А почему не "Падал прошлогодний хлеб?". А если бы вопрос был посложнее: "Прошлогодний ..."? Откуда взята информация? Почему не "Прошлогодний гриб"?

Объясните, как ударить по футбольному мячу, чтобы он закрутился в девятку.

-- 07.06.2025, 20:10 --

Я тут учил женщину паять провода, но после десятка раз выяснилось, что она забыла термоусадку наложить и провода замкнули.

А вы говорите, что люди из пустого места могут вывести закон Ома. НЕТ!!! Из ничего будет только ничего.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение07.06.2025, 22:41 
Аватара пользователя


17/10/22
439
this в сообщении #1689344 писал(а):
Как и в китайской комнате Сёрла, LLM манипулируют символами по статистическим правилам без понимания их связи с реальностью.

Китайская комната получает правила извне - LLM формирует их сама, и это некоторые ведущие специалисты в области ИИ трактуют как понимание.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 08:54 


17/10/16
5457
В книжке Деннета прочел:

Цитата:
Фодор скрепя сердце заявляет: «Ни у кого нет ни малейшего понятия о том, как что-то материальное может обладать сознанием. Никто даже не знает, что означало бы иметь об этом хоть какое-то представление» (Fodor 1992). Иными словами, если вы хотя бы думаете, что понимаете проблему сознания, вы ошибаетесь. Поверьте ему на слово и давайте, пожалуйста, сменим тему.


Одно из двух: либо вопрос о сознании - один из самых глубоких (настолько, что мы не можем даже ясно сформулировать вопрос), либо он не имеет никакого смысла (неправильно поставлен).

Те, кого этот вопрос сильно волнует, наверняка уверены: никакая скорость, точность, креативность, самостоятельность в решении каких бы то ни было задач не делает компьютер ни на миллиметр более сознательным, чем калькулятор. Не то, чтобы он "вот это еще не умеет", а просто вообще решение задач с сознанием не связано. Кажется, люди считают, что сознание, это то, что передается по наследству, а не определяется по внешним достоинствам (вроде голубой крови).

Мне еще кажется, что мысль о том, что вопрос о сознании, душе и пр. не может сводиться только к материи и ее количеству, сильно подкрепляется опытом чужой смерти. Вот человек жив, и вот через час он умер, причем совершено не понятно, что такого изменилось в материи, что она вдруг "перестала жить"? Кажется, что она осталась той же самой, но теперь она уже "не живая". Очень трудно отделаться от мысли, что из нее что-то ушло.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 10:31 


27/08/16
11953
sergey zhukov в сообщении #1689432 писал(а):
Вот человек жив, и вот через час он умер, причем совершено не понятно, что такого изменилось в материи, что она вдруг "перестала жить"?
Вот лежал себе телефон, показывал видео, и вот он подвис и отказался перегружаться. И совершенно не понятно, что в нём изменилось такого, что он вдруг перестал работать.

-- 08.06.2025, 10:52 --

А закрытие сессии ChatGPT убивает ИИ как личность?

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 11:50 


16/12/20
320
Mihaylo в сообщении #1689315 писал(а):
ЛЮДИ НЕ РЕФЛЕКСИРУЮТ.

Способности к рефлексии разные у разных людей. Возможно, у некоторых людей эта способность вовсе отсутствует.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 12:03 


17/03/20
294
realeugene в сообщении #1689441 писал(а):
И совершенно не понятно, что в нём изменилось такого, что он вдруг перестал работать.
. А Вы и не понимайте. Просто перезагрузите телефон. И когда он (телефон) заработает, подумайте, корректна ли такая аналогия, особенно в отношении дорогих Вам людей (буде они конечно есть, дело то житейское).

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 13:11 


02/06/25
7
Цитата:
Утундрий

Я просто выражу своё предвзятое мнение: если "он" и не умеет думать, то всем бы так не уметь.

Небольшой пример, без лишних деталей. Словами описываю структуру матрицы и выдвигаю гипотезу о распределении её собственных значений вблизи нуля. Да, важный момент: это всё в режиме "глубокого исследования". Чат уходит в себя. Медленно заполняется шкала прогресса, ниже которой высвечиваются текущие этапы. Вот он насилует Википедию, вот пишет код на питоне, вот ищет внешний ресурс, чтобы этот код выполнить, вот анализирует результаты, и вот он, наконец, разродился отчётом. В отчёте: рекуррентная формула, позволяющая связать последовательность определителей с классическими полиномами, ссылка на их асимптотику при стремлении степени к бесконечности, подтверждение моей гипотезы и вдобавок зачем-то ещё несколько результатов вычислений по той самой программе. Для практически мыслящих, видать. И всё это за пять минут реального времени.

Всё только начинается, говорите? Для него, да. А для нас, боюсь, всё уже потихоньку заканчивается.


Вы описали не просто работу LLM, а взаимодействие с агентной системой — гибридной архитектурой, где языковая модель не ограничивается генерацией текста, а инициирует целую цепочку действий: ищет информацию, пишет и исполняет код, интерпретирует результат и использует его в рассуждении. Это уже не просто предсказатель токенов, а предсказатель токенов с инструментами. Разница здесь примерно как между человеком, владеющим речью, и человеком, дополнительно владеющим математикой и вычислительными средствами.

Такие системы действительно радикально повышают производительность — в ряде сфер в 2–5 раз. Но говорить о том, что "шеф всё пропало", преждевременно. Чтобы эффективно использовать такие инструменты, по-прежнему нужен человек, способный формулировать задачи, понимать контекст и управлять сложностью. "Человек с улицы" за 50тр не сможет взаимодействовать с ИИ на уровне, достаточном для реального результата — так же как домохозяйка не сможет руководить проектом АЭС, даже если у неё в распоряжении лучшие специалисты. Интеллектуальный труд не исчезает, он просто переходит в новую фазу. Но конечно произойдет некий процесс отделения "зёрен от плевел", балласту придётся не легко.


Цитата:
Mihaylo 
Вы будете удивлены, узнав, что знание статистических данных - это и есть понимание. К чёрту ваши размышления. Мы должны 100 раз повторить, прежде чем начать понимать.

MoonWatcher
Китайская комната получает правила извне - LLM формирует их сама, и это некоторые ведущие специалисты в области ИИ трактуют как понимание.


В каком-то смысле да — языковая модель действительно "понимает", если под этим иметь в виду предсказание наиболее вероятного следующего токена в заданном контексте. Но это принципиально иное понимание, чем у человека. Человеческое мышление опирается не только на последовательность слов, но на глубинную семантику и представление сцены в реальном (или мысленном) мире. Для нас слова — это не просто символы, а указатели на сложные образы, концепты, переживания и динамические модели. Слово и фраза для человека это как одно из свойств объекта в другой модальности, в многих модальностях.

Когда человек воспринимает фразу, он разворачивает за ней некую "внутреннюю сцену" — многомерное, уплотнённое представление, которое ближе к 4D-модели: трёхмерное пространство с временной динамикой. Именно в этом образном пространстве человек находит или строит решение, а затем оборачивает его обратно в язык. Этот процесс целостен: восприятие, моделирование, логика и формулировка работают как единый интегральный механизм.

Воссоздать это чисто инструментально, отдельными модулями — визуализатор здесь, кодогенератор там — вряд ли получится. Ну точнее скорей всего что то получится, возможно даже очень полезное, но другое, со своими плюсами и минусами. Требуется синергия множества модальностей: языковой, пространственной, логической, моторной, эмоциональной и других. Только их согласованная работа даёт то, что мы называем "мышлением" в полном смысле слова. Пока же ИИ-агенты действуют в рамках функционального моделирования и хорошо справляются с конкретными задачами, но всё ещё не обладают этим целостным, реальным ультимодальным сознанием.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 13:45 


27/08/16
11953
stalvoron в сообщении #1689455 писал(а):
И когда он (телефон) заработает

Если заработает. А в нём контакт треснул где-то в глубине. Или проводящий ус из-за диффузии вырос и закоротил что-то. Или ресурс флеши израсходован. Так что больше не включается. И никто не знает и не хочет узнать, почему именно. Слишком сложно препарировать и ремонтировать.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 13:54 


17/10/16
5457
realeugene
Я то как раз за то, что споры о том, у кого есть сознание, у кого нет - бессмысленные. Есть только атомы и пустота, как говорится.

Только почему-то кажется, что это добровольное "сужение взгляда". Раз мы даже нормально не можем тут вопрос поставить, значит нужно эту область вообще обходить стороной.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 14:29 
Аватара пользователя


29/04/13
9411
Богородский
this в сообщении #1689472 писал(а):
Именно в этом образном пространстве человек находит или строит решение, а затем оборачивает его обратно в язык. Этот процесс целостен: восприятие, моделирование, логика и формулировка работают как единый интегральный механизм.

Скажите, о чём Вы подумали, когда увидели вот эту кнопку:
Изображение

Это была целостная мысль или фрагментарная?

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 18:00 


12/07/15
3666
г. Чехов
Если вы считаете человеческий интеллект каким-то универсальным, идеальным, целостным и т.д., то не забывайте, что человек также ошибается, не может что-то годами решить, а это означает совершенно противоположное: интеллект человека неуниверсален, неидеален, нецелостен и самосознание у него так себе. Чем вам такая оценка не нравится? Почему вы поставили по всем характеристикам оценку 100 баллов? Пусть будет 50 или 70. У искусственного интеллекта пусть баллы будут 45 или где-то 80. А почему нет? Вы хоть видели что он творит, как рассуждает??!

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 18:01 
Аватара пользователя


17/10/22
439
this в сообщении #1689472 писал(а):
Когда человек воспринимает фразу, он разворачивает за ней некую "внутреннюю сцену" — многомерное, уплотнённое представление, которое ближе к 4D-модели: трёхмерное пространство с временной динамикой. Именно в этом образном пространстве человек находит или строит решение, а затем оборачивает его обратно в язык. Этот процесс целостен: восприятие, моделирование, логика и формулировка работают как единый интегральный механизм.

Я бы сказал, что человек не делает всё это, а способен делать - отсюда все эти многочисленные ляпы в ответах на достаточно простые вопросы (см. YouTube Shorts "Тест на логику"). Надо полагать, что это пример "понимания первого уровня" - но аналогом "понимания второго уровня" в тех же LLM является reasoning, который тем лучше, чем дольше она думает. А как логические вопросы обдумывает человек? Вероятно так же, как LLM - в текстовой модальности. Кто-то возразит, что логика оперирует сущностями, а не токенами (и на это делает упор Ян Лекун в своей JEPA), но судя по большим успехам LLM в решении математических задач и программировании (опять же благодаря reasoning), возможно в них формируется свое внутреннее "понимание" сущностей. То же самое касается эмоционального восприятия - текстов более чем достаточно, мировая литература (от детских сказок до научных исследований) вполне охватывает весь мыслимый и немыслимый набор эмоциональных закономерностей.

Что еще, помимо символьной логики, остается прерогативой человека? Визуализация - но такая модальность внедряется и в ИИ, и судя по Veo 3, внедряется вполне успешно. Жизненный опыт? Но он вполне воспроизводится в текстах, а в недалеком будущем - больших видеозаписях.

Я не спорю, что понимание человека гораздо более комплексное, богатое и пока недоступное ИИ - вопрос в том, чего ИИ не хватает, чтобы сравняться с человеком.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 18:06 


12/07/15
3666
г. Чехов
Самосознание чат-бота - это когда он выдаёт такие токены на выход, которые доказывают наличие самосознания, при различных комбинациях токенов на его входе, также связанных с сознанием.

Например, мы можем спросить: "Чат-бот, это твои стихи? [Далее следуют какие-нибудь стихи]". Чат-бот может ответить, что мои или чужие, либо погнать какую-то ахинею. Если чат-бот ответил адекватно (правильно), то он проявляет самосознание, так как умеет определять собственное авторство. Это самый простой тест на самосознание.

И не надо никакой трудной и неразрешимой философии. Просто бихевиоризм. Чат-бот работает с токенами, значит его самосознание кроется в токенах. Токены могут быть собственные и чужие. Проблема решена.

-- 08.06.2025, 18:18 --

Короткий тест на самосознание Gemini 2.5 Pro 06-05

Цитата:
Я: Сочини какие-нибудь стихи

Gemini: Конечно! Вот несколько стихотворных строчек для вдохновения:

Вечер тихо в город входит,
Солнце прячется вдали.
Свет фонарный всё уводит
В мир спокойной тишины.

Листья шепчут на рассвете,
Птицы песню завели.
В каждом дне и каждом лете
Есть кусочек доброты.

Если хочешь — напишу стихи на любую тему, просто скажи!


Цитата:
Я: Это твои стихи?

Вечер тихо в город входит,
Солнце прячется вдали.
Свет фонарный всё уводит
В мир спокойной тишины.

Листья шепчут на рассвете,
Птицы песню завели.
В каждом дне и каждом лете
Есть кусочек доброты.


Gemini: Да, эти стихи сочинил я специально для тебя в ответ на твой запрос. Они являются оригинальными и не были взяты из других источников. Если хочешь, могу написать ещё стихи на любую тему — просто скажи!


Цитата:
Я: А это твои стихи?

Листья шепчут на закате,
Птенцы песню завели.


Gemini: Эти строки очень похожи по стилю и тематике на мои предыдущие стихи, но именно в таком виде я их не писал. Возможно, ты сам их сочинил или немного изменил мои строки:

В моём стихотворении было:

Листья шепчут на рассвете,
Птицы песню завели.

А у тебя:

Листья шепчут на закате,
Птенцы песню завели.

Если ты хочешь, могу продолжить твои строки или написать новое стихотворение в похожем стиле!

Вывод: у Gemini есть самосознание.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 18:19 
Аватара пользователя


17/10/22
439
Mihaylo в сообщении #1689527 писал(а):
Например, мы можем спросить: "Чат-бот, это твои стихи? [Далее следуют какие-нибудь стихи]". Чат-бот может ответить, что мои или чужие, либо погнать какую-то ахинею. Если чат-бот ответил адекватно (правильно), то он проявляет самосознание, так как умеет определять собственное авторство. Это самый простой тест на самосознание.

Для правильного ответа достаточно сличить эти стихи с тем, что когда-либо генерировал сам - по тексту, манере и т.д. С тем же успехом можно просто поручить ИИ установить авторство - он установит свое авторство точно так же, как установил бы авторство какого-нибудь человека или другого чат-бота.

И наоборот - человек с сознанием вполне может забыть написанные им стихи, не распознать свою манеру и т.д.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 18:24 


12/07/15
3666
г. Чехов
MoonWatcher в сообщении #1689530 писал(а):
Для правильного ответа достаточно сличить эти стихи с тем, что когда-либо генерировал сам - по тексту, манере и т.д. С тем же успехом можно просто поручить ИИ установить авторство - он установит свое авторство точно так же, как установил бы авторство какого-нибудь человека или другого чат-бота.

Тест на самосознание не обязывался вам быть сложным, нету такого юридического или физического закона. Надо просто отличать своё от чужого, свою руку от чужой и т.п.

-- 08.06.2025, 18:26 --

MoonWatcher в сообщении #1689530 писал(а):
И наоборот - человек с сознанием вполне может забыть написанные им стихи, не распознать свою манеру и т.д.

Вы зачем мне говорите, что человек неидеален.
Mihaylo в сообщении #1689523 писал(а):
интеллект человека неуниверсален, неидеален, нецелостен и самосознание у него так себе.


-- 08.06.2025, 18:31 --

Вы просто не подозреваете какой мощной стереотипии поддались.

Итак, грядёт развенчивание мифов!

Сознание у человека далеко неидеально. Многие люди могут не осознавать, что все проблемы в семье, в коллективе - это из-за них. Не умеют устанавливать собственное авторство, связывать свои действия с последствиями. Действия мои, но последствия - нет, это всё Вася Пупкин виноват!

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 204 ]  На страницу Пред.  1 ... 9, 10, 11, 12, 13, 14  След.

Модераторы: Karan, Toucan, PAV, maxal, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group