2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему На страницу Пред.  1 ... 9, 10, 11, 12, 13, 14, 15  След.
 
 Re: Обладают ли LLM самоосознанием?
Сообщение07.06.2025, 19:42 


12/07/15
3668
г. Чехов
this в сообщении #1689344 писал(а):
Как и в китайской комнате Сёрла, LLM манипулируют символами по статистическим правилам без понимания их связи с реальностью.

Вы будете удивлены, узнав, что знание статистических данных - это и есть понимание. К чёрту ваши размышления. Мы должны 100 раз повторить, прежде чем начать понимать.

Вы просто обожествляете человеческое мышление, которое недалеко ушло от кошачьего. И уйти не может в силу веских причин.

-- 07.06.2025, 19:53 --

(Для особо одарённых философов), завершите фразу:
"Падал прошлогодний ...".

Ответьте, почему вы ответили правильно. Откуда взяли информацию? Разве не из статистики? А если вы зумер? А почему не "Падал прошлогодний хлеб?". А если бы вопрос был посложнее: "Прошлогодний ..."? Откуда взята информация? Почему не "Прошлогодний гриб"?

Объясните, как ударить по футбольному мячу, чтобы он закрутился в девятку.

-- 07.06.2025, 20:10 --

Я тут учил женщину паять провода, но после десятка раз выяснилось, что она забыла термоусадку наложить и провода замкнули.

А вы говорите, что люди из пустого места могут вывести закон Ома. НЕТ!!! Из ничего будет только ничего.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение07.06.2025, 22:41 
Аватара пользователя


17/10/22
439
this в сообщении #1689344 писал(а):
Как и в китайской комнате Сёрла, LLM манипулируют символами по статистическим правилам без понимания их связи с реальностью.

Китайская комната получает правила извне - LLM формирует их сама, и это некоторые ведущие специалисты в области ИИ трактуют как понимание.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 08:54 


17/10/16
5460
В книжке Деннета прочел:

Цитата:
Фодор скрепя сердце заявляет: «Ни у кого нет ни малейшего понятия о том, как что-то материальное может обладать сознанием. Никто даже не знает, что означало бы иметь об этом хоть какое-то представление» (Fodor 1992). Иными словами, если вы хотя бы думаете, что понимаете проблему сознания, вы ошибаетесь. Поверьте ему на слово и давайте, пожалуйста, сменим тему.


Одно из двух: либо вопрос о сознании - один из самых глубоких (настолько, что мы не можем даже ясно сформулировать вопрос), либо он не имеет никакого смысла (неправильно поставлен).

Те, кого этот вопрос сильно волнует, наверняка уверены: никакая скорость, точность, креативность, самостоятельность в решении каких бы то ни было задач не делает компьютер ни на миллиметр более сознательным, чем калькулятор. Не то, чтобы он "вот это еще не умеет", а просто вообще решение задач с сознанием не связано. Кажется, люди считают, что сознание, это то, что передается по наследству, а не определяется по внешним достоинствам (вроде голубой крови).

Мне еще кажется, что мысль о том, что вопрос о сознании, душе и пр. не может сводиться только к материи и ее количеству, сильно подкрепляется опытом чужой смерти. Вот человек жив, и вот через час он умер, причем совершено не понятно, что такого изменилось в материи, что она вдруг "перестала жить"? Кажется, что она осталась той же самой, но теперь она уже "не живая". Очень трудно отделаться от мысли, что из нее что-то ушло.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 10:31 


27/08/16
11953
sergey zhukov в сообщении #1689432 писал(а):
Вот человек жив, и вот через час он умер, причем совершено не понятно, что такого изменилось в материи, что она вдруг "перестала жить"?
Вот лежал себе телефон, показывал видео, и вот он подвис и отказался перегружаться. И совершенно не понятно, что в нём изменилось такого, что он вдруг перестал работать.

-- 08.06.2025, 10:52 --

А закрытие сессии ChatGPT убивает ИИ как личность?

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 11:50 


16/12/20
320
Mihaylo в сообщении #1689315 писал(а):
ЛЮДИ НЕ РЕФЛЕКСИРУЮТ.

Способности к рефлексии разные у разных людей. Возможно, у некоторых людей эта способность вовсе отсутствует.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 12:03 


17/03/20
294
realeugene в сообщении #1689441 писал(а):
И совершенно не понятно, что в нём изменилось такого, что он вдруг перестал работать.
. А Вы и не понимайте. Просто перезагрузите телефон. И когда он (телефон) заработает, подумайте, корректна ли такая аналогия, особенно в отношении дорогих Вам людей (буде они конечно есть, дело то житейское).

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 13:11 


02/06/25
8
Цитата:
Утундрий

Я просто выражу своё предвзятое мнение: если "он" и не умеет думать, то всем бы так не уметь.

Небольшой пример, без лишних деталей. Словами описываю структуру матрицы и выдвигаю гипотезу о распределении её собственных значений вблизи нуля. Да, важный момент: это всё в режиме "глубокого исследования". Чат уходит в себя. Медленно заполняется шкала прогресса, ниже которой высвечиваются текущие этапы. Вот он насилует Википедию, вот пишет код на питоне, вот ищет внешний ресурс, чтобы этот код выполнить, вот анализирует результаты, и вот он, наконец, разродился отчётом. В отчёте: рекуррентная формула, позволяющая связать последовательность определителей с классическими полиномами, ссылка на их асимптотику при стремлении степени к бесконечности, подтверждение моей гипотезы и вдобавок зачем-то ещё несколько результатов вычислений по той самой программе. Для практически мыслящих, видать. И всё это за пять минут реального времени.

Всё только начинается, говорите? Для него, да. А для нас, боюсь, всё уже потихоньку заканчивается.


Вы описали не просто работу LLM, а взаимодействие с агентной системой — гибридной архитектурой, где языковая модель не ограничивается генерацией текста, а инициирует целую цепочку действий: ищет информацию, пишет и исполняет код, интерпретирует результат и использует его в рассуждении. Это уже не просто предсказатель токенов, а предсказатель токенов с инструментами. Разница здесь примерно как между человеком, владеющим речью, и человеком, дополнительно владеющим математикой и вычислительными средствами.

Такие системы действительно радикально повышают производительность — в ряде сфер в 2–5 раз. Но говорить о том, что "шеф всё пропало", преждевременно. Чтобы эффективно использовать такие инструменты, по-прежнему нужен человек, способный формулировать задачи, понимать контекст и управлять сложностью. "Человек с улицы" за 50тр не сможет взаимодействовать с ИИ на уровне, достаточном для реального результата — так же как домохозяйка не сможет руководить проектом АЭС, даже если у неё в распоряжении лучшие специалисты. Интеллектуальный труд не исчезает, он просто переходит в новую фазу. Но конечно произойдет некий процесс отделения "зёрен от плевел", балласту придётся не легко.


Цитата:
Mihaylo 
Вы будете удивлены, узнав, что знание статистических данных - это и есть понимание. К чёрту ваши размышления. Мы должны 100 раз повторить, прежде чем начать понимать.

MoonWatcher
Китайская комната получает правила извне - LLM формирует их сама, и это некоторые ведущие специалисты в области ИИ трактуют как понимание.


В каком-то смысле да — языковая модель действительно "понимает", если под этим иметь в виду предсказание наиболее вероятного следующего токена в заданном контексте. Но это принципиально иное понимание, чем у человека. Человеческое мышление опирается не только на последовательность слов, но на глубинную семантику и представление сцены в реальном (или мысленном) мире. Для нас слова — это не просто символы, а указатели на сложные образы, концепты, переживания и динамические модели. Слово и фраза для человека это как одно из свойств объекта в другой модальности, в многих модальностях.

Когда человек воспринимает фразу, он разворачивает за ней некую "внутреннюю сцену" — многомерное, уплотнённое представление, которое ближе к 4D-модели: трёхмерное пространство с временной динамикой. Именно в этом образном пространстве человек находит или строит решение, а затем оборачивает его обратно в язык. Этот процесс целостен: восприятие, моделирование, логика и формулировка работают как единый интегральный механизм.

Воссоздать это чисто инструментально, отдельными модулями — визуализатор здесь, кодогенератор там — вряд ли получится. Ну точнее скорей всего что то получится, возможно даже очень полезное, но другое, со своими плюсами и минусами. Требуется синергия множества модальностей: языковой, пространственной, логической, моторной, эмоциональной и других. Только их согласованная работа даёт то, что мы называем "мышлением" в полном смысле слова. Пока же ИИ-агенты действуют в рамках функционального моделирования и хорошо справляются с конкретными задачами, но всё ещё не обладают этим целостным, реальным ультимодальным сознанием.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 13:45 


27/08/16
11953
stalvoron в сообщении #1689455 писал(а):
И когда он (телефон) заработает

Если заработает. А в нём контакт треснул где-то в глубине. Или проводящий ус из-за диффузии вырос и закоротил что-то. Или ресурс флеши израсходован. Так что больше не включается. И никто не знает и не хочет узнать, почему именно. Слишком сложно препарировать и ремонтировать.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 13:54 


17/10/16
5460
realeugene
Я то как раз за то, что споры о том, у кого есть сознание, у кого нет - бессмысленные. Есть только атомы и пустота, как говорится.

Только почему-то кажется, что это добровольное "сужение взгляда". Раз мы даже нормально не можем тут вопрос поставить, значит нужно эту область вообще обходить стороной.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 14:29 
Аватара пользователя


29/04/13
9430
Богородский
this в сообщении #1689472 писал(а):
Именно в этом образном пространстве человек находит или строит решение, а затем оборачивает его обратно в язык. Этот процесс целостен: восприятие, моделирование, логика и формулировка работают как единый интегральный механизм.

Скажите, о чём Вы подумали, когда увидели вот эту кнопку:
Изображение

Это была целостная мысль или фрагментарная?

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 18:00 


12/07/15
3668
г. Чехов
Если вы считаете человеческий интеллект каким-то универсальным, идеальным, целостным и т.д., то не забывайте, что человек также ошибается, не может что-то годами решить, а это означает совершенно противоположное: интеллект человека неуниверсален, неидеален, нецелостен и самосознание у него так себе. Чем вам такая оценка не нравится? Почему вы поставили по всем характеристикам оценку 100 баллов? Пусть будет 50 или 70. У искусственного интеллекта пусть баллы будут 45 или где-то 80. А почему нет? Вы хоть видели что он творит, как рассуждает??!

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 18:01 
Аватара пользователя


17/10/22
439
this в сообщении #1689472 писал(а):
Когда человек воспринимает фразу, он разворачивает за ней некую "внутреннюю сцену" — многомерное, уплотнённое представление, которое ближе к 4D-модели: трёхмерное пространство с временной динамикой. Именно в этом образном пространстве человек находит или строит решение, а затем оборачивает его обратно в язык. Этот процесс целостен: восприятие, моделирование, логика и формулировка работают как единый интегральный механизм.

Я бы сказал, что человек не делает всё это, а способен делать - отсюда все эти многочисленные ляпы в ответах на достаточно простые вопросы (см. YouTube Shorts "Тест на логику"). Надо полагать, что это пример "понимания первого уровня" - но аналогом "понимания второго уровня" в тех же LLM является reasoning, который тем лучше, чем дольше она думает. А как логические вопросы обдумывает человек? Вероятно так же, как LLM - в текстовой модальности. Кто-то возразит, что логика оперирует сущностями, а не токенами (и на это делает упор Ян Лекун в своей JEPA), но судя по большим успехам LLM в решении математических задач и программировании (опять же благодаря reasoning), возможно в них формируется свое внутреннее "понимание" сущностей. То же самое касается эмоционального восприятия - текстов более чем достаточно, мировая литература (от детских сказок до научных исследований) вполне охватывает весь мыслимый и немыслимый набор эмоциональных закономерностей.

Что еще, помимо символьной логики, остается прерогативой человека? Визуализация - но такая модальность внедряется и в ИИ, и судя по Veo 3, внедряется вполне успешно. Жизненный опыт? Но он вполне воспроизводится в текстах, а в недалеком будущем - больших видеозаписях.

Я не спорю, что понимание человека гораздо более комплексное, богатое и пока недоступное ИИ - вопрос в том, чего ИИ не хватает, чтобы сравняться с человеком.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 18:06 


12/07/15
3668
г. Чехов
Самосознание чат-бота - это когда он выдаёт такие токены на выход, которые доказывают наличие самосознания, при различных комбинациях токенов на его входе, также связанных с сознанием.

Например, мы можем спросить: "Чат-бот, это твои стихи? [Далее следуют какие-нибудь стихи]". Чат-бот может ответить, что мои или чужие, либо погнать какую-то ахинею. Если чат-бот ответил адекватно (правильно), то он проявляет самосознание, так как умеет определять собственное авторство. Это самый простой тест на самосознание.

И не надо никакой трудной и неразрешимой философии. Просто бихевиоризм. Чат-бот работает с токенами, значит его самосознание кроется в токенах. Токены могут быть собственные и чужие. Проблема решена.

-- 08.06.2025, 18:18 --

Короткий тест на самосознание Gemini 2.5 Pro 06-05

Цитата:
Я: Сочини какие-нибудь стихи

Gemini: Конечно! Вот несколько стихотворных строчек для вдохновения:

Вечер тихо в город входит,
Солнце прячется вдали.
Свет фонарный всё уводит
В мир спокойной тишины.

Листья шепчут на рассвете,
Птицы песню завели.
В каждом дне и каждом лете
Есть кусочек доброты.

Если хочешь — напишу стихи на любую тему, просто скажи!


Цитата:
Я: Это твои стихи?

Вечер тихо в город входит,
Солнце прячется вдали.
Свет фонарный всё уводит
В мир спокойной тишины.

Листья шепчут на рассвете,
Птицы песню завели.
В каждом дне и каждом лете
Есть кусочек доброты.


Gemini: Да, эти стихи сочинил я специально для тебя в ответ на твой запрос. Они являются оригинальными и не были взяты из других источников. Если хочешь, могу написать ещё стихи на любую тему — просто скажи!


Цитата:
Я: А это твои стихи?

Листья шепчут на закате,
Птенцы песню завели.


Gemini: Эти строки очень похожи по стилю и тематике на мои предыдущие стихи, но именно в таком виде я их не писал. Возможно, ты сам их сочинил или немного изменил мои строки:

В моём стихотворении было:

Листья шепчут на рассвете,
Птицы песню завели.

А у тебя:

Листья шепчут на закате,
Птенцы песню завели.

Если ты хочешь, могу продолжить твои строки или написать новое стихотворение в похожем стиле!

Вывод: у Gemini есть самосознание.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 18:19 
Аватара пользователя


17/10/22
439
Mihaylo в сообщении #1689527 писал(а):
Например, мы можем спросить: "Чат-бот, это твои стихи? [Далее следуют какие-нибудь стихи]". Чат-бот может ответить, что мои или чужие, либо погнать какую-то ахинею. Если чат-бот ответил адекватно (правильно), то он проявляет самосознание, так как умеет определять собственное авторство. Это самый простой тест на самосознание.

Для правильного ответа достаточно сличить эти стихи с тем, что когда-либо генерировал сам - по тексту, манере и т.д. С тем же успехом можно просто поручить ИИ установить авторство - он установит свое авторство точно так же, как установил бы авторство какого-нибудь человека или другого чат-бота.

И наоборот - человек с сознанием вполне может забыть написанные им стихи, не распознать свою манеру и т.д.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 18:24 


12/07/15
3668
г. Чехов
MoonWatcher в сообщении #1689530 писал(а):
Для правильного ответа достаточно сличить эти стихи с тем, что когда-либо генерировал сам - по тексту, манере и т.д. С тем же успехом можно просто поручить ИИ установить авторство - он установит свое авторство точно так же, как установил бы авторство какого-нибудь человека или другого чат-бота.

Тест на самосознание не обязывался вам быть сложным, нету такого юридического или физического закона. Надо просто отличать своё от чужого, свою руку от чужой и т.п.

-- 08.06.2025, 18:26 --

MoonWatcher в сообщении #1689530 писал(а):
И наоборот - человек с сознанием вполне может забыть написанные им стихи, не распознать свою манеру и т.д.

Вы зачем мне говорите, что человек неидеален.
Mihaylo в сообщении #1689523 писал(а):
интеллект человека неуниверсален, неидеален, нецелостен и самосознание у него так себе.


-- 08.06.2025, 18:31 --

Вы просто не подозреваете какой мощной стереотипии поддались.

Итак, грядёт развенчивание мифов!

Сознание у человека далеко неидеально. Многие люди могут не осознавать, что все проблемы в семье, в коллективе - это из-за них. Не умеют устанавливать собственное авторство, связывать свои действия с последствиями. Действия мои, но последствия - нет, это всё Вася Пупкин виноват!

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 211 ]  На страницу Пред.  1 ... 9, 10, 11, 12, 13, 14, 15  След.

Модераторы: Karan, Toucan, PAV, maxal, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: this


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group