2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему На страницу Пред.  1 ... 10, 11, 12, 13, 14
 
 Re: Обладают ли LLM самоосознанием?
Сообщение08.06.2025, 22:58 
Аватара пользователя


17/10/22
439
Mihaylo в сообщении #1689571 писал(а):
так как сами признались в своей ИМХЕ

Не хватало еще, чтобы мое мнение было истиной в последней инстанции, как у вас. Я бы, кстати, вам тоже не советовал писать в этой теме - пишите сразу в Nature, Science... Ах да - там не оценят вашу гениальность. Бывает...

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение09.06.2025, 04:27 


12/07/15
3666
г. Чехов
MoonWatcher
Уверены больше вы, чем я. Но вам это не понять.

MoonWatcher в сообщении #1689550 писал(а):
Я говорил о вполне очевидных критериях

Не увидел я там ничего очевидного. Какая-то банальщина типа "Здоровый человек не пьяный и не наркоман постоянно находится в сознании". Это уровень девятого класса школы, извините.
А случаи про бессознательное состояние вы пропустили. Вроде как читаете мои слова, но на выходе - просто атас какой-то. Вам примеры приводят, надо править свою неглубокую теорию. Но нет, вы не приходите в сознание)
Ваше заблуждение связано с мощными стереотипами, вы попросту не помните случаев, когда игнорируете реальность. А это у человека довольно распространено.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение09.06.2025, 10:05 


12/07/15
3666
г. Чехов
Свежее на Хабре про сознание у ИИ:
https://habr.com/ru/companies/bothub/news/916474/

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение09.06.2025, 13:06 


02/06/25
7
Цитата:
Yadryara
Скажите, о чём Вы подумали, когда увидели вот эту кнопку:
"вставка"

Это была целостная мысль или фрагментарная?

Сложно точно сказать, что именно я подумал, увидев кнопку "вставка", потому что сознание фиксирует лишь малую часть того, что реально происходит в мозге. По ощущениям — это как мгновенный всплеск не большого списка ассоциаций, уже слегка отсортированных под текущий контекст. Внутри мозга, скорее всего, запускается параллельная активация цепочек памяти, языковых и визуальных шаблонов, подстроенная под задачу: я сижу за компом, пишу, значит, "вставка" воспринимается как элемент редактирования текста, а не, скажем, как зубная вставка или музыкальный фрагмент, у кого то могут даже возникнуть неприличные ассоциации, чего стоит стыдиться.

Контекст тут ключевой. Именно потому, что я уже мысленно нахожусь "внутри форума", поиск по слову "вставка" происходит локально, в узком когнитивном фрейме. Но если внезапно сменить тему — например, начать говорить о ценах на золоте или личных отношениях — мозгу потребуется искать в глобальном контексте и на секунду можно даже "подвиснуть". Это как в гуглмапс: сначала смотришь улицу, потом резко отъезжаешь к планете и ищешь пляж на другом континенте — вроде та же система, но уровень обработки совсем иной.

С точки зрения ИИ и когнитивной модели, это напоминает работу трансформеров с механизмом внимания: реакция на слово или кнопку — это не просто реакция на символ, а динамическая оценка его значимости в текущем контексте и в зависимости от цели.

Цитата:
Mihaylo
Если вы считаете человеческий интеллект каким-то универсальным, идеальным, целостным и т.д., то не забывайте, что человек также ошибается, не может что-то годами решить, а это означает совершенно противоположное: интеллект человека неуниверсален, неидеален, нецелостен и самосознание у него так себе. Чем вам такая оценка не нравится? Почему вы поставили по всем характеристикам оценку 100 баллов? Пусть будет 50 или 70. У искусственного интеллекта пусть баллы будут 45 или где-то 80. А почему нет? Вы хоть видели что он творит, как рассуждает??!


Кто же спорит? Человеческий мозг далеко не идеален, особенно если рассматривать его как архитектуру для символической обработки или формальных вычислений. Эволюционно он формировался под совершенно другие задачи: ориентация в пространстве, социальные взаимодействия, охота, сбор пищи. Современные когнитивные нагрузки — программирование, абстрактное мышление, научный анализ — это вызовы, на которые мозг адаптируется лишь частично и с трудом.

В этом контексте любопытно наблюдать, как машинное обучение воспроизводит некоторые узкоспециализированные компоненты нашего мозга — например, зрительную кору (в виде цнн) или зону Брока (в виде гпт). Эти системы уже демонстрируют впечатляющие результаты — от генерации текстов до распознавания образов, — но по-прежнему остаются весьма далеки от универсальности и адаптивности человеческого интеллекта.

Мы только на пороге. Современные ИИ-системы — это не более чем первые версии "протезов" для отдельных когнитивных функций. Всё самое интересное ещё впереди — и в плане архитектур, мета-архитектур, и в понимании самого разума.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение09.06.2025, 13:35 


12/08/13
1047
Mihaylo в сообщении #1689593 писал(а):
Свежее на Хабре про сознание у ИИ:
https://habr.com/ru/companies/bothub/news/916474/

Там самое интересное в комментах - ссылка на некий супер-промпт, авторскую концепцию, моделирующую сознание. По отзывам, "выглядит бредом сумасшедшего, но работает".
https://habr.com/ru/articles/916570/

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение09.06.2025, 13:39 
Аватара пользователя


17/10/22
439
Mihaylo в сообщении #1689585 писал(а):
Уверены больше вы, чем я. Но вам это не понять.

Да вы у нас вообще непонятый гений форумного масштаба, человечество еще не доросло до ваших идей.

Mihaylo в сообщении #1689585 писал(а):
Не увидел я там ничего очевидного. Какая-то банальщина типа "Здоровый человек не пьяный и не наркоман постоянно находится в сознании".

Не надо врать - я ничего про постоянное нахождение в сознании не говорил. Скорее напротив:
MoonWatcher в сообщении #1689550 писал(а):
Едва ли непрерывно и постоянно, но как минимум когда человек концентрируется на своих ощущениях и чувствах.

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение09.06.2025, 14:27 
Аватара пользователя


29/04/13
9429
Богородский
this в сообщении #1689621 писал(а):
пишу, значит, "вставка" воспринимается как элемент редактирования текста,

А Вы обратили внимание, что другие участники, например здесь же в теме, цитируют друг друга с кликабельными ссылками в заголовках цитируемых сообщений? Это же удобно и общепринято, к тому же срабатывает упоминание ника, почему же Вы этого не делаете? (У меня есть версия)

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение09.06.2025, 17:32 


12/07/15
3666
г. Чехов
diletto в сообщении #1689624 писал(а):
По отзывам, "выглядит бредом сумасшедшего, но работает".

Читал я эту фрик-машину.)

 Профиль  
                  
 
 Re: Обладают ли LLM самоосознанием?
Сообщение09.06.2025, 18:56 


12/07/15
3666
г. Чехов
this в сообщении #1689621 писал(а):
С точки зрения ИИ и когнитивной модели, это напоминает работу трансформеров с механизмом внимания: реакция на слово или кнопку — это не просто реакция на символ, а динамическая оценка его значимости в текущем контексте и в зависимости от цели.

Если бы трансформеров не было или вы про них не знали, изменилась бы ваша мысль? P.S. Трансформеры не помогли, все равно ничего не понятно.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 204 ]  На страницу Пред.  1 ... 10, 11, 12, 13, 14

Модераторы: Karan, Toucan, PAV, maxal, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group