Цитата:
Утундрий
Я просто выражу своё предвзятое мнение: если "он" и не умеет думать, то всем бы так не уметь.
Небольшой пример, без лишних деталей. Словами описываю структуру матрицы и выдвигаю гипотезу о распределении её собственных значений вблизи нуля. Да, важный момент: это всё в режиме "глубокого исследования". Чат уходит в себя. Медленно заполняется шкала прогресса, ниже которой высвечиваются текущие этапы. Вот он насилует Википедию, вот пишет код на питоне, вот ищет внешний ресурс, чтобы этот код выполнить, вот анализирует результаты, и вот он, наконец, разродился отчётом. В отчёте: рекуррентная формула, позволяющая связать последовательность определителей с классическими полиномами, ссылка на их асимптотику при стремлении степени к бесконечности, подтверждение моей гипотезы и вдобавок зачем-то ещё несколько результатов вычислений по той самой программе. Для практически мыслящих, видать. И всё это за пять минут реального времени.
Всё только начинается, говорите? Для него, да. А для нас, боюсь, всё уже потихоньку заканчивается.
Вы описали не просто работу LLM, а взаимодействие с агентной системой — гибридной архитектурой, где языковая модель не ограничивается генерацией текста, а инициирует целую цепочку действий: ищет информацию, пишет и исполняет код, интерпретирует результат и использует его в рассуждении. Это уже не просто предсказатель токенов, а предсказатель токенов с инструментами. Разница здесь примерно как между человеком, владеющим речью, и человеком, дополнительно владеющим математикой и вычислительными средствами.
Такие системы действительно радикально повышают производительность — в ряде сфер в 2–5 раз. Но говорить о том, что "шеф всё пропало", преждевременно. Чтобы эффективно использовать такие инструменты, по-прежнему нужен человек, способный формулировать задачи, понимать контекст и управлять сложностью. "Человек с улицы" за 50тр не сможет взаимодействовать с ИИ на уровне, достаточном для реального результата — так же как домохозяйка не сможет руководить проектом АЭС, даже если у неё в распоряжении лучшие специалисты. Интеллектуальный труд не исчезает, он просто переходит в новую фазу. Но конечно произойдет некий процесс отделения "зёрен от плевел", балласту придётся не легко.
Цитата:
Mihaylo
Вы будете удивлены, узнав, что знание статистических данных - это и есть понимание. К чёрту ваши размышления. Мы должны 100 раз повторить, прежде чем начать понимать.
MoonWatcher
Китайская комната получает правила извне - LLM формирует их сама, и это некоторые ведущие специалисты в области ИИ трактуют как понимание.
В каком-то смысле да — языковая модель действительно "понимает", если под этим иметь в виду предсказание наиболее вероятного следующего токена в заданном контексте. Но это принципиально иное понимание, чем у человека. Человеческое мышление опирается не только на последовательность слов, но на глубинную семантику и представление сцены в реальном (или мысленном) мире. Для нас слова — это не просто символы, а указатели на сложные образы, концепты, переживания и динамические модели. Слово и фраза для человека это как одно из свойств объекта в другой модальности, в многих модальностях.
Когда человек воспринимает фразу, он разворачивает за ней некую "внутреннюю сцену" — многомерное, уплотнённое представление, которое ближе к 4D-модели: трёхмерное пространство с временной динамикой. Именно в этом образном пространстве человек находит или строит решение, а затем оборачивает его обратно в язык. Этот процесс целостен: восприятие, моделирование, логика и формулировка работают как единый интегральный механизм.
Воссоздать это чисто инструментально, отдельными модулями — визуализатор здесь, кодогенератор там — вряд ли получится. Ну точнее скорей всего что то получится, возможно даже очень полезное, но другое, со своими плюсами и минусами. Требуется синергия множества модальностей: языковой, пространственной, логической, моторной, эмоциональной и других. Только их согласованная работа даёт то, что мы называем "мышлением" в полном смысле слова. Пока же ИИ-агенты действуют в рамках функционального моделирования и хорошо справляются с конкретными задачами, но всё ещё не обладают этим целостным, реальным ультимодальным сознанием.
07.06.2025, 19:42 
