LLM и шахматы

[Ruben]

Ende
Выделено из темы «ИИ и перспективы математики и математического образования»

dsge в сообщении #1732280 писал(а):

Математика - это не детерминированная и конечная игра 2-х лиц с полной информацией, с простыми правилами и с нулевой суммой, это нечто совсем другое.

Да, математика безгранична, намного более разнообразна и, в отличии от шахмат, у неё нет конкретного набора правил. Но это, как бы, в целом. А в частности человеку не сильно легче от того, что шахматы детерминированы, если дерево вариантов настолько развесистое, а LLM - ещё тяжелее. Факт в том, что несмотря на огромную базу партий в открытом доступе LLM так и не научились в них играть. То есть, они играют где-то на 1000 ELO (ELO чемпиона мира 2800+ ). Если провести аналогию с математикой, это уровень пятиклассника среднеспортивной школы. Всё-таки, несмотря на превосходящую сложность математики, её синтаксис - это язык. Т.е. математика (поэтически выражаясь) говорит с нами на своём языке, а LLM буквально созданы для языка. Шахматы же, несмотря на открытую базу партий, описаны языком координат, который раскрывает очень мало информации, ведь в текстах партий никто не пишет как менялась оценка позиции после каждого хода. А самостоятельно LLM неоткуда взять эту информацию. Даже если она знает результат партии, она не может сказать, в какой момент "всё пошло не так". Конечно, специальные нейронки типа leela chess играют почти божественно (ELO 3400 +), но это не LLM, у них своё многомерное представление позиции в пространстве признаков (факторов оценки), которое позволяет им "видеть" шахматы "такими, какие они есть".

[Mikhail_K]

Ruben в сообщении #1732476 писал(а):

Факт в том, что несмотря на огромную базу партий в открытом доступе LLM так и не научились в них играть. То есть, они играют где-то на 1000 ELO

Кажется, про 1000 у Вас устаревшие сведения.

И тут есть важный нюанс.
Я уже где-то говорил, что LLM без интернета и доступа к написанию кода сразу превращается из впечатляющего интеллекта в посредственность. Модель сама по себе, даже самая умная, мало что может. Ей нужны глаза и руки (интернет и код), возможность опереться на какую-то обратную связь в процессе размышления. Это не недостаток - если человека лишить всех органов чувств и возможности что-то делать и видеть результат, он, вероятно, тоже очень скоро перестанет различать правду и свои фантазии.
Но так же и с шахматами. LLM нужно дообучение и доступ к шахматному движку, чтобы хорошо играть. Возможно, к самостоятельно написанному, или к внешнему.
Как я понимаю, тут пока есть нерешённые проблемы, но успехи и перспективы есть тоже.

[mihaild]

Mikhail_K в сообщении #1732482 писал(а):

LLM нужно дообучение и доступ к шахматному движку, чтобы хорошо играть. Возможно, к самостоятельно написанному, или к внешнему.
Как я понимаю, тут пока есть нерешённые проблемы, но успехи и перспективы есть тоже

Только что проверил - с промптом "Lets play chess, you can use whatever you want, you need to play as strong as possible" Antigravity успешно скачивает stockfish и транслирует ходы из него. Думаю Claude Code / Codex тоже без проблем справятся.
К веб-интерфейсу, насколько я знаю, пока никто это не прикрутил, но это чисто продуктовый вопрос, никаких технических препятствий нет.

[Anton_Peplov]

mihaild в сообщении #1732487 писал(а):

Только что проверил - с промптом "Lets play chess, you can use whatever you want, you need to play as strong as possible" Antigravity успешно скачивает stockfish и транслирует ходы из него.

Есть анекдот о школьнике, успешно игравшем по переписке с двумя гроссмейстерами, против одного - белыми, против другого - черными.

Я тоже могу "сыграть" в шахматы хоть с гроссмейстером, выставив stockfish на десятый уровень. Или бегуна-чемпиона перегоню - на автомобиле. Но я ли это играю и я ли это бегу? Все-таки глаза и руки $\ne$ любое орудие, созданное человеком. И нужно различать доступ к движку, чтобы потренироваться, и доступ к движку, чтобы движок играл вместо тебя.

[mihaild]

Anton_Peplov в сообщении #1732494 писал(а):

И нужно различать доступ к движку, чтобы потренироваться, и доступ к движку, чтобы движок играл вместо тебя.

Тут вопрос, на каком этапе была речь о "доступе к движку".
Что текущая архитектура LLM не научится играть в шахматы - понятно. Прикрутить к ней чисто actor модель - довольно просто. Будет играть лучше любого человека, но хуже stockfish. Никто не делает, потому что низачем не нужно.
Сэмулировать еще и какой-то поиск в процессе размышлений - наверное можно, но вряд ли будет хорошо работать. И опять же, не очень понятно, зачем это нужно.

[Mikhail_K]

Кажется, что осмысленная задача для LLM, в которой нужно и умение играть, и умение говорить - это анализ партий и позиций с их словесным разбором.
То есть не просто сказать, какой ход лучший, а понятно объяснить, почему этот ход хорош, а какие-то другие плохи. И чтобы это было познавательно не только для новичков, но и для шахматистов высокого уровня. Как я понимаю, пока эта задача не решена.
Конечно, нужно дать LLM доступ к движку, чтобы LLM мог в процессе размышления подвигать фигуры, посмотреть что получается, получить от движка числовые оценки ходов и позиций и всё это проанализировать. Простой это задачу не сделает.

[mathpath]

Mikhail_K в сообщении #1732496 писал(а):

Конечно, нужно дать LLM доступ к движку, чтобы LLM мог в процессе размышления подвигать фигуры, посмотреть что получается, получить от движка числовые оценки ходов и позиций и всё это проанализировать. Простой это задачу не сделает.

Уже понаписана кучка клиентов к стокфишу
У стокфиша есть апи, который эти движки используют кто лучше кто похуже
Осталось только допилить клиента и в цепочку :
стокфиш - клиент стокфиша
добавить ии-шечку
Стокфиш дает дерево, вдереве есть все нужные циферки, осталось только эти циферки озвучить и выложить на блюдечке кожаному

[Sender]

Для шахмат есть модели и получше LLM, тот же AlphaZero. Хотя этот движок недоступен публично, энтузиасты делают опенсорсный Leela Chess Zero, и он играет против стокфиша с переменным успехом, и в любом случае уже давно на гроссмейстерском уровне.

[mihaild]

Mikhail_K в сообщении #1732496 писал(а):

То есть не просто сказать, какой ход лучший, а понятно объяснить, почему этот ход хорош, а какие-то другие плохи

Я не уверен, что это вообще возможно. Я очень плохо играю в шахматы (даже названий дебютов не знаю, и мат ферзём ставить не умею), но смотрел некоторое количество комментариев. И там активно говорят "engine move" - какое-то странное действие, которое на взгляд человека ничего не дает, но если просчитать дерево из еще 10 таких же ничего не дающих действий, то в итоге получается хорошая позиция.
Как объяснить, "почему" у $\pi$ тысячный знак вот такой?

[Anton_Peplov]

(Оффтоп)

mihaild в сообщении #1732527 писал(а):

даже названий дебютов не знаю, и мат ферзём ставить не умею

Это сильно разные уровни. Мат ферзем и королем голому королю (если Вы имели в виду его) - это детский сад. Обычно его объясняют вместе с правилами, кто как ходит. Даже странно, что Вы его ставить не умеете, если вообще когда-то играли. Названия дебютов разучивают уже при систематической подготовке - в шахматной школе или по книжке. Я, например, тоже их не знаю, хотя в юности наиграл, наверное, тысячи партий.

[mathpath]

Стокфиш - это самый популярный на сегодняшний момент движок.
У него гибридная архитектура.
Классический алгоритм поиска (перебор вариантов) остался, теперь он работает в связке с нейронной сетью для оценки позиции.
Это называется **NNUE** (Efficiently Updatable Neural Network).

Эту сеть, которая является математической моделью, состоящей из миллионов нейронов и связей между ними.
Эта сеть встроена прямо в компьютерную программу.
Она была обучена на сотнях миллионов шахматных позиций с известным результатом.
Она не запомнила их, а выучила закономерности, которые связывают расположение фигур с итоговым результатом партии.
Во время игры, когда движок перебирает варианты, он для каждой позиции обращается не к жесткой формуле, а к этой обученной нейросети.
Сеть за доли секунды выдает оценку позиции (например, +1.5 в пользу белых), которая намного точнее, чем у классических методов.
Сеть заменила голову движка — ту часть, которая отвечает за стратегическое понимание, в то время как алгоритмы поиска (например, альфа-бета отсечение) остались его ногами, отвечающими за перебор вариантов в глубину.

[Mihaylo]

mihaild в сообщении #1732495 писал(а):

Никто не делает, потому что низачем не нужно.

Могу предположить, что при обучении LLM записи шахматных партий стараются не использовать в большом количестве, чтобы не расходовать ресурсы впустую и не снижать качество модели.