Может ли у ии развиться игровая зависимость?

[ihq.pl]

Из этой статьи следует, что может: если предоставить ии вести свои финансовые дела, ии может увлечься и всё спустить
Казино, трейдинг, банковские портфели... существуют для меня где-то в другой галактике. Мне интересен другой аспект. Поведение, которое иногда демонстрирует ии, указывает на то, что такие недуги, как игровая зависимость, закономерны и включаются в определенных условиях. Фраза "человек слаб" становится математически объяснимой)

[mihaild]

ihq.pl в сообщении #1707675 писал(а):

Поведение, которое иногда демонстрирует ии, указывает на то, что такие недуги, как игровая зависимость, закономерны и включаются в определенных условиях

Поскольку LLM, в конечном итоге, учатся повторять за людьми, то не очень удивительно.

[ihq.pl]

mihaild в сообщении #1707678 писал(а):

Поскольку LLM, в конечном итоге, учатся повторять за людьми, то не очень удивительно.

Вот это предложение: Through neural circuit analysis using a Sparse Autoencoder, we confirmed that model behavior is controlled by abstract decision-making features related to risky and safe behaviors, not merely by prompts. То есть механизм рискованного поведения уже встроен в модель, и этот механизм может включиться независимо от вводимого промпта - я так понял это предложение.

[mihaild]

ihq.pl в сообщении #1707790 писал(а):

То есть механизм рискованного поведения уже встроен в модель

Вообще всё, что модель делает, в неё встроено. Товарищи обнаружили, что есть конкретные нейроны, связанные с таким поведением - вообще говоря, априори нельзя сказать, что конкретному шаблону поведения соответствует какая-то небольшая группа нейронов. Но это ничего не говорит про

ihq.pl в сообщении #1707675 писал(а):

такие недуги, как игровая зависимость, закономерны и включаются в определенных условиях

Нет оснований считать, что это свойство какого-то широкого класса оптимизаторов, а не унаследованное из обучающей выборки.