Чат-боты

[realeugene]

Бот при правильном обращении бывает полезнее Википедии. И гугления.

По минимуму, к выложенному человеком ответу бота нужно относиться как к мнению, высказанному самим человеком.

[mihaild]

GAA в сообщении #1673887 писал(а):

Тогда запрет должен быть не на упоминания или цитирования ботов, а на размещения информации полученной от бота.

Вот распознать "полученную информацию" очень сложно.
Если я немног попинаю чатбота, то смогу получить от него конструкцию вечного двигателя, одновременно доказывающую ВТФ. Прямое её цитирование обнаружить просто. А вот пересказ - сложно. Но и менее важно, потому что на пересказ я буду вынужден потратить $\Theta(\text{размер текста})$ усилий, а не $O(1)$, как для цитирования.

Ende в сообщении #1673888 писал(а):

Распознать с какой вероятностью ложного обнаружения? $p<0{.}5$ - легко, $p<0{.}1$ - по-моему, трудно

Не уверен, что есть точные замеры, и их наверняка нет с учетом специфики форума. Но, думаю, что-то уровня 95% precision, 50% recall легко достижимо.

[Утундрий]

Предлагаю запретить запрещать.

[Ende]

Как вариант: могу переносить такие темы в карантин в связи с отсутствием собственных попыток решения. "Спросить у чат-бота" на собственные попытки решения не тянет.
При возникновении сомнений, написан код человеком или чат-ботом, буду консультироваться с mihaild.

[Osmiy]

Если пользователь в качестве попытки самостоятельного решения предоставит ответ чат-бота и напишет об этом, то это будет считаться ответом?

[Ende]

Osmiy в сообщении #1674028 писал(а):

Если пользователь в качестве попытки самостоятельного решения предоставит ответ чат-бота и напишет об этом, то это будет считаться ответом?

Понятие "попытки самостоятельного решения" можно трактовать широко. Например, засчитываются определения из учебника, которые, на взгляд ТС, имеют отношение к делу. А по нынешним временам эти определения можно нагуглить за секунду.
Если большинство обсуждающих выскажется за то, чтобы не засчитывать ответы чатбота за попытки решения, я не буду их засчитывать.

[Ghost_of_past]

Возможно к идее запрета информации, полученной от LLM и чат-ботов, всё-таки нужно вернуться, так как мы все можем наблюдать, как некоторые тащат свое общение с ними на форум и выдают за что-то важное и нужное к обсуждению

[Ende]

Ghost_of_past в сообщении #1683023 писал(а):

Возможно к идее запрета информации, полученной от LLM и чат-ботов, всё-таки нужно вернуться, так как мы все можем наблюдать
, как некоторые тащат свое общение с ними на форум и выдают за что-то важное и нужное к обсуждению

Тут дело не в чат-ботах. Этот персонаж и раньше нес на форум свои нетленки.

[Ghost_of_past]

Ende в сообщении #1683033 писал(а):

Этот персонаж и раньше нес на форум свои нетленки.

Не знал этого, спасибо. Ну тогда, и правда, подобный запрет в этом случае не будет эффективным.

[Ende]

В последнее время на форум проникла мода спрашивать нейросети, а потом просить людей разобрать тот бред, который наваял ИИ. MoonWatcher и другие, не надо так.

Я не в восторге от идеи вносить в правила новые запреты и основания для бана. Их и так предостаточно. Но я бы хотел, чтобы выкладывание ответов нейросетей, а тем более просьба к людям проверить за нейросетями, стало на форуме дурным тоном.

Это, разумеется, не относится к темам, специально созданным для проверки возможностей ИИ.

[Ende]

realeugene в сообщении #1673905 писал(а):

По минимуму, к выложенному человеком ответу бота нужно относиться как к мнению, высказанному самим человеком.

Обычно нейросеть спрашивают не о мнениях. Мнений у человека и так полная голова, в том числе о вещах, о которых он ничего или почти ничего не знает (когда-нибудь я, наверное, перестану этому удивляться). Нейросеть спрашивают о фактах. Как в недавнем примере: "Какие сейчас существуют теории сознания?".

И поскольку речь о фактах, то у человека можно спросить, откуда он это знает. А дальше решать, авторитетный это источник или нет. А то и самому заглянуть в источник и перепроверить. У нейросети не спросишь, взяла она это из энциклопедий и научных статей (и корректно ли при этом пересказала) или просто выдумала. То есть спросить, конечно, можно, но ответ ничего не гарантирует, даже того, что перечисленные сетью статьи и книги действительно существуют.

[Sender]

Именно. Нейросети в их нынешнем виде непригодны даже для такой простой задачи, как найти художественную книгу по описанию, приписывая известным авторам несуществующие произведения.

[realeugene]

Ende в сообщении #1690547 писал(а):

То есть спросить, конечно, можно, но ответ ничего не гарантирует, даже того, что перечисленные сетью статьи и книги действительно существуют.

Но это уже можно проверить самостоятельно, не читая миллионы книг. При этом, по моему опыту, мейнстрим сетки излагают уже достаточно качественно, видимо ввиду большого количества обучающих текстов, и в качестве поисковиков точно не известно чего или чтобы вспомнить забытое они использоваться могут. А вот конкретный уникальный текст при помощи них найти сложно.

[Ende]

realeugene в сообщении #1690572 писал(а):

Но это уже можно проверить самостоятельно, не читая миллионы книг.

Пожалуйста, проверьте самостоятельно этот ответ нейросети. Да хотя бы и этот. После этого расскажите, сколько книг понадобилось прочесть и чем нейросеть облегчила Вам работу по сравнению с самостоятельным поиском той же информации.

[realeugene]

Ende в сообщении #1690578 писал(а):

realeugene в сообщении #1690572 писал(а):

Но это уже можно проверить самостоятельно, не читая миллионы книг.

Пожалуйста, проверьте самостоятельно этот ответ нейросети. Да хотя бы и этот. После этого расскажите, сколько книг понадобилось прочесть и чем нейросеть облегчила Вам работу по сравнению с самостоятельным поиском той же информации.

Я заметил, что можно проверить самостоятельно, существуют ли книги и статьи, упомянутые в ответе нейросети. Затем, при желании, можно в них и углубиться, если они существуют. По вашим ссылкам книги и статьи не упоминаются.