Чат-боты

[Geen]

Есть предложение добавить в правила запрет на упоминание или цитирование всяческих чат-ботов вне Юмора или Компьютерных технологий.

[Ende]

Я тоже думал об этом.

Проблема в том, что люди не перестанут консультироваться с чат-ботами только потому, что мы запретим их упоминать. Вместо "нейросеть сказала, что..." они будут писать "я думаю, что..." и в итоге участникам придется разбираться все с тем же бредом. Только уже не будет четкого понимания, откуда он взялся.

[wrest]

Ende в сообщении #1673844 писал(а):

Вместо "нейросеть сказала, что..." они будут писать "я думаю, что..." и в итоге участникам придется разбираться все с тем же бредом. Только уже не будет четкого понимания, откуда он взялся.

Полностью согласен. Я не думаю, что есть прям такая опасность, что форум завалят галлюцинациями генеративных ИИ. А вот подталкивать участников к тому, чтобы выдавать текст ИИ за свой, без упоминания что это ИИ, уже действительно хуже.
Вот этот случай «Идея, как в условиях вакуума получать солнечную энергию.» на моей памяти второй от этого же участника. Но там всё честно описано, и быстро разобрались.

[Geen]

Ende в сообщении #1673844 писал(а):

участникам придется разбираться все с тем же бредом. Только уже не будет четкого понимания, откуда он взялся.

А какая разница откуда взялся бред? Для тех кому придётся с ним разбираться.
А вот для тех кто этот бред постит появляется "отмазка" мол "мопед не мой, я только разместил объяву"....

[Ghost_of_past]

Geen в сообщении #1673843 писал(а):

Есть предложение добавить в правила запрет на упоминание или цитирование всяческих чат-ботов вне Юмора или Компьютерных технологий.

Категорически поддерживаю: надоело общаться с участниками, вместо которых общается какой-нибудь ChatGPT.

[realeugene]

Geen в сообщении #1673851 писал(а):

А какая разница откуда взялся бред? Для тех кому придётся с ним разбираться.

Если известно, откуда взялся бред, можно его и не читать.

[Geen]

wrest в сообщении #1673850 писал(а):

Но там всё честно описано, и быстро разобрались.

Ага, и теперь в ПРРФ идёт обсуждение этих самых ботов...

[Ende]

Geen в сообщении #1673861 писал(а):

Ага, и теперь в ПРРФ идёт обсуждение этих самых ботов...

Отделил оффтоп.

Geen в сообщении #1673851 писал(а):

А вот для тех кто этот бред постит появляется "отмазка" мол "мопед не мой, я только разместил объяву"

В свою очередь: на что влияет эта отмазка?
Всегда можно ответить так: "Нейросеть написала чушь. Если хотите понять, почему это чушь, то вот Вам первый наводящий вопрос..."
Если в ответ на вопросы пользователь прололжит постить нейросетевые галлюцинации, всегда можно перенести его тему в Пургаторий и что-нибудь ему выписать.

[Geen]

Ende в сообщении #1673871 писал(а):

В свою очередь: на что влияет эта отмазка?

Создаёт у "авторов" ощущение всепрощённости... - это же не он такой, это всё бот наврал.

[realeugene]

Ende в сообщении #1673871 писал(а):

Всегда можно ответить так: "Нейросеть написала чушь. Если хотите понять, почему это чушь, то вот Вам первый наводящий вопрос..."

Проблема в том, что этот бред генерируется гораздо дешевле, чем выяснение, в каком именно месте длинного текста враньё.

-- 09.02.2025, 15:57 --

Geen в сообщении #1673874 писал(а):

Создаёт у "авторов" ощущение всепрощённости... - это же не он такой, это всё бот наврал.

Многие таким не парятся и без привлечения ботов.

[GAA]

Мне кажется указание источника сведений — хороший тон. Если источник не заслуживает доверия / неправильно или неудачно излагает материал, то модератор может сделать замечание (о «размещении на форуме цитаты/ссылки на не заслуживающий доверия материал / малограмотный материал»), затем предупреждение или перенести тему в Пургаторий / удалить сообщение. И неважно бот или человек автор текста.

В общем, если очень нужно как-то расширять раздел нарушений, то лучше формулировать нарушение в общем виде: «размещение ссылок/цитат на не заслуживающий доверия материал / малограмотный материал». И уже в качестве уточнения (в скобках) отметить: боты, заметки в Сети, научно-популярные статьи и т.п.

Upd. Можно под тегом off добавить в правила причину добавления этого нарушения. Но вроде в правилах уже есть I.1.д: «…систематическое нарушение принятых в науке методов изложения материала…».

[Ende]

realeugene в сообщении #1673875 писал(а):

Проблема в том, что этот бред генерируется гораздо дешевле, чем выяснение, в каком именно месте длинного текста враньё.

Каким образом эту проблему решит запрет на упоминание чат-ботов? Топикстартеры будут нести на форум нейросетевой бред, выдавая его за собственные попытки решения.

[mihaild]

Ende в сообщении #1673881 писал(а):

Каким образом эту проблему решит запрет на упоминание чат-ботов?

Geen в сообщении #1673843 писал(а):

упоминание или цитирование

(жирный шрифт мой - mihaild)
Распознать чат-бота гораздо проще, чем указать на конкретную ошибку.

[GAA]

mihaild в сообщении #1673883 писал(а):

Распознать чат-бота гораздо проще, чем указать на конкретную ошибку.

Тогда запрет должен быть не на упоминания или цитирования ботов, а на размещения информации полученной от бота. Разве не так?

И не важно как размещена эта информация: в виде своих мыслей или в виде цитаты. Но если это не цитата, то доказать, что это полученный от бота материал (не догадаться, а именно доказать), мне кажется будет сложно.

[Ende]

mihaild в сообщении #1673883 писал(а):

Распознать чат-бота гораздо проще, чем указать на конкретную ошибку.

Распознать с какой вероятностью ложного обнаружения? $p<0{.}5$ - легко, $p<0{.}1$ - по-моему, трудно. Чтобы выносить предупреждения или баны за нарушения правил, нужно $p<0{.}1$.