Чат-боты как источник информации

[Cantata]

Ende
Выделено из темы «Идея, как в условиях вакуума получать солнечную энергию.»

Alex-Yu
Вы считаете, что нейросети в обучении уже достигли своего предела?

[Ende]

Cantata в сообщении #1673842 писал(а):

Вы считаете, что нейросети в обучении уже достигли своего предела?

Этот вопрос не имеет отношения к ПРР. По существу можно сказать вот что: ответам нейросетей нельзя доверять сейчас и будет нельзя доверять в ближайшие годы. Бессмысленно задавать им вопросы, если Вы не готовы самостоятельно отделить в их ответах правду от лжи.

[Red_Herring]

Ende в сообщении #1673846 писал(а):

Вы не готовы самостоятельно отделить в их ответах правду от лжи.

Эти ответы не содержат ни правды, ни лжи, поскольку лжец знает, что он лжет, а ИИ в данном случае правду от лжи не только не отделяет, но и не ставит своей целью. Все это давно описано, задолго до появления ИИ.

[Alex-Yu]

Cantata в сообщении #1673842 писал(а):

Alex-Yu
Вы считаете, что нейросети в обучении уже достигли своего предела?

Дело не в нейросетях как таковых. Дело в тех массивах информации, на которых эти нейросети обучаются. Там же все подряд, большая помойка. Кстати, с людьми та же самая проблема. Пресловутая "свобода слова" + интернет привели к тому, что информации стало по существу меньше, а не больше. Потому как реальная информация утонула в огромной куче информационного мусора.

[realeugene]

Alex-Yu в сообщении #1673839 писал(а):

Еще немного, и дипсики станут не глупее людей.

Есть ощущение, что уже. Просто вы пытаетесь сравнивать с лучшими известными вам представителями людей.

На данный момент проблема с сетками для форума в том, что они позволяют бесплатно для малограмотных людей и мгновенно сгенерировать текст на пару страниц, который в общем правильный и полностью соответствует грамматике естественного языка, но в деталях и нюансах там может быть лажа. Примерно как у любителей теорий заговора. И этот правдоподобный доставшийся им бесплатно сгенерированный роботом текст наивные люди тащат в чат как вопросы, чтобы другие с ним разбирались.

На самом деле, даже бесплатные нерассуждающие сетки сейчас полезны при аккуратном применении, но нужно понимать, где они вероятно будут галюцинировать. Рассуждать и поправлять сетку всё равно пока что должен человек.

-- 09.02.2025, 15:20 --

Cantata в сообщении #1673759 писал(а):

Сама идея: создать эффект, похожий на смерч, т.е. систему для космического аппарата,
где газ циркулирует по трубам между горячей (солнечной) и холодной (теневой) сторонами
аппарата – как в цикле Стирлинга или на основе эффекта Зеебека. Нагреваясь от Солнца,
газ расширяется и движется к холодной стороне, где охлаждается, создавая цикл.
Эта разница температур может использоваться для генерации электроэнергии,
которая питает двигатель или другие системы аппарата.

Если в двух словах: правдоподобно, но нюансы делают другие технические решения гораздо более выгодными, чем эта вполне очевидная идея.

Cantata в сообщении #1673759 писал(а):

Все научные данные мне сообщил DeepSeek, я в них совсем не разбираюсь.

А вот это совсем плохо, так как сетки в настоящее время гораздо лучше генерируют бред, чем его опровергают.

[Red_Herring]

realeugene в сообщении #1673856 писал(а):

Есть ощущение, что уже.

А у меня ощущение, что уже давно. Многие студенты применяют solution by obfuscation (proof by obfuscation часто упоминается, но в задачах моих курсов для нематематиков нет доказательств). Время от времени, встречаясь с наиболее выдающимися образцами подобных решений или апелляций я пишу в комментариях "this is Math, not Creative Bullshitting" и пока никто не жаловался

(Оффтоп)

(лекторы не проверяют квизы или тесты, только экзамены, но я получаю время от времени апелляции на проверку заданий, и естественно смотрю решения; и они часто густо замешаны именно этим. Вместо того, чтобы написать, "не согласен со снижением оценки за этот пункт решения и почему" они долго и нудно пишут, как высоко ценят этот курс и какие экстраординарные усилия прилагают для его изучения. ) Ещё одно пояснение: решения сканируются и проверяются онлайн, причем одновременно проверка разных решений (т.е. либо разных задач, либо одной и той же задачи в разных работах) может производиться параллельно. Если кого интересует, я могу подробно описать.

[realeugene]

Red_Herring в сообщении #1673876 писал(а):

они долго и нудно пишут, как высоко ценят этот курс и какие экстраординарные усилия прилагают для его изучения.

О, да, ChatGPT пишет примерно то же самое, когда его поправляешь. Как он сильно извиняется за ошибку, и как он благодарен, что его поправили.

Кстати, с ChatGPT риск тут в том, что написанному человеком он априорно приписывает высокое правдоподобие. И если нужно просто уточнить непонятное, лучше писать уточняющие вопросы, а не пытаться с ним спорить. Впрочем, как и со многими людьми.

[Alex-Yu]

realeugene в сообщении #1673878 писал(а):

Впрочем, как и со многими людьми.

Я бы сказал иначе: как и с большинством из людей. Собственно, все эти сети что делают? Они просто так или иначе, более или менее успешно, копируют поведение людей. Их же на этом и обучают: на огромном массиве человеческих высказываний. Так что копируют они большинство людей. И бог бы с ними, с сетями. Хуже то, что, по меньшей мере большинство людей деградирует. И у меня сильное подозрение, что не только большинство.

[Red_Herring]

realeugene в сообщении #1673878 писал(а):

О, да, ChatGPT пишет примерно то же самое, когда его поправляешь.

Не случайно, что в английском, что в русском, Интеллект и Идиотизм начинаются с одной и той же буквы.

[realeugene]

Red_Herring в сообщении #1673900 писал(а):

Не случайно, что в английском, что в русском, Интеллект и Идиотизм начинаются с одной и той же буквы.

Сарказм.
Но реакции ChatGPT таки отражают поведение людей. Он - функция, аппроксимирующая человеческие реакции. В том числе, он научился работать с модальностями в тексте. Так что связь тут прямая, а не через совпадающие буквы.

-- 09.02.2025, 18:08 --

Alex-Yu в сообщении #1673899 писал(а):

Собственно, все эти сети что делают? Они просто так или иначе, более или менее успешно, копируют поведение людей. Их же на этом и обучают: на огромном массиве человеческих высказываний. Так что копируют они большинство людей.

Есть важные отличия. Прежде всего, у сетки кругозор гораздо больше, чем у среднего человека. Хоть нерассуждающие сетки и не могут строить цепочки вывода, они берут широтой записанных знаний.

Кроме того, сетки перед выпуском донастраивают вручную, предъявляя для обучения специально подобранные образцы, чтобы выправить огрехи обучения на мусоре из интернета.

[Alex-Yu]

realeugene в сообщении #1673901 писал(а):

Прежде всего, у сетки кругозор гораздо больше, чем у среднего человека.

Дуракам и кругозор вреден.

P.S. Вообще-то это модификация фразы, когда-то мной прочитанной в какой-то книге (эпиграф был такой): "Дуракам и грамота вредна". А ведь верно! Что про кругозор, что про грамоту.

[Anton_Peplov]

Alex-Yu в сообщении #1673906 писал(а):

Дуракам и грамота вредна

С. Черный писал(а):

Ослу образованье дали.
Он стал умней? Едва ли.
Но раньше, как осел,
Он просто чушь порол,
А нынче — ах злодей —
Он, с важностью педанта,
При каждой глупости своей
Ссылается на Канта.

[Cantata]

Anton_Peplov

Очень мило. Я умудрилась своим постом вас так задеть, что вы опустились до оскорблений? Поверьте, даже в мыслях такого не было чтобы кого-либо задеть.
У меня был вопрос, пришла спросить на форум. Иначе для чего форумы созданы? Пост нужно было разместить в Юморе?

[Anton_Peplov]

Cantata
Ой. Ради Бога, не принимайте на свой счет. Совершенно не имел в виду Вас обидеть. Под "ослом" С. Черного я здесь подразумевал нейросеть, а не человека, тем более кого-то конкретного, тем более Вас. Смысл: нейросеть жонглирует умными словами, при этом несет чушь.

[Cantata]

Alex-Yu

Знаете, что самое ужасное во всей этой ситуации?
Не резкие реакции, я могу их понять и даже по-своему объяснить их причины, а то, что если посмотреть со стороны, то становится понятно, что появление новых технологий, тех же нейросетей, существенно влияет на все слои населения и каждый человек по-разному реагирует на их вмешательство в привычный уклад жизни.

-- 09.02.2025, 19:16 --

Anton_Peplov
Благодарю, потому что грамота мне ещё точно пригодится))