Снова об образовании в эпоху ИИ

[EUgeneUS]

Ende
Выделено из темы «Некомпенсированная нормальная реакция»

Mikhail_K

Mikhail_K в сообщении #1729420 писал(а):

Я уверен, что нейросеть, даже плохая, не могла сама нагаллюцинировать то, что писал ТС, при разумных запросах к ней.

Не буду настаивать, как оно было в данном конкретном случае. Для этого недостаточно информации.
Отмечу, что Михаил Никитин в каком-то из относительно недавних подкастов с его участием, отметил именно эту опасность использования нейросетей:
1. Дети не учатся сами, а используют нейросети для выполнения заданий. То есть у них вырабатывается не навыки, которым их пытаются научить, а навыки формирования промтов для нейросетей.
2. Нейросети могут галлюцинировать - выдавать неверную информацию, и обосновывать её, как верную. Как в моём примере с охладителем масла, кстати.
3. Когда такие дети подрастут не будет никого, кто бы смог диагностировать галлюцинации нейросети.

С большой вероятностью, мы в этой теме имеем подтверждение этого тезиса.

[Mikhail_K]

EUgeneUS в сообщении #1729421 писал(а):

Когда такие дети подрастут не будет никого, кто бы смог диагностировать галлюцинации нейросети

Когда такие дети подрастут, нейросети не будут галлюцинировать.
Хорошие не галлюцинируют уже сейчас (за редкими исключениями, сравнимыми с уровнем ошибок в учебниках, если не реже).
Хотя речь, конечно, не о тех, что сейчас чаще всего доступны школьникам.

EUgeneUS в сообщении #1729421 писал(а):

Дети не учатся сами, а используют нейросети для выполнения заданий. То есть у них вырабатывается не навыки, которым их пытаются научить

Для этого есть а) письменные самостоятельные и контрольные работы и отказ от оценивания письменных домашних заданий (предложение их только в качестве тренировочных, для подготовки к контрольным работам); б) устные ответы у доски, защиты и обсуждения творческих работ с легитимизацией использования нейросетей, но не бездумного копипастинга из них; в) поощрение нетривиальных вопросов к нейросетям с их обязательным обсуждением на уроке.

[ozheredov]

Mikhail_K в сообщении #1729424 писал(а):

Когда такие дети подрастут, нейросети не будут галлюцинировать.

RLY???

[Gagarin1968]

ozheredov в сообщении #1729435 писал(а):

RLY???

WAD!!!

[ozheredov]

Gagarin1968 в сообщении #1729436 писал(а):

WAD!!!

Put your money where your mouth is

[Alex-Yu]

EUgeneUS в сообщении #1729421 писал(а):

То есть у них вырабатывается не навыки, которым их пытаются научить,

А с чего это Вы взяли, что детей вообще пытаются научить, в частности, физике? Их не этому учат. Их учат быть толерантными, креативными, послушными и т.п. По существу учат быть балбесами. Ну чего стоит одна только идея устраивать для школьников всякие "проекты". И ладно бы проекты выпилить что-то лобзиком, приготовить борщ или еще что-то вроде. Нет же, надо чтобы вселенского уровня, выдумать новую механику, не меньше (ну креативно же!). А ИИ здесь -- дело десятое, довольно второстепенная частность.

[Ende]

Выделена тема «Проблема галлюцинаций LLM и пути ее решения»

[Anton_Peplov]

Проблема галлюцинаций действительно стоит остро. Однако тема посвящена применению ИИ в образовании. Как уже было сказано,

rockclimber в сообщении #1729441 писал(а):

Хорошие нейросети научились не галлюцинировать на "ходовых" темах. Неважно, какова их сложность с человеческой точки зрения, главное, чтобы по этой теме было написано много текстов.

По учебным материалам обычно написано много текстов. Поэтому в данном контексте проблема галлюцинаций у хороших моделей не столь остра.

[Alex-Yu]

Anton_Peplov в сообщении #1729469 писал(а):

По учебным материалам обычно написано много текстов. Поэтому в данном контексте проблема галлюцинаций у хороших моделей не столь остра.

ИИ в образовании это зло совершенно независимо от того, врет этот ИИ или не врет. Если не врет, то даже еще хуже, меньше вреда если врет (желательно очевидно врет).

Образование вовсе не заключается в том, чтобы получить или даже запомнить набор правильных ответов. Образование -- это развитие мозгов. И легкость получения ответа (в частности с помощю ИИ) этому только вредит. И тем сильнее вредит, чем легче получить ответ.

Впрочем, зависит от целей, которые преследует образование. Если цель -- воспитать тупых, послушных ублюдков с полностью предсказуемым алгоритмическим поведением, еще и несложным при этом поведением, то можно и с ИИ.

[ozheredov]

Alex-Yu в сообщении #1729644 писал(а):

Образование -- это развитие мозгов. И легкость получения ответа (в частности с помощю ИИ) этому только вредит. И тем сильнее вредит, чем легче получить ответ.

Усложнение вопросов не рассматривается?

Alex-Yu в сообщении #1729644 писал(а):

Если цель -- воспитать тупых, послушных ублюдков с полностью предсказуемым алгоритмическим поведением, еще и несложным при этом поведением, то можно и с ИИ.

Чтобы общество могло позволить себе 5% умных свободолюбивых человеков со сложным поведением и неожиданными интересными мыслями, нужно 95% тех, кто будет обеспечивать этим 5% условия существования. Только тупой, послушный ублюдок с полностью предсказуемым алгоритмическим поведением починит Вам унитаз и разрежет корову на сочные стейки (я, правда, не понимаю зачем я его назвал ублюдком).

[Ende]

Либо в этой теме немедленно прекратится употребление оскорбительных и уничижительных обозначений в отношении кого бы то ни было, включая гипотетических жертв ИИ в образовании, либо она будет закрыта, а отличившиеся получат взыскание за брань и нарушение требования модератора.

[mihaild]

Alex-Yu в сообщении #1729644 писал(а):

И легкость получения ответа (в частности с помощю ИИ) этому только вредит

А до появления ИИ студенты никогда не списывали, не пользовались решебниками, и не покупали курсовые и дипломы.
Как раз недавно был хороший пост у Шнейера по этой теме.

Schneier писал(а):

At work, if your job is to move a bunch of heavy things from one side of the room to another, you should use whatever assistive tech you have on hand: a wagon, a forklift… even an AI-powered robot. But at the gym, it makes no sense for that robot to lift weights for you. The point of weightlifting isn’t to move heavy things across the room; it’s to actually lift those heavy things.
The same analysis holds for any task an AI can do for you. If it’s work—if the task has to be done and no one cares how—then it’s fine to use AI assistance. But if the task is more like the gym, and how the task is done is at least as important, then it probably doesn’t make sense to use AI.

Я бы сказал, что доступность моделей несколько увеличивает проблему (потому что получение решений индивидуальных заданий без тренировки становится проще), но не создает ничего нового. С другой стороны, она же позволяет и более эффективно учиться в некоторых случаях - например, по многим стандартным курсам можно задать вопрос и получить таки правильный ответ. Если этой возможностью пользоваться аккуратно (после самостоятельных попыток), то это ИМХО должно увеличивать эффективность (а если нет, то давайте закроем ПРР).

[ozheredov]

mihaild в сообщении #1729667 писал(а):

а если нет, то давайте закроем ПРР

А ПРР был открыт с целью увеличения поголовья умных свободолюбивых человеков со сложным поведением и неожиданными мыслями? Я думал, чтобы побольше регалось и писало студентов и школьников. Эдакая желтая тускло светящаяся лампочка в пасти огромной чёрной рыбы, лежащей в кромешной тьме на 4-ей страницы гугло-выдачи ) Сработало кстати идеально - теперь уже первая страница!

[Alex-Yu]

mihaild в сообщении #1729667 писал(а):

и получить таки правильный ответ.

Дался Вам этот "правильный ответ"! Да на фиг он не нужен, это правильный ответ, если обучаемый не понял, откуда этот ответ берется!

-- добавлено через 4 минуты --

mihaild в сообщении #1729667 писал(а):

Я бы сказал, что доступность моделей несколько увеличивает проблему

Ну да, это проблема не нова. Я же и говорю: ИИ -- это дело десятое. Не помню в этой или другой ветке я это говорил. Но ИИ проблему усугубляет сильно. Но важнее все же то, что идеологи образования имеют патологические представления о том, в чем это самое образование заключается. У них идеал -- это когда ученик вызубрил учебник наизусть, ничего при этом не поняв. Отвечает же, что же еще, цель достигнута. Никакой другой цели они даже представить себе не могут (в силу профессиональной деформации психики?).

-- добавлено через 9 минут --

mihaild в сообщении #1729667 писал(а):

But at the gym, it makes no sense for that robot to lift weights for you.

Вот-вот. И я о том же.

-- добавлено через 13 минут --

ozheredov в сообщении #1729654 писал(а):

Чтобы общество могло позволить себе 5% умных свободолюбивых человеков со сложным поведением и неожиданными интересными мыслями, нужно 95% тех, кто будет обеспечивать этим 5% условия существования.

Проблема заключается в том, что невозможно заранее, до того как структуры мозга сформированы, определить, кто в итоге сможет оказаться в первых 5 процентах, а кто в -- лишь в 95-ти. Поэтому если учить, ориентируясь на указанные 95%, то и тех, что 5%, не будет. Или Вы думаете, что сын/дочь олигарха (высшего чиновника и т.п.) гарантированно сможет оказаться в тех 5%? А остальных можно учить (скорее даже дрессировать) иным образом? Да и на самом деле соотношение вовсе не 5:95, в нынешнем мире примитивных функций нужно уже намного меньше.

[mihaild]

Alex-Yu в сообщении #1729698 писал(а):

Да на фиг он не нужен, это правильный ответ, если обучаемый не понял, откуда этот ответ берется!

Отменяем семинары, пока студенты (мехмата) не освоят психологию и нейробиологию?
Очевидно, что вопросы не обязаны иметь вид "дай ответ на задачу из Демидовича". Они еще могут и иметь вид "а я тут придумал, как ослабить условие в теореме, проверь".

(Оффтоп)

Alex-Yu в сообщении #1729698 писал(а):

идеологи образования

А эти идеологи образования они сейчас здесь, в этой теме?

Alex-Yu в сообщении #1729698 писал(а):

Но ИИ проблему усугубляет сильно

А вот это надо как-то измерять, и мне сходу не очевидно, как. Понятно, что не на глаз и не общеоколофейлосовским ворчанием.