ИИ и перспективы математики и математического образования

[ozheredov]

Mikhail_K в сообщении #1735843 писал(а):

о Математике 2.0

Когда появлялись excell, Google, Wolfram, NASA ads, pubmed и прочие плюшки, помогавшие работе учёного, никто нигде не выступал, ничего не разъяснял и тем более не переносил обозначения, которыми пользуются погонщики кодерков, на серьёзные дисциплины. Физика плазмы 2.31, Проктология 14.8, Археология 4.213. Все молча учились пользоваться и, кому надо, пользовались, а кому не надо - тот не пользовался. Безо всяких споров. Как говорится, что-то тут не то.....

[dsge]

Mikhail_K в сообщении #1735794 писал(а):

Заявление, что ИИ мешает обучению, я считаю грубо неверным.

Mikhail_K в сообщении #1735794 писал(а):

Они там заявляют полный отказ от использования ИИ, то есть добровольно лишают себя мощнейшего инструмента.

Mikhail_K в сообщении #1735804 писал(а):

Я имею в виду не конкретно данное заявление указанной ассоциации, а её сайт и другие её заявления: https://www.ahmath.org/
Там всё это есть.

Там этого нет.

Mikhail_K в сообщении #1735804 писал(а):

Ну вот я не думаю, что OpenAI должна обязательно "обосновывать правомерность своих действий", и что консультативная группа вправе указывать, должны или не должны использоваться внутренние модели, и для чего именно.

Тогда им не надо врать и ссылаться на группу советников
https://openai.com/index/sharing-ai-progress-in-mathematics/

Цитата:

we’ve been consulting with the independent Advisory Group on Mathematics and Artificial Intelligence at the Institute for Advanced Study⁠(opens in a new window) to develop best practices, and we have drawn on their advice and public recommendations⁠(opens in a new window) to inform how we release these results.

Непонятно о чем OpenAI "консультицировалось" с Advisory Group on Mathematics and Artificial Intelligence. "Математики не просили..." означало, что в процессе консультаций они не просили OpenAI выкладывать на Гитхаб гигатонны файлов с нечитабельным текстом под видов решенных проблем.
В науке и в математике все результаты должны быть воспроизводимы

Mikhail_K в сообщении #1735804 писал(а):

В чём вообще смысл этого требования? Чтобы у OpenAI не было "преимущества" в математических достижениях? Неужели это не кажется каким-то очень мелочным вопросом? Внутренняя модель - она ведь внутренняя не потому, что её скрывают

Смысл этого утверждения в следующем:

dsge в сообщении #1735780 писал(а):

OpenAI — which is currently defending lawsuits against accusations of illegal plagiarism, copyright infringement, and trademark dilution

Они воруют идеи у людей, обучая свои внутренние модели на индивидуальных чат боксах, и нигде не ссылаются, что: "модели были были обучены, используя индивидуальные аккаунты Иванова, Петрова, Сидорова,... в OpenAI."

[Sender]

dsge в сообщении #1735919 писал(а):

Они воруют идеи у людей, обучая свои внутренние модели на индивидуальных чат боксах, и нигде не ссылаются, что: "модели были были обучены, использую индивидуальные аккаунты Иванова, Петрова, Сидорова,... в OpenAI."

Ну так авторское право на идеи не распространяется. Более того, в лицензионном соглашении по использованию чатботов прямо указано, что все результаты принадлежат хозяевам чатботов. Не хочешь -- не пользуйся.

[dsge]

Sender в сообщении #1735921 писал(а):

dsge в сообщении #1735919 писал(а):

Они воруют идеи у людей, обучая свои внутренние модели на индивидуальных чат боксах, и нигде не ссылаются, что: "модели были были обучены, использую индивидуальные аккаунты Иванова, Петрова, Сидорова,... в OpenAI."

Ну так авторское право на идеи не распространяется. Более того, в лицензионном соглашении по использованию чатботов прямо указано, что все результаты принадлежат хозяевам чатботов. Не хочешь -- не пользуйся.

Посмотрим на результаты lawsuits, хотя юристы у них вероятно очень хорошие.

[warlock66613]

Sender, вспомним классику:

Цитата:

А какая, скажите, разница, по закону меня ограбят или не по закону? Да мне все равно!

[Sender]

warlock66613
Это да, но, прочитав их соглашение, даже я испытал некоторое колебание, прежде чем слить туда свои, прямо скажем, не слишком ценные идеи.

[Mikhail_K]

Про "Ассоциацию человеческой математики" (AHM)

dsge в сообщении #1735919 писал(а):

Там этого нет.

Mikhail_K в сообщении #1735794 писал(а):

Они <AHM> там заявляют полный отказ от использования ИИ, то есть добровольно лишают себя мощнейшего инструмента.

Я имею в виду третье (и частично второе) обязательство членов ассоциации на страницах https://www.ahmath.org/faq и https://www.ahmath.org/members
Вероятно, на это можно возразить, что эти обязательства не запрещают использовать ИИ, например, для перевода текстов или поиска литературы. Но использовать ИИ только для этого - пожалуй, почти всё равно, что не использовать вообще. Сила ИИ - в поиске доказательств, а именно от такого использования отказываются AHM.

Mikhail_K в сообщении #1735794 писал(а):

Заявление, что ИИ мешает обучению, я считаю грубо неверным.

Такое заявление есть на главной странице сайта https://www.ahmath.org/home

Цитата:

The introduction of AI tools imperils undergraduate and graduate education.

dsge в сообщении #1735919 писал(а):

В науке и в математике все результаты должны быть воспроизводимы

Это верно. Но не обязательно должен быть воспроизводим способ получения этих результатов, в следующем смысле. Когда публикуется доказательство теоремы (пусть даже до эпохи ИИ), в нём, как правило, отсутствует детальное описание мыслительного пути к этому доказательству, включая все догадки и попытки, которые никуда не привели. Публикуется только результат - доказательство. Его воспроизводимость означает, что другие люди его должны суметь понять и проверить. Такая воспроизводимость должна сохраниться и в эпоху ИИ, а никакой другой воспроизводимости в математике нет.

dsge в сообщении #1735919 писал(а):

OpenAI — which is currently defending lawsuits against accusations of illegal plagiarism, copyright infringement, and trademark dilution
Они воруют идеи у людей, обучая свои внутренние модели на индивидуальных чат боксах, и нигде не ссылаются, что: "модели были были обучены, используя индивидуальные аккаунты Иванова, Петрова, Сидорова,... в OpenAI."

1) Я не думаю, что кто-то откуда-то что-то ворует или что этому есть доказательства.
2) К закону об авторском праве я отношусь без большого уважения. Но если OpenAI что-то нарушили, то, вероятно, должны понести ответственность. В любом случае, для меня это юридический, но не этический вопрос.
3) Я думаю, что хорошо, если ИИ будет умнее, и для этого он должен обучаться на всех доступных ему материалах. Но в случае, если пользователь указал в настройках ИИ, что не хочет, чтобы на его диалогах происходило обучение (по умолчанию обучение на диалогах разрешено и легально), то нарушение этого правила рано или поздно будет раскрыто и будет вредить репутации ИИ. Сейчас я на этот счёт наблюдаю только слухи
4) Развивать спор по поводу "воровства" или "нарушения авторских прав" дальше я не хочу, позиции высказаны.

P.S. Вряд ли эти сотни проблем были бы решены в обозримое ближайшее время без использования ИИ. Так что человеческих идей, видимо, было недостаточно для решения этих проблем.

[vpb]

Mikhail_K в сообщении #1735935 писал(а):

а никакой другой воспроизводимости в математике нет.

Конечно, есть! То, что формальное доказательство --- это одно, а понимание и объяснение основных идей --- это другое (хотя одно с другим тесно связано) --- это математикам очень хорошо известно. Если вы считаете по-другому --- значит, у вас, вероятно, опыт в математике ограничен, назовем это так.

И в человеческой математике бывают примеры, когда формальное доказательство есть, а идеи, лежащие в его основании, известны только автору. Но таких примеров не так чтобы на каждом шагу, ибо часто ход мысли автора как-то усматривается из текста статьи
(по крайней мере в позитивном отношении, т.е. без упоминания тупиковых ветвей). Или, может правильнее сказать, мысли автора как-то передаются читателю.

В математическом сообществе эта коллизия хорошо известна. Например, можно прочитать иногда "к сожалению, автор статьи [...] не дает никаких пояснений о происхождении использованной им конструкции". А еще, помню, на некоей школе-конференции один видный математик целую речь толкал о том, что желательно в статьях излагать не только формальные доказательства, но и как к ним пришли.

Да что я тут объясняю ? Это же довольно тривиальные вещи. Просто раньше на них не очень внимание обращали, зато с появлением ИИ проблема встала, так сказать, в полный рост.

[Mikhail_K]

vpb в сообщении #1735953 писал(а):

Конечно, есть! То, что формальное доказательство --- это одно, а понимание и объяснение основных идей --- это другое (хотя одно с другим тесно связано) --- это математикам очень хорошо известно.

Кажется, я именно это и написал, что важно не только формальное доказательство, а понимание и объяснение основных идей. Во всяком случае, имел в виду я именно это:

Mikhail_K в сообщении #1735935 писал(а):

Публикуется только результат - доказательство. Его воспроизводимость означает, что другие люди его должны суметь понять и проверить. Такая воспроизводимость должна сохраниться и в эпоху ИИ, а никакой другой воспроизводимости в математике нет.

И как раз об этом во многом презентация Теренса Тао, на которую я дал ссылку выше - что на первый план будет выходить не столько факт получения доказательства, сколько умение его по-человечески изложить:

Цитата:

“Open exposition problems” as opposed to open research problems: finding motivated explanations of results whose known proofs are currently opaque.

dsge в сообщении #1735919 писал(а):

"Математики не просили..." означало, что в процессе консультаций они не просили OpenAI выкладывать на Гитхаб гигатонны файлов с нечитабельным текстом под видов решенных проблем.

Но и плохого нет ничего в том, что это было выложено. OpenAI - не математики и не претендуют на это. Они выложили что выложили, теперь с этим можно что-нибудь делать. Например, разбираться в доказательствах (возможно, тоже с помощью ИИ) и стараться их по-человечески изложить, а может быть, выделить в них плодотворные идеи и построить на их основе какие-то новые теории.
OpenAI же не в математическом журнале опубликовали свои доказательства. Что стоит публиковать в журналах, а что не стоит - действительно, решать не OpenAI.

[vpb]

Mikhail_K в сообщении #1735954 писал(а):

Кажется, я именно это и написал,

Нет, в данном случае вы переобулись в полете. Смотрите, что dsge написал:

dsge в сообщении #1735919 писал(а):

гигатонны файлов с нечитабельным текстом под видов решенных проблем.
В науке и в математике все результаты должны быть воспроизводимы

А вы потом написали:

Mikhail_K в сообщении #1735935 писал(а):

Публикуется только результат - доказательство. Его воспроизводимость означает, что другие люди его должны суметь понять и проверить. Такая воспроизводимость должна сохраниться и в эпоху ИИ, а никакой другой воспроизводимости в математике нет.

То есть, вы подменили одно понятие воспроизводимости другим. Есть воспроизводимость идей, что означает собственно понимание этой идеи, после чего ее иногда можно расширить, модифицировать, применить в других ситуациях и т.д. А есть воспроизводимость результатов, что означает возможность проверить рассуждение шаг за шагом, не более того. Настоящая воспроизводимость --- это
воспроизводимость идей, её, очевидно, dsge и имел в виду. Но такого ИИ пока не производит.

Хотя отдельный пример, когда в результате чтения ответа ИИ у меня появилась хорошая мысль, да и сам ответ был достаточно понятен, имеется. Но есть и противоположный пример, когда ответ есть, формально всё понятно, а по существу ничего (и не только мне, но и некоторым другим, очень умным коллегам).

[Mikhail_K]

(Оффтоп)

vpb в сообщении #1735959 писал(а):

Нет, в данном случае вы переобулись в полете.

Фразу про воспроизводимость от dsge я просто не понял. Предположил, что могло иметься в виду примерно следующее: раз модель была внутренней и не общедоступной, раз не было чёткого описания запросов к модели (в большинстве случаев), раз мы не можем повторить эти запросы и получить тот же результат, значит, результат невоспроизводим. Именно на это я возражал: нет разницы, каким именно путём получено доказательство; если оно в итоге получилось и является по-человечески внятным - то с математической точки зрения это воспроизводимый результат, и в математике нет никакой другой воспроизводимости. (Я предполагаю, что задача прояснения доказательств от OpenAI и выделения в них перспективных идей с их дальнейшим использованием - решаема и будет решена, в т.ч. тоже с использованием ИИ, но, конечно, не автоматически по запросу.) А понял я так слова dsge потому, что он и раньше выражал недовольство использованием внутренних моделей и отсутствием чётких логов запроса. Эти факторы для меня не кажутся важными, а вот недостаточная внятность - конечно, важной является. Понятно, что с выложенными доказательствами от OpenAI предстоит ещё много работы, в результате которой должна появиться та самая воспроизводимость идей.

vpb в сообщении #1735959 писал(а):

Но такого ИИ пока не производит.

Ну, я вовсе не сторонник мнения, что ИИ должен выполнять всю работу за людей вообще. Даже если результаты получены, осмыслять их всё равно нужно людям. Другое дело, что и в осмыслении ИИ тоже может помочь в той или иной мере.

[dsge]

Mikhail_K в сообщении #1735954 писал(а):

Но и плохого нет ничего в том, что это было выложено. OpenAI - не математики и не претендуют на это. Они выложили что выложили, теперь с этим можно что-нибудь делать. Например, разбираться в доказательствах (возможно, тоже с помощью ИИ) и стараться их по-человечески изложить, а может быть, выделить в них плодотворные идеи и построить на их основе какие-то новые теории.
OpenAI же не в математическом журнале опубликовали свои доказательства. Что стоит публиковать в журналах, а что не стоит - действительно, решать не OpenAI.

Гугл в отличии от openAi отсылает работы, сделанные из моделями, в рецензируемые журналы и честно ждут ответы рецензентов и редакторов. OpenAi слили тонну шлака , теперь давайте математики проверяйте. Никто не обязан проверять этот материал. Хотя 3 решения из 500 они уже отозвали, кто-то все же взялся проверять.
Разговор не о том хорошо или плохо для математики LLM. Конечно хорошо. Разговор о неэтичном и, возможно, криминальном поведении отдельно взятой компании. Упомянутое выше сообщество математиков призывают бойкотировать только OpenAi. Несомненно, что Антропик тоже могли бы выложить таким же образом несколько сотен решенных математических проблем, но они это почему-то не делают, либо из этических соображений, либо у них другая долговременная бизнес-стратегия. Или и то и другое.

[Mikhail_K]

dsge в сообщении #1735965 писал(а):

OpenAi слили тонну шлака , теперь давайте математики проверяйте. Никто не обязан проверять этот материал.

Конечно, никто не обязан, но я думаю, будет много желающих. Кому это не интересно - займутся чем-то другим.

Посмотрим на это с другой стороны. OpenAI - не математики. Они сделали работу, которая, по их мнению, может математикам быть полезна. Дальше уже математики могут решить, насколько это действительно было ценно.
Наоборот, если сотрудники Google отсылают работы в рецензируемые журналы, то тем самым они выступают в роли учёных-исследователей. Ну а OpenAI не выступают в такой роли. Они хотят продемонстрировать ценность своего ИИ для научного прогресса. В какой мере это получается - решать учёным.

И да, я думаю, что эти сотни проблем скорее решены, чем нет, что эти решения будут обработаны и пойдут на пользу развитию математики, а все разговоры о неэтичном поведении и тем более призывы к бойкоту высосаны из пальца.

-- добавлено через 7 минут --

Конечно, плохая аналогия, но всё же: Григорий Перельман выложил своё открытие тоже не в рецензируемом журнале, и тоже без должного прояснения деталей, которые другим математикам пришлось прояснять заметное время. Никто его в этом не упрекал (мол, не обязаны мы это проверять), особенно если учесть, что премию получить он не стремился. Ну и OpenAI тоже не стремятся получить ни премию, ни какую-нибудь медаль Филдса для себя.

[dsge]

Есть опыт чтения работ, написанных LLMs. Очень трудно понимать, иногда невозможно. Сначала думал, что это только моя проблема. Но когда стали появляться подобные жалобы от носителей английского языка, стало ясно, что это глобальная проблема.

[Mikhail_K]

dsge в сообщении #1735967 писал(а):

Есть опыт чтения работ, написанных LLMs. Очень трудно понимать, иногда невозможно.

Это верно. Понимать работы, написанные LLM, надо тоже с помощью LLM - путём задания ему проясняющих вопросов, иногда порядка десяти или нескольких десятков. В итоге понимание приходит. И конечно, это та работа, которая должна быть выполнена перед публикацией в журнале.

-- добавлено через 2 минуты --

Ну и конечно, есть работы, которые написаны каким-нибудь DeepSeek - их часто и не надо понимать из-за весьма низкой ценности. Такие работы я тоже видел.

-- добавлено через 4 минуты --

И кстати, это значит, что у журналов не должно возникать больших сложностей с тем, чтобы идентифицировать недостаточно внятные статьи и отклонять их. Нужно только желание и внимание к этой проблеме. А если "шлак" публикуется вне журналов, то и пусть публикуется.