ИИ и перспективы математики и математического образования

[dsge]

В аналогии с Перельманом openAi скорее играют роль роль китайских воришек, решивших украсть его результат. Работы Перельмана написаны очень ясно, но кратко, это так назвваемый русский стиль в математике. Любой журнал сочтет за честь опубликовать такую работу . Но у Перельмана были другие мотивы. Тексты же openAi по отзывам тех, кто пытался их осилить, будут отвергнуты уже на первом этапе - деска (технические работники, проверяющие соответствие манускрипта требованиям журнала по оформлению и языку), т.е. они не дошли бы даже до редактора.

-- добавлено через 19 минут --

Mikhail_K
« Понимать работы, написанные LLM, надо тоже с помощью LLM - путём задания ему проясняющих вопросов, иногда порядка десяти или нескольких десятков»

А если работа написана в LLM, к которой нет доступа. Например, внутренняя модель openAi.

[Mikhail_K]

dsge в сообщении #1735969 писал(а):

« Понимать работы, написанные LLM, надо тоже с помощью LLM - путём задания ему проясняющих вопросов, иногда порядка десяти или нескольких десятков»

А если работа написана в LLM, к которой нет доступа. Например, внутренняя модель openAi.

Спрашивать именно ту LLM, которая написала работу, вовсе не обязательно.

[Brizon]

Цитата:

будут отвергнуты уже на первом этапе

Кому нужны все эти журналы, публикации, одобрения и peer review? Это просто мелкий островок на айсберге математики.

Математика это в первую очередь прикладная часть, она используется в экономике, технологиях, производстве. То что приносит блага или деньги.

А университеты, публикации, сообщества - все они имеют ценность в основном по своему вкладу в прикладные области.

И прорыв ИИ он не в том что его должны признать эти сообщества, или что то опубликовать. Он переворачивает весь айсберг, экономику, производство, ему не нужно признание, степени, публикации и peer ревью.

Эти ИИ публикации, там скорей всего большая часть неверна, но даже если там хотя бы 1% верный - это уже прорыв. Потому что через год ИИ станет вдвое умнее и верно будет 10%. А через два 30%. И от того что какие то сообщества или публикации его одобрят или не одобрят, ему ни тепло ни холодно, одобрение или неодобрение ИИ университетами и сообществами - вообще никак не влияет ни на его развитие ни внедрение.

По сути ИИ вообще не требуется использовать концепции и нотации понятные человеку, он вполне возможно начнет решать задачи другими методами которые удобны для него, хотя возможно будет способен переводить их в форму понятную человеку.

[Mikhail_K]

Brizon в сообщении #1736434 писал(а):

Эти ИИ публикации, там скорей всего большая часть неверна

Нет причин так думать. Скорее всего, там почти всё верно, даже если не очень понятно изложено - даже несмотря на уже найденные ошибки в трёх работах (которые не были Lean-верифицированы, как я понимаю).

Brizon в сообщении #1736434 писал(а):

Математика это в первую очередь прикладная часть

Это не так. Прикладная часть, конечно, важна, но не охватывает всю математику. Наверное, Вы имеете в виду, что именно Вам важна/интересна прикладная часть математики. Тогда да, многие видят в математике ценность благодаря её приложениям.

Brizon в сообщении #1736434 писал(а):

А университеты, публикации, сообщества - все они имеют ценность в основном по своему вкладу в прикладные области.

Для Вас и, например, для государств - может быть. Но для самих себя их ценность вовсе не ограничивается вкладом в прикладные области.
Математика и вообще наука - это область человеческой культуры, которая ценна сама по себе.
Если Вы не относите себя к этой культуре, то этот дискурс про то, что доказательства сначала должны быть оформлены и прояснены, а уж потом опубликованы - он просто не для Вас.

В целом-то я с Вами согласен, что если ИИ важен для прикладного прогресса, то никто не будет и не должен спрашивать у математиков, что надо и что не надо делать в этом направлении, чтобы не навредить математической культуре. Математики должны решить сами между собой, что с этим делать и как быть в новых условиях.
Просто не надо этих категоричностей типа "кому нужны". Как минимум, самой себе математика нужна, и не сводится ни к каким деньгам.
Я уверен, что бескорыстный интерес в чём-нибудь разбираться всегда будет присущ хотя бы части людей. Иногда этот интерес ведёт к прикладной пользе, иногда не ведёт - бывает по-разному.

Brizon в сообщении #1736434 писал(а):

По сути ИИ вообще не требуется использовать концепции и нотации понятные человеку

Есть дискуссия насчёт того, не опасно ли пользоваться результатами, механизм которых мы не понимаем, даже если результаты выглядят так, как нужно (на первый взгляд).
Вне зависимости от этой дискуссии - если мы чего-то не понимаем, значит, это нужно изучать.
Когда-то люди не понимали, почему тела падают на Землю, почему движутся небесные светила, из чего состоит вещество и т.д. (и не сказать, что совсем-совсем полностью в этом разобрались до сих пор). Ну и изучали это - кто-то чтобы научиться предсказывать будущее или превращать металлы в золото (прикладные вопросы, так сказать), а кто-то просто так из интереса. Возможно, ИИ резко прибавит нам количество вещей, в которых мы не разобрались, но в которых хочется разобраться. Ну и раз хочется - люди будут стараться и пробовать.

[SomePupil]

Brizon в сообщении #1736434 писал(а):

А университеты, публикации, сообщества - все они имеют ценность в основном по своему вкладу в прикладные области.

Это что же, построение какой-то дрянной сетки из численных методов "ценнее" доказательства Перельманом гипотезы Пуанкаре? Вам бы пересмотреть свои "ценности", товарисч!

[Brizon]

Цитата:

Скорее всего, там почти всё верно, даже если не очень понятно изложено

Попросил ИИ оценить консервативно нижнюю границу сколько там верно, и консервативная оценка нижней границы новых, ранее неизвестных решений, говорит вероятно >50% и >20%.

Если это так, то собственно обсуждать нечего, все и так очевидно как восход солнца...

[Sender]

Brizon в сообщении #1736495 писал(а):

Если это так, то собственно обсуждать нечего, все и так очевидно как восход солнца...

А теперь попросите его указать хотя бы одно достоверно правильное доказательство оттуда.

[ozheredov]

Brizon в сообщении #1736495 писал(а):

Попросил ИИ оценить консервативно нижнюю границу сколько там верно

Метод оценки?

[vpb]

SomePupil в сообщении #1736494 писал(а):

построение какой-то дрянной сетки из численных методов

Ага, ага. Особенно той, благодаря использованию которой в инженерных расчетах у самолета, в котором вы летаете в теплые края, не отваливаются крылья из-за возникновения перенапряжения. И еще одной (по-видимому, другой), благодаря которой тот же самолет не уходит носом в землю из-за срыва воздушного потока или как там это называется. Вы как тот папаша-генерал:

Н.А.Некрасов писал(а):

Вы извините мне смех это дерзкий,
Логика ваша немного дика:
Или для вас Аполлон Бельведерский
Хуже печного горшка ?

[vpb]

Brizon в сообщении #1736434 писал(а):

Кому нужны все эти журналы, публикации, одобрения и peer review? Это просто мелкий островок на айсберге математики.

Вот представьте себе: некий математик работает в корпорации или в государственном ведомстве, решает задачи, возникающие из технических вопросов данного ведомства. Потом результаты его работы используются инженерами данного ведомства, а в журналы не посылаются. Тогда получается, что в другом ведомстве, государстве или корпорации другому математику приходится те же самые задачи решать заново. И даже другому сотруднику того же ведомства данные результаты могут быть трудно доступны (из-за наличия всяких предохранительных процедур, чтобы не было утечки секретов). Или даже нет требований секретности, а просто результаты не публикуются, потому что за них нет никаких надбавок и т.п. Короче, в итоге коммуникация между математиками сводится к нулю. Результат немного предсказуем: остановка (научного) прогресса. Вот затем, чтоб такого не было, и нужны журналы, публикации и рецензенты. Искренне Ваш, К.О.

-- добавлено через 7 минут --

Я бы еще так добавил: если результат работы математика не становится известен научному сообществу, за пределами узкого ведомства, его работа почти теряет смысл. От чего и руки могут опуститься, кстати. Но бывают, конечно, ситуации, когда приходится обходиться без публикаций.

[DieselMachine]

Sender в сообщении #1736501 писал(а):

А теперь попросите его указать хотя бы одно достоверно правильное доказательство оттуда.

Quasi-Riemann Hypothesis
Это ещё ответ тем математикам, которые писали, что ИИ-доказательства не дают им понимания.
Стоило поковырять доказательство от OpenAI и сразу понимания прибавилось.

[lel0lel]

DieselMachine в сообщении #1736723 писал(а):

Стоило поковырять доказательство

А где вы его поковыряли? По ссылке не само доказательство, а научно-популярная статья.

-- добавлено через 28 минут --

Там, конечно, есть ссылки на работы AI. Но, по поводу статьи об 1/8, в материалах по вашей ссылке пишут, что оно объёмное и тяжело читать. Поэтому все переключились на чтение доказательства 1/12.

[ozheredov]

lel0lel в сообщении #1736729 писал(а):

А где вы его поковыряли?

Эх, старая школа, старая школа... это смех сквозь слёзы. Нигде он его не поковырял. Он прочитал оптимистичную статью и понял для себя, что там кароч всё круто с этим ИИ (я тоже эту статью просмотрел - на мой взгляд там вообще 0 слов по делу, а описывается кто что думает и кто что сказал). Сейчас это тенденция даже на научном форуме - к примеру, челикс выкатывает сенсационное заявление о том что neural networks are already clean, даже вскользь не упоминая, чё же там такое прояснилось, какие доказались теоремы оптимальности и т.д.:

Rasool в сообщении #1736591 писал(а):

По словам Ника Каммараты, одного из авторов гипотезы о суперпозиции, нейронные сети устроены не так запутанно, как предполагали исследователи. Рун из OpenAI называет это историческим моментом. Исследователь из Google DeepMind Нил Нанда предостерегает от чрезмерного ажиотажа. Сама работа: Neural Networks Are Already Clean
.

Вася сказал что всё зашибись, Маша зааплодировала ему стоя, подпрыгивая до потолка, а Петя при этом предостерег, что рано радоваться. При этом 90% букв из оригинальной статьи было не понято.

[dsge]

DieselMachine в сообщении #1736723 писал(а):

Sender в сообщении #1736501 писал(а):

А теперь попросите его указать хотя бы одно достоверно правильное доказательство оттуда.

Quasi-Riemann Hypothesis
Это ещё ответ тем математикам, которые писали, что ИИ-доказательства не дают им понимания.
Стоило поковырять доказательство от OpenAI и сразу понимания прибавилось.

Цитата:

Sarnak, for his part, said in an email that he won’t be satisfied that it’s “a Theorem” until humans check and understand all the details.

А поросячий восторг исходит от малоизвестного математика, Radziwiłł, на которого внезапно обрушилась слава, только потому что ИИ использовал идеи метода, который он разработал. Поэтому он немного лучше других понимает эти "галлюцинации", но сам не подтвердил корректность доказательства, сказал только, что может набросать идею доказательства. Но последнее не обязанно быть верным.

Удивляет почему Quantamagazine публикует такие статьи до подтверждения правильности доказательства специалистами.

[ozheredov]

dsge в сообщении #1736734 писал(а):

Удивляет почему Quantamagazine публикует такие статьи до подтверждения правильности доказательства специалистами.

Какая для них разница, подтвердится или не подтвердится, если Quantamagazine это научпоп?