ИИ и перспективы математики и математического образования

[MoonWatcher]

Booker48 в сообщении #1724704 писал(а):

- пусть ИИ сначала решит арифметическую задачку, сформулированную на естественном языке;
- пусть ИИ сначала решит задачку со звёздочкой из продвинутого школьного учебника;
- пусть ИИ сначала решит олимпиадную задачку;
- пусть ИИ сначала решит какую-нибудь задачу, не решённую профессиональными математиками;
- пусть ИИ сначала решит задачу Эрдёша; (Вы находитесь здесь!!!)
- пусть ИИ сначала решит какую-нибудь из задач Арнольда;
- пусть ИИ введёт в научный оборот какое-нибудь новое, интересное математикам понятие;
- пусть ИИ сначала решит одну из проблем тысячелетия...

Именно так. А когда начинаешь рассуждать о возможных перспективах будущего - о том какие это может иметь технологические, экономические, политические и социальные последствия - тебя называют фантазером. Оно конечно фантазия - только ведь потом об этом фантазировать будет поздновато...

(Оффтоп)

Напоминает кадровых военных, которые, оттопыря нижнюю губу, в свое время ставили на место разных там пиджаков, которые рассуждали о военном применении дешевых гражданских дронов.

-- добавлено через 1 минуту --

mihaild в сообщении #1724709 писал(а):

Вот конкретно про эту задачу - максимальное количество пар точек с единичными расстояниями - даже я слышал.

И что думаете?

[Anton_Peplov]

Booker48
Вы говорите так, как будто все эти задачи ставятся перед ИИ, чтобы доказать, что он понимает математику "как человек". Но понимания "как человек" не существует. Школьник, я, условный доцент Иванов и Григорий Перельман понимаем математику на разных уровнях, и "перепад высот" между этими уровнями не одинаков. От школьника до меня два шага, от меня по Перельмана световые годы. Warning! Слово "понимание" я везде использую операционалистски - как умение решать задачи соответствующего уровня.

Booker48 в сообщении #1724704 писал(а):

- пусть ИИ сначала решит арифметическую задачку, сформулированную на естественном языке;

и тогда мы скажем, что ИИ худо-бедно понимает естественный язык и начальные понятия математики (completed)

Booker48 в сообщении #1724704 писал(а):

- пусть ИИ сначала решит задачку со звёздочкой из продвинутого школьного учебника;
- пусть ИИ сначала решит олимпиадную задачку;

и тогда мы скажем, что ИИ понимает математику лучше среднего школьника (completed)

Booker48 в сообщении #1724704 писал(а):

- пусть ИИ сначала решит какую-нибудь задачу, не решённую профессиональными математиками;

и тогда мы скажем, что ИИ-ассистент может быть полезен математику в его исследованиях, а не только в поиске литературы (completed)

Booker48 в сообщении #1724704 писал(а):

- пусть ИИ сначала решит задачу Эрдёша; (Вы находитесь здесь!!!)

и тогда мы укрепимся в последнем мнении.

Booker48 в сообщении #1724704 писал(а):

- пусть ИИ сначала решит какую-нибудь из задач Арнольда;
- пусть ИИ введёт в научный оборот какое-нибудь новое, интересное математикам понятие;

И тогда, возможно, придет пора задуматься о том, что ИИ может заменить хороших математиков-исследователей.

Booker48 в сообщении #1724704 писал(а):

- пусть ИИ сначала решит одну из проблем тысячелетия...

А это, пожалуй, покажет, что ИИ превзошел лучших математиков мира.

Поскольку, как я уже сказал, перепад высот не одинаков, то последовательное достижение ИИ уровня ассистента ничего не говорит о том, сможет ли он в обозримом будущем достичь уровня Перельмана.

[Rak so dna]

mihaild в сообщении #1724709 писал(а):

А если было разбиение произведения экспоненты на синус, но не экспоненты на косинус?

Вы нигде в обучающих текстах не упоминаете интегрирование по частям ни в каком виде. Ну вот не додумалось человечество, нет такого метода.

mihaild в сообщении #1724709 писал(а):

Останется 20кб текстов, на которых ничего обучить нельзя.

Не, ну если описанная задача по просеиванию текстов ИИ не под силу, то я полностью спокоен.

mihaild в сообщении #1724709 писал(а):

Обученные на текстах предшественников математики иногда превосходят этих предшественников. Почему это не может сделать LLM?

Я не утверждаю, что не может, мне просто не хочется верить, что пародия на мышление может переплюнуть само мышление.

-- добавлено через 18 минут --

realeugene в сообщении #1724706 писал(а):

В процессе обучения угадывать следующее слово машина учится закономерностям построения предложений и логическим выводам. Разум, который породил тексты, делал по сути то же самое. Случайный поиск, но в среднем направляемый известными заранее закономерностями, плюс закрепление обнаруженных новых идей, вдруг оказавшихся плодотворными.

Если всё так, то обученный на всех текстах мира и запущенный на супер-пупер железе ИИ, уже давным давно должен был загнать всех на под ковёр.

[mihaild]

Rak so dna в сообщении #1724712 писал(а):

Вы нигде в обучающих текстах не упоминаете интегрирование по частям ни в каком виде

А что конкретно понимается под интегрированием по частям? Если я не пишу $\int udv = uv - \int vdu$, то этого достаточно? Или надо еще запретить писать $\int fdg = fg - \int gdf$? А $\int xdx = x^2 - \int xdx$ упоминать можно?
(меня всегда именно этим огорчали задачи "сделайте что-то не используя чего-то"; ну хорошо, давайте я вместо использования понятия производной введу понятие точно-не-производная и перепишу 3 страницы стандартных теорем - кому от этого будет лучше?)

Rak so dna в сообщении #1724712 писал(а):

Не, ну если описанная задача по просеиванию текстов ИИ не под силу, то я полностью спокоен

Она никому не под силу, потому что косвенным образом почти все тексты упоминают что-то, на что оказало влияние развитие математики после Кардано.

Rak so dna в сообщении #1724712 писал(а):

Я не утверждаю, что не может, мне просто не хочется верить, что пародия на мышление может переплюнуть само мышление

Почему пародия-то?

Rak so dna в сообщении #1724712 писал(а):

Если всё так, то обученый на всех текстах мира и запущеный на супер-пупер железе ИИ, уже давным давно должен был загнать всех на под ковёр.

Почему это? Люди ищут решения иначе, чем LLM. На текущий моменть в широком круге задач - эффективнее (но в некоторых уже нет). Из этого самого по себе нельзя ничего вывести про то, какие ограничения по качеству у LLM-подобного поиска.

[Booker48]

Anton_Peplov в сообщении #1724711 писал(а):

Вы говорите так, как будто все эти задачи ставятся перед ИИ, чтобы доказать, что он понимает математику "как человек".

Честно говоря, я имел в виду только уровень существующих задач. Что происходит внутри черного ящика - неважно для тех, кто оценивает качество решения. Просто иногда задачи носят имена людей.
Подумал ещё, что хорошо бы кто-нибудь поставил задачу упрощения существующих доказательств. Тот же Новиков сетовал:

Цитата:

Строгомания постепенно превратилась в мифологию и веру, где много самообмана: спросите, кто читает эти доказательства, если они достаточно сложны? За последние годы выявилось много случаев, где решения ряда знаменитых математических проблем топологии, динамических систем, различных ветвей алгебры и анализа, как выяснилось, не проверялись никем очень много лет. Потом оказалось что доказательство неполно (см. мою статью в томе журнала GAFA за 2000 год, посвященном конференции «Vision in Mathematics-2000», Tel Aviv, August 1999). При этом отнюдь не во всех случаях пробелы могут сейчас быть устранены. Если никто не читает «знаменитых» работ, то как же обстоит дело со сложными доказательствами в более заурядных работах? Ясно, что их в большинстве просто никто не читает. Я могу понять, что решенные в тот же период проблемы Ферма и четырех красок стоят и длинного доказательства, и их проверят. Но постоянно жить в мире сверхдлинных доказательств, никем не читаемых, просто нелепо. Это – дорога в никуда, нелепый конец программы Гильберта.

[realeugene]

Rak so dna в сообщении #1724712 писал(а):

уже давным давно должен был загнать всех на под ковёр.

Вы слишком спешите. Множественные агенты появились только-только. Один человек часто ошибается. В науке постоянно все друг за другом перепроверяют.

[dsge]

mihaild в сообщении #1724709 писал(а):

Понял, т.е. Тао знает и понимает математику хуже чем почти всё население Земли

Не поняли, Тао как раз пример взвешенной оценки возможностей LLM, то что на данный момент хороший помошник, и без всяких воплей: "LLM - гениальный аспирант, который решит все мат. проблемы и оставит математиков без работы".

[Rak so dna]

mihaild в сообщении #1724714 писал(а):

Если я не пишу $\int udv = uv - \int vdu$, то этого достаточно?

нет

mihaild в сообщении #1724714 писал(а):

Или надо еще запретить писать $\int fdg = fg - \int gdf$?

да

mihaild в сообщении #1724714 писал(а):

А $\int xdx = x^2 - \int xdx$ упоминать можно?

нет. Не понимаю зачем цепляться к понятию "новый метод", понятно же о чём речь. Ну ладно, пускай мы обучили LLM на всех текстах доступные девятикласснику (или в каком там классе производные проходят), в запросе определили понятие "неопределённый интеграл" и попросили посчитать что-нибудь этакое заковыристое.

mihaild в сообщении #1724714 писал(а):

Она никому не под силу

Я вот думаю, что мне под силу. Приведите мне любой текст на русском языке и я сразу скажу будет ли он в обучающей выборке.

mihaild в сообщении #1724714 писал(а):

Почему пародия-то?

Ну лично у меня язык не повернётся называть угадывание следующего слова мышлением.

mihaild в сообщении #1724714 писал(а):

Люди ищут решения иначе, чем LLM.

Именно эту мысль я и хотел донести тем сообщением.

[mihaild]

Rak so dna в сообщении #1724718 писал(а):

Не понимаю зачем цепляться к понятию "новый метод", понятно же о чём речь.

Нет, не понятно, и я считаю, что это как раз нельзя определить консистентным образом.

Rak so dna в сообщении #1724718 писал(а):

Ну ладно, пускай мы обучили LLM на всех текстах доступные девятикласснику (или в каком там классе производные проходят), в запросе определили понятие "неопределённый интеграл" и попросили посчитать что-нибудь этакое заковыристое.

Это скорее нет, слишком мало примеров нормальных рассуждений будет. Впрочем, думаю тут и Рамунаджан бы не справился.
А вот если взять модель с отсечкой на начало года, и какую-нибудь статью, вводящую новые термины, после отсечки - думаю, модель вполне справится адекватно использовать термины и результаты из этой статьи.

Rak so dna в сообщении #1724718 писал(а):

Привидите мне любой текст на русском языке и я сразу скажу будет ли он в обучающей выборке.

Я имею в виду - отфильтровать так, чтобы осталась выборка нетривиального размера, но без следов математики после Кардано.

Rak so dna в сообщении #1724718 писал(а):

Ну лично у меня язык не повернётся называть угадывание следующего слова мышлением.

Да хоть как назвать. Из названия ограничения на возможности не выводятся.

[Rak so dna]

mihaild в сообщении #1724719 писал(а):

Это скорее нет, слишком мало примеров нормальных рассуждений будет.

mihaild в сообщении #1724719 писал(а):

Я имею в виду - отфильтровать так, чтобы осталась выборка нетривиального размера

Иными словами, LLM не сможет повторить достижения математиков до XX века при тех же вводных. Зато теперь, когда отдельно взятый человек и близко не в состоянии охватить всю математику, она имеет преимущество в обнаружении связей и закономерностей, которое, очевидно, будет только расти.

[mihaild]

Rak so dna в сообщении #1724720 писал(а):

Иными словами, LLM не сможет повторить достижения математиков до XX века при тех же вводных.

Она не сможет повторить даже достижения пятилетнего ребенка по освоению языка. Просто для того, чтобы научиться языку, модели нужны огромные объемы данных. Которые буду неизбежно загрязнены следами математических результатов.

[dsge]

MoonWatcher в сообщении #1724708 писал(а):

Я не в теме, профессор Кембриджского университета "возможно сама того не понимая"... Бывает.

Бывает, кому-то везет. Девушка попала под самое начало компании под названием diversity. Ничего особо умного в интервью не было сказано, в некоторых вопросах просто "плывет".

[mihaild]

MoonWatcher в сообщении #1724710 писал(а):

И что думаете?

В каком плане? Я эту задачу решить бы не смог, но модели уже давно умеют решать задачи, которые я не умею.

[MoonWatcher]

mihaild
В плане значимости этого решения для математической науки.

[vpb]

Кстати говоря. А точно ли наука делается в основном силами аспирантов ? Мой опыт этому как-то противоречит. По моему, действительно глубокие идеи возникают у зрелых мужей. А аспирантские задачи --- они, по большому счету, не ради науки, а ради того, чтобы обсиранты на этих задачах умственно развивались.