ИИ и перспективы математики и математического образования

[MoonWatcher]

Sender в сообщении #1724693 писал(а):

Ну он же не считает, что решение открытых проблем - это процесс сходящийся? Каждое решение, каждый новый метод естественным образом порождает новые проблемы. В конце концов можно попросить тот же ИИ нагенерировать изящных проблем, которые он сам решить не в состоянии.

Интересная мысль, передам ему. Но насчет того, что каждый новый метод естественным образом порождает новые проблемы, мне непонятно. Например, какие новые проблемы породит доказательство Великой теоремы Ферма?

[dsge]

MoonWatcher в сообщении #1724684 писал(а):

Начнем с профессионалов. Насколько мне известно, изучение готовых доказательств может занять месяцы, годы...

Чем меньше человек знает и понимает математику, тем больше он говорит про математическую гениальность LLM. Возможно это такая психологическая защита - "зачем изучать математику, если LLM решит все проблемы". Сродни "зачем запоминать таблицу умножений, если есть калькулятор?"

MoonWatcher, вы что-нибудь поняли из математической части рекламной статьи от Openai?
Вы не понимаете тексты ни на английском, ни на русском. Ваши цитаты Тао скорее опровергают ваши тезисы, чем подкрепляют.
Про задачи Эрдеша уже говорилось - о них никто ничего не знал (кроме узкой группы любителей "венгерской математики" - в определении Sowa, понимаются комбинаторные манипуляции) до агрессивного пиара от Openai, никому они не были интересны, поэтому так мало из них было решено.
Существуют почти 900 проблем В.И. Арнольда, но Openai пока не объявило о решении хотя бы одной. За такие задачи они не берутся, иначе будет антиреклама ChatGPT.
Задачи Арнольда отличаются от задач Эрдеша своей глубиной, и это понятно, вклад Арнольда в математику несоизмеримо больший, чем Эрдеша.

[MoonWatcher]

realeugene в сообщении #1724694 писал(а):

Гораздо раньше. ИИ не нужно превосходить любого человека. Достаточно одному ИИ агенту превосходить средне-продвинутого человека, чтобы рой ИИ стал экономически гораздо выгоднее любого НИИ. И команды инженеров и учёных уйдёт в прошлое, как ушли в прошлое команды конструкторов-чертёжников в больших залах, заставленных кульманами. К тому же ИИ не болеет, не спит и будет давать стабильнее и предсказуемее отдачу на вложенный доллар. За сколько заплатили - на столько и подумали.

Согласен, это может случится и гораздо раньше. Вчера на презентации Omni Демис Хассабис (которого, в отличие от Альтмана, Амодея и тем более Маска трудно заподозрить в хайпе) заявил, что AGI появится через несколько лет. Но тот же Эндрю Ын в свое время говорил, что до AGI еще десятки лет... В очередной раз хочется поворчать про галлюцинации и тупизну ИИ в решении некоторых простейших задач, но чтобы не уходить в оффтоп напомню главную претензию к ИИ математиков, в лице Теренса Тао:

Цитата:

В решении математической задачи три этапа: генерация доказательства (получение полного верного доказательства), верификация доказательства (проверка отсутствия ошибок) и, как я говорил, переваривание доказательства (понимание основных идей, связь с литературой, повествование, как бы вы сами пришли к доказательству, какие будущие вопросы можно ответить). Ещё год назад все три этапа были трудными, и люди делали практически всё. Поскольку они были примерно одинаково сложными, можно было сосредоточиться на генерации: если вы потратили несколько месяцев на генерацию доказательства, вы, вероятно, проделали достаточно работы и для верификации, и для переваривания, чтобы объяснить другим. Нам не нужно было разделять эти цели. Но сейчас, с развитием ИИ и формальной верификации, первые два компонента становятся автоматизированными и гораздо более быстрыми. А третий компонент не сдвинулся с места. Впервые мы испытываем «несварение доказательств» (proof indigestion). Мы получаем множество доказательств, верифицируем их, но решение не закончено, потому что никто не понимает доказательство достаточно хорошо, чтобы прочитать доклад и объяснить другим. Мы не учимся на этих доказательствах. Это только две трети доказательства. Правильный показатель – не сгенерировано ли доказательство и не верифицировано ли оно, а может ли кто-то прочитать о нём лекцию и ответить на вопросы. Современные ИИ-решения выполняют только две трети этой задачи.

-- добавлено через 9 минут --

dsge в сообщении #1724696 писал(а):

Чем меньше человек знает и понимает математику, тем больше он говорит про математическую гениальность LLM. Возможно это такая психологическая защита - "зачем изучать математику, если LLM решит все проблемы". Сродни "зачем запоминать таблицу умножений, если есть калькулятор?"

MoonWatcher, вы что-нибудь поняли из математической части рекламной статьи от Openai?
Вы не понимаете тексты ни на английском, ни на русском. Ваши цитаты Тао скорее опровергают ваши тезисы, чем подкрепляют.
Про задачи Эрдеша уже говорилось - о них никто ничего не знал (кроме узкой группы любителей "венгерской математики" - в определении Sowa, понимаются комбинаторные манипуляции) до агрессивного пиара от Openai, никому они не были интересны, поэтому так мало из них было решено.
Существуют почти 900 проблем В.И. Арнольда, но Openai пока не объявило о решении хотя бы одной. За такие задачи они не берутся, иначе будет антиреклама ChatGPT.
Задачи Арнольда отличаются от задач Эрдеша своей глубиной, и это понятно, вклад Арнольда в математику несоизмеримо больший, чем Эрдеша.

Вы мне напоминаете одну мою знакомую, которую так бомбит от ИИ, что она с лупой ищет и находит косяки (даже если их нет) ИИ в генерации видео. А когда я ей показываю нагенерированные ИИ видео двухлетней давности, то она просто находит их забавными - объяснять ей взрывной, просто невообразимый, прогресс в этом деле просто бесполезно.

Так и вы - явно чем-то недовольны, но чем именно, мне непонятно. Вот как языковая модель ответила на вопрос о смысле жизни в 2011 году (автоперевод с английского):

Цитата:

Смысл жизни — это традиция древнего человеческого воспроизводства: это менее благоприятно для хорошего мальчика, когда его нужно убрать. В шоу единогласно всплыла договоренность. Дикие пастбища с постоянными уличными лесами были включены к 15 веку до н.э. В 1996 году первичный рапфорд подвергся усилию, что резервирование условий, записанных в еврейские города, спящих для включения Евразии, которая активирует население. Мария Националь, Келли, Зедлат-Дукасто, Флорендон, Пту считает. Чтобы адаптироваться в большинстве частей Северной Америки, динамичная фея Дэн, пожалуйста, верит, что свобода слова во многом связана с

И после этого вы недовольны тем, что ИИ не решают задачи Арнольда? Да, вероятно не решают. А если будут решать, еще через 15 лет - тогда что скажете? Вообще в чем ваш посыл в контексте этого обсуждения - конкретно можете сказать? Ну помимо того, что я не понимаю тексты ни на английском, ни на русском.

[dsge]

MoonWatcher в сообщении #1724605 писал(а):

на днях слушал интервью
прикладного математика Натальи Берловой, первую в истории женщину-профессора при Кембриджском университете. Так вот она прямо говорит о наступлении кризиса в аспирантуре - зачем несколько лет обучать аспирантов, которые будут неделями или месяцами решать задачи в рамках общего исследования, если ИИ может сделать это за один вечер?

Наталья затронула здесь проблему, если не кризис, Западного и конкретно британского graduate education, возможно сама того не понимая.
Профессор получает гранты, под гранты набирает дешевую рабочую силу - аспирантов. Поскольку за гранты надо отчитываться и потом писать заявки на новые гранты, то руководство асприрантами проходит в стиле задач "зделай то, сделай это". Пишется статья, аспирант вписывается как соавтор. Аспирант сдает все экзамены, защищается и находит работу на Уолл Стрит или в Силиконовой долине, забыв навсегда, чем он занимался в аспирантуре.

С появлением LLM оказалось, что с такого рода задачами "зделай то, сделай это" LLM справляется намного быстрее, дешевле и не менее эффективно. Естественно, напрашивается вопрос - зачем аспиранты вообще нужны? Это говорит не о проблеме
LLM-аспирантура, а о проблеме аспирантуры, грантов, публикаций, это значит. Все это значит, что проблемы, которыми профессора озадачивают аспирантов не требуют достаточной квалификации.

[Anton_Peplov]

MoonWatcher в сообщении #1724695 писал(а):

Но насчет того, что каждый новый метод естественным образом порождает новые проблемы, мне непонятно. Например, какие новые проблемы породит доказательство Великой теоремы Ферма?

Новые вопросы порождаются не новыми доказательствами, а новыми понятиями. Пока не было понятия непрерывности, открытого множества и т.д., не могло быть и раздела математики под названием топология. Эти понятия пришли из $\mathbb R^n$, а потом оказалось, что их можно дистиллировать в отдельную науку. А еще потом оказалось, что в этой науке можно давать уже собственные определения, которые ни в $\mathbb R^n$, ни в его подпространствах не имеют никакого смысла - например, аксиомы отделимости с первой по третью. И об этих новых понятиях можно задавать новые вопросы, ответы на которые - это новые теоремы.

Что касается теоремы Ферма. Уайлс доказал не ВТФ как таковую, а более сильную гипотезу Таниямы-Симуры. Далее я излагаю по книге Панов. Современная математика и ее творцы, поскольку сам я эти разделы математики не изучал.

Эта гипотеза, высказанная в 1955 г. Таниямой и исследованная потом Симурой, заключается в том, что если числовая последовательность является Е-рядом для какой-либо эллиптической кривой, то она является и М-рядом некоторой модулярной формы, и наоборот (определения при желании нагуглите). До этого никакой особой связи между эллиптическими кривыми и модулярными формами д замечено не было, поэтому гипотеза вначале не вызвала интереса. Но в дальнейшем оказалось, что, если она верна, получается новый мощный инструмент исследования: трудные теоремы теории эллиптических кривых легко доказываются на языке модулярных форм, и наоборот. К проверке гипотезы подключились многие математики, особенно активно ее исследовал Вейль, поэтому иногда ее называют гипотезой Вейля. Многие математики, не дожидаясь доказательства, стали исследовать следствия из этой гипотезы. Их статьи начинались словами «предположим, что гипотеза Таниямы – Симуры верна». В 1984 г. Г. Фрей указал, что из гипотезы Таниямы – Симуры вытекает ВТФ как следствие.

Во времена Ферма понятий эллиптической кривой и модулярной формы не было. Видимо, в понятиях, существовавших в его времена, доказать ВТФ было вообще невозможно. Когда они появились, об эллиптических кривых и модулярных формах стало можно задавать новые вопросы.

Ввел ли уже ИИ в математику хоть одно новое интересное (людям-математикам) понятие? Интересное в том смысле, что оно порождает новые вопросы, на которые хочется ответить. Если нет, то по силам ли это лучшим современным LLM? Я не знаю ответа на эти вопросы и воздержусь от предположений.

[realeugene]

Anton_Peplov в сообщении #1724699 писал(а):

Ввел ли уже ИИ в математику хоть одно новое интересное (людям-математикам) понятие? Интересное в том смысле, что оно порождает новые вопросы, на которые хочется ответить. Если нет, то по силам ли это лучшим современным LLM?

А сколько подобных эпохальных переломных понятий ввели сами люди в математику за прошедший год?

[MoonWatcher]

Anton_Peplov
Спасибо за пояснение.

Anton_Peplov в сообщении #1724699 писал(а):

Ввел ли уже ИИ в математику хоть одно новое интересное (людям-математикам) понятие? Интересное в том смысле, что оно порождает новые вопросы, на которые хочется ответить. Если нет, то по силам ли это лучшим современным LLM? Я не знаю ответа на эти вопросы и воздержусь от предположений.

Почти уверен, что нет. Кстати, какого вы мнения про последнюю новость? Это действительно "первый случай, когда важная открытая проблема, центральная для одной из областей математики, была решена автономно с помощью ИИ"?

[Rak so dna]

(Оффтоп)

realeugene в сообщении #1724700 писал(а):

А сколько подобных эпохальных переломных понятий ввели сами люди в математику за прошедший год?

Ответ на этот вопрос мы узнаем где-то через эпоху.

[MoonWatcher]

dsge в сообщении #1724698 писал(а):

Наталья затронула здесь проблему, если не кризис, Западного и конкретно британского graduate education, возможно сама того не понимая.
Профессор получает гранты, под гранты набирает дешевую рабочую силу - аспирантов. Поскольку за гранты надо отчитываться и потом писать заявки на новые гранты, то руководство аспирантами проходит в стиле задач "сделай то, сделай это". Пишется статья, аспирант вписывается как соавтор. Аспирант сдает все экзамены, защищается и находит работу на Уолл Стрит или в Силиконовой долине, забыв навсегда, чем он занимался в аспирантуре.

С появлением LLM оказалось, что с такого рода задачами "сделай то, сделай это" LLM справляется намного быстрее, дешевле и не менее эффективно. Естественно, напрашивается вопрос - зачем аспиранты вообще нужны? Это говорит не о проблеме LLM-аспирантура, а о проблеме аспирантуры, грантов, публикаций, это значит. Все это значит, что проблемы, которыми профессора озадачивают аспирантов не требуют достаточной квалификации.

Согласитесь, что это все-таки ваша личная интерпретация. Наталья не дает оценок использования аспирантов в качестве "дешевой рабочей силы" (а какие альтернативы, кстати?) - она сетует, что LLM делает аспирантов ненужными и тем самым подрывает подготовку научных кадров. Это как с учениками и подмастерьями в средневековых гильдиях - да, это была дешевая рабочая сила. Но именно в таком качестве ученики с подмастерьями обретали навыки, которые делали их мастерами. Подозреваю, что нечто подобное происходит и с аспирантами. А что многие из них уходят в бизнес, то не вижу в этом ничего ужасного - многие научные центры существуют именно в рамках компаний. Это конечно больше прикладные научные исследования - но на то и существует государство, чтобы хорошими грантами стимулировать ученых заниматься и фундаментальной наукой тоже.

[Booker48]

- пусть ИИ сначала решит арифметическую задачку, сформулированную на естественном языке;
- пусть ИИ сначала решит задачку со звёздочкой из продвинутого школьного учебника;
- пусть ИИ сначала решит олимпиадную задачку;
- пусть ИИ сначала решит какую-нибудь задачу, не решённую профессиональными математиками;
- пусть ИИ сначала решит задачу Эрдёша; (Вы находитесь здесь!!!)
- пусть ИИ сначала решит какую-нибудь из задач Арнольда;
- пусть ИИ введёт в научный оборот какое-нибудь новое, интересное математикам понятие;
- пусть ИИ сначала решит одну из проблем тысячелетия...

[Anton_Peplov]

MoonWatcher в сообщении #1724701 писал(а):

Кстати, какого вы мнения про последнюю новость
? Это действительно "первый случай, когда важная открытая проблема, центральная для одной из областей математики, была решена автономно с помощью ИИ"?

К сожалению, я весьма смутно себе представляю, что такое дискретная геометрия, и понятия не имею, какое место она занимает в современной математике, а также какое место в этой самой дискретной геометрии занимает решенная ИИ задача. Поэтому у меня нет мнения по поводу этой новости. Спросите кого-нибудь (не аффилированного с OpenAI), кто разбирается в этой тематике.

[realeugene]

Rak so dna в сообщении #1724687 писал(а):

Мне тоже претит мысль о том, что хрень, обученная на триллионе текстов угадывать следующее слово, способна превзойти разум, что эти тексты породил.

В процессе обучения угадывать следующее слово машина учится закономерностям построения предложений и логическим выводам. Разум, который породил тексты, делал по сути то же самое. Случайный поиск, но в среднем направляемый известными заранее закономерностями, плюс закрепление обнаруженных новых идей, вдруг оказавшихся плодотворными.

[dsge]

MoonWatcher в сообщении #1724703 писал(а):

Согласитесь, что это все-таки ваша личная интерпретация. Наталья не дает оценок использования аспирантов в качестве "дешевой рабочей силы" (а какие альтернативы, кстати?)

Что же вы так невнимательно читаете.

dsge в сообщении #1724698 писал(а):

возможно сама того не понимая.

MoonWatcher в сообщении #1724703 писал(а):

Подозреваю, что нечто подобное происходит и с аспирантами.

Подозреваю, что вы абсолютно не в теме, но тем не менее желаете высказать свое мнение. Также как и про математические способности LLM.

[MoonWatcher]

dsge
Я не в теме, профессор Кембриджского университета "возможно сама того не понимая"... Бывает.

[mihaild]

Rak so dna в сообщении #1724691 писал(а):

Ну да, если в текстах обучения нигде не было использовано разбиение подинтегральной функции, то это новый метод.

А если было разбиение произведения экспоненты на синус, но не экспоненты на косинус?

Rak so dna в сообщении #1724691 писал(а):

Это почему? С помощью того же ИИ можно и отобрать.

Например понятие "множество" или все упоминания комплексных чисел из художественных текстов придется выкидывать. Останется 20кб текстов, на которых ничего обучить нельзя.

Rak so dna в сообщении #1724691 писал(а):

Речь-то идёт о превосходстве ИИ над лучшими из лучших.

Обученные на текстах предшественников математики иногда превосходят этих предшественников. Почему это не может сделать LLM?

dsge в сообщении #1724696 писал(а):

Про задачи Эрдеша уже говорилось

Вот конкретно про эту задачу - максимальное количество пар точек с единичными расстояниями - даже я слышал.

dsge в сообщении #1724696 писал(а):

Чем меньше человек знает и понимает математику, тем больше он говорит про математическую гениальность LLM

Понял, т.е. Тао знает и понимает математику хуже чем почти всё население Земли (которое очевидно вообще не задумывается о математических способностях LLM).