Декларация о влиянии ИИ на математику

[Anton_Peplov]

Red_Herring в сообщении #1733824 писал(а):

Я указал "если доказано"

Доказательство от ИИ формализовано в Lean. Как меня убеждали в теме «Формальные доказательства с помощью моделей», это практически гарантия (нужно только убедиться, что формализуется действительно исходное утверждение теоремы, а не какое-то другое).

[dsge]

Опенэйайнисты оперативно ответили на декларацию самых гениальных людей на планете.

Klein в сообщении #1733723 писал(а):

https://x.com/prz_chojecki/status/2098496904724447285
Я не совсем понимаю, какого эффекта этим предполагается добиться. Запретить использование ИИ в математике и науке вообще — потому что так считает «математическое сообщество»?

У поляка проблема с пониманием текстов. Про запретительство использования ИИ в математике и науке вообще в послании ничего нет.

Klein в сообщении #1733723 писал(а):

К счастью, математическое сообщество гораздо шире одной лишь академической математики, и благодаря ИИ оно развивается как никогда прежде.

Klein в сообщении #1733723 писал(а):

Кроме того, это выражение — «массовое производство утверждений, которые могут быть истинными или ложными» — совершенно неверно описывает происходящее. Как будто не существует доказательств, полученных с помощью ИИ, которые можно изучать, использовать для углубления собственных знаний, развивать дальше и с которыми можно содержательно работать.
Даже так называемый «ИИ-шлак» (AI slop) всё равно написан лучше, чем тексты 90% математиков.
Математика не принадлежит академическому математическому сообществу.

Какое отношение эта персона имеет к математике? Какие-то участия в олимпиадах по программированию, диссертация по Computer Science.

Klein в сообщении #1733723 писал(а):

Обратите внимание на Якуба Пахоцкого - молодого главного научного сотрудника (Chief Scientist) OpenAI. Фото и его цитата ниже. Пахоцкий родился в Гданьске, окончил Варшавский университет и защитил диссертацию в CMU. Позже работал постдоком в Гарвардском университете. В юношестве участвовал и побеждал в олимпиадах по спортивному программированию. В 2017 году, когда ему было 26 лет, перешел в OpenAI. То есть он в компании практически с начала ее основания. В 2021г стал руководителем исследований (Director of Research), а в 2024-м - главным научным сотрудником (Chief Scientist) OpenAI. Пахоцкий и его поколение представляют молодых талантливых людей с новыми идеями, которые двигают науку и технологическое развитие вперед. Это не лауреаты-подписанты, в большинстве своем , с забронзовелыми взглядами из академии.

Для понимания. Новоиспеченные PhDs, сразу ненашедшие работу, имеет возможность как-то перекантоваться на постдоке, за 1-2 года найти всё же работу, расширяя список своих публикаций. В основном это касается тех, кто хочет остаться в академии, преподавать в университете. Судя по всему за весь посдок "молодому и талантливому" не один приличный университет не предложил работу и он пошел в, тогда малоизвестный, стартап OpenAI.
В этой фразе чувствуется мстительное злорадство и обида когда-то отвергнутого академией:

Klein в сообщении #1733723 писал(а):

Лебединая песня академии.

В OpenAI Пахоцкому повезло, его ментором стал Илья Суцкевер (отец-основатель ChatGPT и LLM вообще), который его многому научил. В 2024 году, когда началась борьба бульдогов под ковром в OpenAI между Суцкевером и Ко и Альтманом, победителем вышел последний, а Пахоцкий предал своего ментора и занял его место. С уходом Суцкевера из OpenAI никакого существенного концептуального прогресса в LLM не было, только увеличивалось число весов и контекстные окна токенов, только такие идеи имеются у "молодых талантливых".

-- добавлено через 15 минут --

Klein в сообщении #1733723 писал(а):

С ИИ в образовании, думаю, произойдет примерно то же самое. За образование Пахоцкого и его поколения тоже переживали некоторые противники компьютеров и инструментов вроде Wolfram Alpha. Еще раньше - противники калькуляторов

Это кто же был против калькуляторов, компьютеров и инструментов вроде Wolfram Alpha в образовании Пахоцкого и его поколения? Хотя бы одну фамилию.
Чтобы последущие поколения не превратились в безмозглых скотов, в школе учат таблицу умножения, калькуляторы никто не запрещает. Каждый образованный человек должен взять производные функций $cx^n, e^{cx}, c/x, u(x)v(x)$ без Wolfram Alpha.

Klein в сообщении #1733723 писал(а):

За образование молодежи и будущее математики не надо беспокоиться. Новые поколения быстрее привыкают к новыминструментам и начинают воспринимать как само собой разумеющееся то, что еще недавно казалось старшему поколению радикальным изменением.

Руководитель дает аспиранту задание, тот приходит через неделю, и руководитель видит что-то сгенерированное LLM. Руководитель сам себя спрашивает: "зачем мне аспирант, я могу то же самое, и даже лучше, получить сам за 30 минут, а не за неделю". Беда, что многие молодые люди не хотят сами думать (или уже не могут), полагаясь полностью на ответы LLM. Руководитель аспиранта знает что спрашивать у ИИ, и после проанализировать ответ, аспирант нет.

[george66]

Альтман и Суцкевер - близнецы-братья!
Кто более матери-истории ценен?
Мы говорим "Суцкевер" - подразумеваем "Альтман"!
Мы говорим "Альтман" - а это Суцкевер!

Что-то мне смешно на весь этот шум. Конечно, математики в ужасе - пропали наши гомотопии! Они же больше ничего не умеют. Математика уже давно изучает в основном собственный бред. Было бы идеально бросить камень в болото - например, найти противоречия в основных математических теориях. Это вполне возможно и вызвало бы умственную работу (как сто лет назад).

[Red_Herring]

Цитата:

Для понимания. Новоиспеченные PhDs, сразу ненашедшие работу, имеет возможность как-то перекантоваться на постдоке, за 1-2 года найти всё же работу, расширяя список своих публикаций. В основном это касается тех, кто хочет остаться в академии, преподавать в университете. Судя по всему за весь посдок "молодому и талантливому" не один приличный университет не предложил работу и он пошел в, тогда малоизвестный, стартап OpenAI.
В этой фразе чувствуется мстительное злорадство и обида когда-то отвергнутого академией.

В математике, в США/Канаде и ряде стран (в отличие от многих европейских стран, где могут сразу преложить даже теньюр) новоиспеченному PhD теньюр-трек позицию практически никогда не предлагают, т.е. на постдоковских позициях (1-2) проводят 2-6 лет. Мир посмотrеть--себя показать.

"У воров не как у фраеров": нет единой "западной" практики, она определяется страной и областью науки.

-- добавлено через 7 минут --

george66 в сообщении #1733833 писал(а):

Что-то мне смешно на весь этот шум. Конечно, математики в ужасе - пропали наши гомотопии! Они же больше ничего не умеют. Математика уже давно изучает в основном собственный бред. Было бы идеально бросить камень в болото - например, найти противоречия в основных математических теориях. Это вполне возможно и вызвало бы умственную работу (как сто лет назад).

А вы случайно не гомофоб?

Ну да, некоторые области математики, по моему скромному мнению, переоценены, а другие недооценены, но мы в этом сами разберемся, без вашей помощи.

ПС. В моих работах и в заметках по читаемых курсах слово "гомотопия" не встречается ни разу--просто потому, что область другая. Но в этом термине ничего крамольного или сложного я не нахожу.

[Booker48]

Сгущаются тучи...

Цитата:

Д'Артаньян чувствовал непреодолимое желание залезть под стол.

Может, какая-нибудь LLM, пока вымучивающий из неё задачу тысячелетия математик отвернётся, сделает что-то хотя бы понятное налогоплательщикам? Например, скажет что-то определённое про совершенный кубоид? )))

[Mikhail_K]

dsge в сообщении #1733829 писал(а):

Руководитель аспиранта знает что спрашивать у ИИ, и после проанализировать ответ, аспирант нет.

Значит, надо этому учить.
Обсуждать всё, что приносят студенты и аспиранты, с ними.
Критиковать не за использование LLM, а за то, что именно в принесённой работе плохо или непонятно (и больше всего - если непонятно самому автору).

dsge в сообщении #1733829 писал(а):

Руководитель сам себя спрашивает: "зачем мне аспирант, я могу то же самое, и даже лучше, получить сам за 30 минут, а не за неделю".

Значит, надо воспринимать аспирантов больше как учеников, чем как помощников в своей работе.

[george66]

Red_Herring в сообщении #1733837 писал(а):

Ну да, некоторые области математики, по моему скромному мнению, переоценены, а другие недооценены, но мы в этом сами разберемся, без вашей помощи.

Побеседовал в dreamwidth с одним израильским математиком (svyatogorodski) о пруфчекинге, попутно он мне рассказал, чем должна заниматься математическая логика и какая от неё польза. Встали дыбом волоса. Но ладно, это проблемы израильской математики. Вся интересная логика сейчас ушла в computer science, а в математике остались исследователи больших кардиналов. В смысле, не разберётесь вы сами. Вообще, computer science сейчас по мере сил, сама не желая, работает "математикой, изучающей реальность". Когда программисты поняли, что математики их задачи решать не будут, стали решать сами, постепенно начало получаться.

[Red_Herring]

george66 в сообщении #1733861 писал(а):

Побеседовал в dreamwidth с одним израильским математиком (svyatogorodski) о пруфчекинге, попутно он мне рассказал, чем должна заниматься математическая логика и какая от неё польза. Встали дыбом волоса. Но ладно, это проблемы израильской математики. Вся интересная логика сейчас ушла в computer science, а в математике остались исследователи больших кардиналов. В смысле, не разберётесь вы сами. Вообще, computer science сейчас по мере сил, сама не желая, работает "математикой, изучающей реальность". Когда программисты поняли, что математики их задачи решать не будут, стали решать сами, постепенно начало получаться.

Ну да, конечно, частное мнение неизвестно когои, скорее всего, превратно понятое, выдаете за проблемы израильской математики.

[Sender]

Разве CS в своей основе не один из подразделов той же математики, имеет ли смысл их противопоставлять?

[Klein]

dsge в сообщении #1733829 писал(а):

У поляка проблема с пониманием текстов. Про запретительство использования ИИ в математике и науке вообще в послании ничего нет.

Автор каментария задает вопрос: какого эффекта ждут от этого обращения, а не далает утверждение про запретительство ИИ в математике.

Цитата:

Какое отношение эта персона имеет к математике? Какие-то участия в олимпиадах по программированию, диссертация по Computer Science.

У него в профиле написано PhD in mathematics.

Edit: Вот его биография

Цитата:
Я предприниматель в области искусственного интеллекта, имею степень PhD по математике и вошёл в польский список Forbes «30 до 30». Докторскую диссертацию я защитил в Париже, в Университете Пьера и Марии Кюри, после чего стал научным сотрудником и преподавателем Оксфордского университета.
Вернувшись в Польшу, я занялся исследованиями в области искусственного интеллекта и математики и основал технологическую группу ulam.ai, где в настоящее время являюсь генеральным директором (CEO). В рамках этой группы я также стал соучредителем нескольких проектов в области ИИ — от логистики до индустрии моды, — использующих самые современные технологии.
https://accidentaleuropean.com/contribu ... -chojecki/

Цитата:

Для понимания. Новоиспеченные PhDs, сразу ненашедшие работу, имеет возможность как-то перекантоваться на постдоке, за 1-2 года найти всё же работу, расширяя список своих публикаций. В основном это касается тех, кто хочет остаться в академии, преподавать в университете. Судя по всему за весь посдок "молодому и талантливому" не один приличный университет не предложил работу и он пошел в, тогда малоизвестный, стартап OpenAI.

Вы могли бы подробнее почитать биографию Пахоцки. У него не только спортивные олимпиады, но и диссертация, написанная под руководством одного из ведущих специалистов по алгоритмам и спектральной теории графов Гарри Миллера (CMU). Пахоцки также стажировался и работал(?) в инстуте Саймонс, Беркли.

Цитата:

В OpenAI Пахоцкому повезло, его ментором стал Илья Суцкевер (отец-основатель ChatGPT и LLM вообще), который его многому научил. В 2024 году, когда началась борьба бульдогов под ковром в OpenAI между Суцкевером и Ко и Альтманом, победителем вышел последний, а Пахоцкий предал своего ментора и занял его место. С уходом Суцкевера из OpenAI никакого существенного концептуального прогресса в LLM не было, только увеличивалось число весов и контекстные окна токенов, только такие идеи имеются у "молодых талантливых".

Вы так об этом пишете, как будто лично присутствовали при происходившем и знаете, кто на кого влиял и как складывались их профессиональные отношения. Но да, младшие коллеги после университета обычно учатся у более опытных исследователей - так это устроено. Переход Пахоцки от теоретической работы к практическому ИИ происходил постепенно - в OpenAI и через его работу в Институте Саймонса в Беркли. До 2019 г OpenAI занимался применением ИИ в играх и работотехнике ChatGPT (LLM) вышел осенью 2022г.
Насколько я понимаю, одним из переломных моментов в OpenAI стал 2023 год и работа вокруг GPT-4. Пахоцки был ключевой фигурой в архитектуре нейрости и оптимизации этой модели - ChatGPT-4. У него диссертация по оптимизации графов. Graphs and Beyond: Faster Algorithms for High Dimensional Convex Optimization была посвящена высокоразмерной выпуклой оптимизации, алгоритмам на графах и связанным с ними вычислительным задачам. Уже после успеха GPT-4 его положение в компании заметно укрепилось, а в 2024г он занял должность Chief Scientist в компании.
Может быть, он просто выиграл внутреннюю конкуренцию за эту должность ? Может быть, профессионально перерос своего прежнего руководителя. Такое часто бывает. Я не знаю как все проихсодило. Вы откуда знаете?

Цитата:

Это кто же был против калькуляторов, компьютеров и инструментов вроде Wolfram Alpha в образовании Пахоцкого и его поколения? Хотя бы одну фамилию.

Я не писал, что возмущение использованием калькуляторов происходило в то время, когда учился Пахоцки. Я писал о более раннем периоде.
А вот недовольство преподавателей университетов и использования Wolfram Alpha я очень хорошо помню. Я сам наблюдал, как все это происходило. Это было не так громко, как споры вокруг калькуляторов в школах в 1980-е годы или нынешняя дискуссия вокруг ИИ, но сопротивление тоже было вполне заметным.

Цитата:

3 апреля 1986 года в Вашингтоне остоялся протест против внедрения калькуляторов в начальную школьную математику. Пикет против политики NCTM по использованию калькуляторов был во главе с Джоном Саксоном.

Цитата:

Чтобы последущие поколения не превратились в безмозглых скотов, в школе учат таблицу умножения, калькуляторы никто не запрещает. Каждый образованный человек должен взять производные функций $cx^n, e^{cx}, c/x, u(x)v(x)$ без Wolfram Alpha.

Это у вас такие аспиранты или вы наблюдаете за такими ? Сочувствую. Значит очередь из талантливых студентов или просто сильных студентов к другим научным руководителям. Не к тем за которыми вы имеете возможность наблюдать.

[george66]

Sender в сообщении #1733866 писал(а):

Разве CS в своей основе не один из подразделов той же математики, имеет ли смысл их противопоставлять?

Вот, представьте, есть компьютеры, данные, программы и есть хакер. Мы принимаем меры, чтобы обезопасить. Нам кажется, что меры надёжны. Можно ли это доказать? Как формально поставить вопрос? Какая математика тут нужна? Мы в положении Ньютона, желающего обосновать, что планеты движутся по эллипсам, не имея матанализа. Есть университетская наука - схоластика, достигла вершин абстракции, но помочь ничем не может. Надо придумывать свою. Кстати, весьма интересная (и абстрактная) новая математика там делается, совсем не concrete.

[Sender]

Ну вот теория сложности алгоритмов -- это математика или CS? На мой взгляд, там нет ничего нематематического. Или, скажем, SAT-решатели решают сугубо инженерные задачи, но для их эффективного решения приходится устанавливать вполне себе математические закономерности.

[Klein]

К дополнию к предыдущему сообщению.

Подозреваю, что одной из причин последующей смены главного научного руководителя OpenAI стали разногласия относительно того, в каком направлении компании двигаться дальше. Но это мое предположение. В руководстве и среди исследователей OpenAI увидели потенциал масштабирования LLM и их практического применения. Именно в этой области Пахоцки играл ключевую роль. Пахоцки занимался масштабированием систем глубокого обучения с самого начала в компании. До появления ChatGPT для публики осенью 2022г. Позже он руководил обучением GPT-4 и отвечал за оптимизацию ее обучения. Несколько дней назад Альтман, выступая перед представителями крупнейших экономик на G20, довольно ясно описал этот переломный для компании момент. По его словам, внутренний консенсус в OpenAI относительно того, насколько далеко может зайти этот подход, сформировался примерно в период GPT-4 в 2023г. Даже некоторые сотрудники, которые до этого относились к этому направлению скептически увидели переспективу в практическом применении LLM. Видимо, в этом и кроется вся причина смены главного научного руководителя в компании, а не подковровые баталии.

[dsge]

Klein в сообщении #1733870 писал(а):

У него в профиле написано PhD in mathematics.
Edit: Вот его биография

ОК, я уже запутался в этих поляках. В любом случае Chojecki не тот математик, чтобы так по-хамски отзываться о Филдсовских лауреатах.

Klein в сообщении #1733870 писал(а):

Вы могли бы подробнее почитать биографию Пахоцки. У него не только спортивные олимпиады, но и диссертация, написанная под руководством одного из ведущих специалистов по алгоритмам и спектральной теории графов Гарри Миллера (CMU)

Кодил математические идеи своего руководителя.

Klein в сообщении #1733870 писал(а):

Это у вас такие аспиранты или вы наблюдаете за такими ? Сочувствую. Значит очередь из талантливых студентов или просто сильных студентов к другим научным руководителям. Не к тем за которыми вы имеете возможность наблюдать.

Что же вы так невнимательны. В цитате речь не про аспиратнов, а

dsge в сообщении #1733829 писал(а):

Каждый образованный человек должен взять производные функций

Да, я наблюдаю, что некоторые старшекурсники (магистры) не знают простейшие табличные производные, и это тревожит намного больше, чем возможность ИИ решить все математические проблемы. ИИ только усугубляют это невежество.

-- добавлено через 1 минуту --

Klein в сообщении #1733878 писал(а):

Несколько дней назад Альтман, выступая перед представителями крупнейших экономик на G20, довольно ясно описал этот переломный для компании момент. По его словам, внутренний консенсус в OpenAI относительно того, насколько далеко может зайти этот подход, сформировался примерно в период GPT-4 в 2023г. Даже некоторые сотрудники, которые до этого относились к этому направлению скептически увидели переспективу в практическом применении LLM. Видимо, в этом и кроется вся причина смены главного научного руководителя в компании, а не подковровые баталии.

Для объективности неплохо выслушать и другую сторону конфликта.

[Klein]

dsge в сообщении #1733897 писал(а):

Klein в сообщении #1733870 писал(а):

У него в профиле написано PhD in mathematics.
Edit: Вот его биография

ОК, я уже запутался в этих поляках. В любом случае Chojecki не тот математик, чтобы так по-хамски отзываться о Филдсовских лауреатах.

Klein в сообщении #1733870 писал(а):

Вы могли бы подробнее почитать биографию Пахоцки. У него не только спортивные олимпиады, но и диссертация, написанная под руководством одного из ведущих специалистов по алгоритмам и спектральной теории графов Гарри Миллера (CMU)

Кодил математические идеи своего руководителя.

Klein в сообщении #1733870 писал(а):

Это у вас такие аспиранты или вы наблюдаете за такими ? Сочувствую. Значит очередь из талантливых студентов или просто сильных студентов к другим научным руководителям. Не к тем за которыми вы имеете возможность наблюдать.

Что же вы так невнимательны. В цитате речь не про аспиратнов, а

dsge в сообщении #1733829 писал(а):

Каждый образованный человек должен взять производные функций

Да, я наблюдаю, что некоторые старшекурсники (магистры) не знают простейшие табличные производные, и это тревожит намного больше, чем возможность ИИ решить все математические проблемы. ИИ только усугубляют это невежество.

-- добавлено через 1 минуту --

Klein в сообщении #1733878 писал(а):

Несколько дней назад Альтман, выступая перед представителями крупнейших экономик на G20, довольно ясно описал этот переломный для компании момент. По его словам, внутренний консенсус в OpenAI относительно того, насколько далеко может зайти этот подход, сформировался примерно в период GPT-4 в 2023г. Даже некоторые сотрудники, которые до этого относились к этому направлению скептически увидели переспективу в практическом применении LLM. Видимо, в этом и кроется вся причина смены главного научного руководителя в компании, а не подковровые баталии.

Для объективности неплохо выслушать и другую сторону конфликта.

Откуда вы это знаете, чем занимался Пахоцки в OpenAI? У Пахоцки диссертация была посвящена быстрым алгоритмам для высокоразмерной выпуклой оптимизации с акцентом на графовые задачи, линейные системы и спектральную теорию графов. Научным руководителем был Гэри Миллер - один из ведущих специалистов по алгоритмам и спектральной теории графов.
В OpenAI Пахоцки занимался не просто программированием. Он работал над масштабным обучением с подкреплением, оптимизацией глубокого обучения и масштабированием нейросетевых систем, а позднее руководил GPT-4 и отвечал за оптимизацию ее обучения. Это было до ухода предыдущего руководителя. Тем, чему Пахоцки учился в CMU , он занялся позже в OpenAI. Сама OpenAI пишет, и писала до ухода предыдущего руководителя, о деятельности Пахоцки и что он сыграл ключевую роль в переориентации компании на масштабирование систем глубокого обучения.
Его назначили на роль ведущего научного сотрудника явно не на пустом месте. Зачем огромной компании назначать на должность главного научного сотрудника человека только потому, что он хороший программист? До 2019г OpenAI занималась преимущественно робототехникой. Пишут, компания работала над роботизированием кисти и занималась играми. Только в 2018 году OpenAI опубликовала работу по масштабируемому языковому моделированию. Это и была линия исследований из которой позднее выросло GPT. Уже позднее, после 2020 г.

Что касается письма под которой поставили 25 выдающихся математиков.
Вопрос совсем не в их математической достижениях. Это известные и уважаемые люди. Вопрос в том, насколько глубоко эта группа успела погрузиться в тему стремительного развития современного ИИ и в последствия его применения в математике и образовании. В частности в исследовательской математике. Возможности LLM на уровне серьезной исследовательской математики возникли буквально вчера. Сам Тао пишет, что резкий прогресс произошел за последние несколько месяцев. Если брать более широкий период, то примерно о 6 месяцах. Также Тао пишет, что у этой группы подписавших письмо не было времени на длительный и широкий консультативный процесс. 25 лауреатов согласовали свою позицию в течение недели. Успели списаться и выразить солидарность, поставив подписи. У этих людей очень плотный график. Исследования, чтение лекций, семинары, конференции, руководство аспирантами и постдоками, рецензирование, совместные исследовательские проекты. Ну когда им детально заниматься вопросом использования ИИ в исследовательской математике? Обратная связь к ним поступает видимо от коллег из академической среды.