Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




На страницу 1, 2, 3  След.
 Декларация о влиянии ИИ на математику
Двадцать пять лауреатов Филдсовской премии подписали такую декларацию. Какое ваше мнение по этому вопросу? Подписали бы или нет?

 Re: Декларация о влиянии ИИ на математику
DieselMachine в сообщении #1733708 писал(а):
Какое ваше мнение по этому вопросу?


Меньше 4 лет назад , точнее 30 ноября 2022г был публично запущен ChatGPT. Тогда над первыми версиями смеялись из-за ошибок при решении математических задач школьного уровня. Некоторые комментировали возможности первых версий снисходительно. Спустя неполные 4 года стало не до смеха. Коллективное письмо подписали 25 лауреатов медали Филдса.

Обратите внимание на Якуба Пахоцкого - молодого главного научного сотрудника (Chief Scientist) OpenAI. Фото и его цитата ниже. Пахоцкий родился в Гданьске, окончил Варшавский университет и защитил диссертацию в CMU. Позже работал постдоком в Гарвардском университете. В юношестве участвовал и побеждал в олимпиадах по спортивному программированию. В 2017 году, когда ему было 26 лет, перешел в OpenAI. То есть он в компании практически с начала ее основания. В 2021г стал руководителем исследований (Director of Research), а в 2024-м - главным научным сотрудником (Chief Scientist) OpenAI. Сегодня компания оценивается примерно в $850–870 млрд. Пахоцкий и его поколение представляют молодых талантливых людей с новыми идеями, которые двигают науку и технологическое развитие вперед. Это не лауреаты-подписанты, в большинстве своем , с забронзовелыми взглядами из академии. Пусть даже они очень известные и уважаемые люди.
Также решение известных математических задач для OpenAI не является самоцелью. Это исследовательская площадка, тестирование возможностей моделей и, разумеется, реклама для компании. Не менее важными, а может куда более важным и перспективными могут оказаться применения передовых моделей например в молекулярной биологии, разработке лекарств, медицине и в том, что на Западе принято объединять под понятиями life sciences и health sciences. И других фундаментальных науках и прикладных дисциплинах.
За образование молодежи и будущее математики не надо беспокоиться. Новые поколения быстрее привыкают к новыминструментам и начинают воспринимать как само собой разумеющееся то, что еще недавно казалось старшему поколению радикальным изменением. С ИИ в образовании, думаю, произойдет примерно то же самое. За образование Пахоцкого и его поколения тоже переживали некоторые противники компьютеров и инструментов вроде Wolfram Alpha. Еще раньше - противники калькуляторов.
Среди 25 подписантов коллективного письма есть математики, которые сами активно работают с ИИ, используют его в математических исследованиях и в образовании. Вы сами можете в этом убедиться. Также среди лауретов - выходцев из академии - есть сотрудники OpenAI. Джейкоб Цимерман уже сотрудник OpenAI. Другие, не подписавшие письмо, также аффилированы с разными ИИ компаниями.

Kомментарий в ленте X математика работающий на компанию ИИ.


Цитата:
https://x.com/prz_chojecki/status/2098496904724447285

Новый пост в блоге Терри Тао и новая декларация против ИИ, подписанная 25 лауреатами Филдсовской премии.

Я не совсем понимаю, какого эффекта этим предполагается добиться. Запретить использование ИИ в математике и науке вообще — потому что так считает «математическое сообщество»?

К счастью, математическое сообщество гораздо шире одной лишь академической математики, и благодаря ИИ оно развивается как никогда прежде.

Кроме того, это выражение — «массовое производство утверждений, которые могут быть истинными или ложными» — совершенно неверно описывает происходящее. Как будто не существует доказательств, полученных с помощью ИИ, которые можно изучать, использовать для углубления собственных знаний, развивать дальше и с которыми можно содержательно работать.

Даже так называемый «ИИ-шлак» (AI slop) всё равно написан лучше, чем тексты 90% математиков.

Математика не принадлежит академическому математическому сообществу. Это инструмент, позволяющий понимать мир и предоставлять другим областям необходимые методы и инструменты. ИИ ускоряет это понимание и вовлекает в математику гораздо более широкое сообщество.

Лебединая песня академии.






На фото молодой Якуб Пахоцкий, который последние 9 лет находится в центре исследовательской работы OpenAI. Джейкоб Цимерман не намного старшего его. Также сотрудник OpenAI.





Изображение

 Re: Декларация о влиянии ИИ на математику
Аватара пользователя
цитата из X писал(а):
и новая декларация против ИИ, подписанная 25 лауреатами Филдсовской премии.
Но это же не декларация против ИИ. Например, там сказано:
Перевод декларации писал(а):
Более того, без желающих математиков, которые должны позаботиться об их развитии и интеграции в математический канон, идеи, разработанные с помощью ИИ, никогда не воплотятся в жизнь в полной мере
<...>
Искусственный интеллект открывает потенциал для улучшения и ускорения подлинного изучения и понимания математики. Математик как профессия должна будет адаптироваться к этим изменениям различными способами.
Эта декларация - выражение беспокойства за дальнейший путь развития математики, не предлагающее никаких конкретных решений. Беспокойство вполне оправданное. Но главное, тут и близко нет призывов запретить ИИ или что-то подобное, а есть призыв адаптироваться к новой реальности. В предыдущих выступлениях Теренса Тао на эту тему я вижу то же самое. Поэтому вот это, по-моему, писать совсем излишне:
Klein в сообщении #1733723 писал(а):
лауреаты-подписанты, в большинстве своем , с забронзовелыми взглядами из академии.

Я тоже думаю, что наука и образование от ИИ только выиграют, хотя и сильно изменятся.

 Re: Декларация о влиянии ИИ на математику
Мне кажется что тут математическое ремесло начинает отъедать от пирога математической науки. Человечество наплодило математических текстов и изучать их раньше было частью математической науки, а теперь становится частью математического ремесла.

Надо через пару лет перечитать "Сумму технологий", вероятно уже станет ясно заблуждался ли Лем и где.
А может и перечитывать не придётся - просто спросить у ИИ "Заблуждался ли Лем и в чём" :)

 Re: Декларация о влиянии ИИ на математику
Mikhail_K в сообщении #1733726 писал(а):
Но это же не декларация против ИИ.

Насколько я понял посыл у них такой: мы обдумываем наши идеи, проводим семинары, обсуждаем, а теперь приходят такие как Левент Альпёге и штампуют каждый месяц одно доказательство за другим. Вот это их задело:
Цитата:
Our ideas we disseminate in talks, private discussions and careful writeups, connecting them to the previous ideas of others. These processes invariably take time and are based on human interaction.

Цитата:
However, the push by AI companies to solve mathematical problems as a benchmark is detrimental to the science of mathematics, and to the mathematical community.

 Re: Декларация о влиянии ИИ на математику
Аватара пользователя
DieselMachine в сообщении #1733780 писал(а):
Насколько я понял посыл у них такой: мы обдумываем наши идеи, проводим семинары, обсуждаем, а теперь приходят такие как Левент Альпёге и штампуют каждый месяц одно доказательство за другим. Вот это их задело
На первый взгляд кажется, что это не может продолжаться бесконечно или даже долго. Решат самые хайповые задачи (и отлично, что решат - интересно же, что получится, а если ИИ-компании ещё и сами готовы на это тратить кучу денег, то совсем замечательно) - а потом математики будут спокойно разбирать на семинарах то, что нарешалось, будут не торопясь развивать теории на основе сделанного (только теперь уже, конечно, тоже с помощью ИИ). Ведь решение той же проблемы Навье-Стокса - это не конец, а начало новых исследований, которые ИИ-компаниям уже не так интересны, а учёным интересны будут. Ценность публикаций пойдёт вниз и/или резко ужесточатся к ним требования (будет недостаточно просто верного или даже формализованного доказательства чего-нибудь нового, будет важно показать существенную значимость для науки), ценность выступлений на семинарах наоборот возрастёт. Что касается соревнования новых моделей на открытых проблемах, ИИ-компании не обязательно должны сопровождать их публикациями. Вполне можно просто смотреть - решила модель такую-то задачу (написав формализованное доказательство) или не решила; если решила - то ставить ей плюсик, но в словесной форме результат не публиковать. Математики сами не торопясь опубликуют.

 Re: Декларация о влиянии ИИ на математику
Аватара пользователя

(Оффтоп)

Mikhail_K в сообщении #1733788 писал(а):
сами готовы на это тратить кучу денег

Вот только эти деньги они берут у нас....

 Re: Декларация о влиянии ИИ на математику
Mikhail_K в сообщении #1733788 писал(а):
Решат самые хайповые задачи (и отлично, что решат - интересно же, что получится

Да, мне тоже интересно какие задачи поддадутся ИИ

Mikhail_K в сообщении #1733788 писал(а):
будут не торопясь развивать теории на основе сделанного

А вот смогут ли математики дальше что либо развивать? В ближайшее время вся известная на текущий момент математика будет формализована в Lean, потом ИИ всё это прошерстит и выведет и оформит ещё не найденные закономерности. Хватит ли у человека интеллекта и времени чтобы понять такой объём информации и продвинуться дальше?

 Re: Декларация о влиянии ИИ на математику
Аватара пользователя
DieselMachine в сообщении #1733791 писал(а):
потом ИИ всё это прошерстит и выведет и оформит ещё не найденные закономерности. Хватит ли у человека интеллекта и времени чтобы понять такой объём информации и продвинуться дальше?
На данный момент способность ИИ создавать новые содержательные теории, а не просто решать имеющиеся задачи, пока ещё не совсем бесспорна. Я уверен, что непреодолимой пропасти здесь нет, но когда это будет достигнуто в полной мере - неясно.

Но даже если ИИ научится вообще всему и оставит людей далеко позади - люди всё равно будут продолжать в чём-то разбираться, пусть в чём-то самом простом из созданного ИИ, и обсуждать это между собой. Может быть, наука в этом и будет заключаться.

Предел для человеческого осмысления науки, вероятно, есть - просто потому что человеческая жизнь ограничена, и поэтому ограничена глубина знаний, которой в принципе можно успеть достичь. Ну, если не будет каких-нибудь фантастических прорывов в долголетии и/или повышении возможностей мозга. Но даже если таких прорывов не будет, этот предел пока что не виден, и рассуждать о нём рано.

 Re: Декларация о влиянии ИИ на математику
Расскажите вкратце, что там написано, а то мне лень читать. Польза может быть какая: во-первых, ИИ вычислит все гомотопии и эта математика закончится. А то везде гомотопии, гомотопии везде. Во-вторых, пусть докажет противоречивость арифметики.

 Re: Декларация о влиянии ИИ на математику
Аватара пользователя
Я спросил у ясеня ... нет не у ясеня, а у Грока (который в последнем скандале не замешан):
* вот есть такая гипотеза, сможет ли ИИ ее решить.
** Ни фига не сможет
* А как же Н-С?
** Ну там было просто, а в вашей гипотезе и анализ, и динамические системы, и геометрия намешаны, и как подойти--неясно

Реакция Филдсовских Лауреатов в значительной мере (по моему мнению) обусловлена не самим фактом применения ИИ, а совершенно хищнической манерой. Почему ОИИ взялся за Н-С? Во-первых, потому, что это "хайповая" задача (и создание короткого списка "хайповых" задач, за решение которых раздаются серьезные плюшки--и миллион от Клея отнюдь не самая важная--и тем самым отнесение всех остальных задач к разряду менее важных--это "заслуга" небольшой группы), а во-вторых, потому что появилось сообщение , что А-Б близки к решению. И тут ОИИ и выделил большие ресурсы.

Теперь возникает такой момент: ИИ стоит денег, но, в общем-то небольших. Например, ОИИ на самом верху (Про, уровень 2) стоит $200 в месяц, т.е. если еще докупать кредиты, то я думаю 3000 в год (конечно, это гораздо меньше, чем ОИИ бросил на Н-С). Стоит мне потратить их на ИИ или гораздо большую сумму на постдока или аспиранта? Да, и для постдока и аспиранта тоже надо оплачивать ИИ.

Есть коллеги, которые резко возражают против ИИ потому что решение с помощью ИИ "не дает понимания". Но, ответ на некоторые задачи из смежных областей меня интересует. а развитие этих областей--не очень.

В общем, я не вполне согласен с полным текстом этого письма, но не могу согласиться и с полным его отрицанием

 Re: Декларация о влиянии ИИ на математику
Аватара пользователя
Red_Herring в сообщении #1733806 писал(а):
Есть коллеги, которые резко возражают против ИИ потому что решение с помощью ИИ "не дает понимания".
Я даже по образованию не математик, не то что по профессии. Но осмелюсь высказаться.

1. Доказательство от ИИ теоретически можно довести до состояния, когда оно даст понимание. В сотрудничестве с тем же ИИ.

2. Даже если это не удастся, важен сам факт, что доказательство существует. Одно дело искать "человекопонимаемое" доказательство, не зная, верно утверждение или нет. Совсем другое - зная, что оно верно. Возможно, в будущем существенной частью работы математиков станет поиск "человекопонимаемых" доказательств доказанных машинами теорем.

1 Полезно / согласиеMikhail_K
 Re: Декларация о влиянии ИИ на математику
Аватара пользователя
И Н-С дает этому пример: что доказано (если доказано) сейчас? Что глобального гладкого решения при некоторых гладких начальных данных и правых частях не существует и, тем самым, надо смотреть на негладкие решения, про которые, как указал мне sup, доказана неединственность.

Тем самым, надо найти критерий "физичности" обобщенных решений, а именно--то, что решение, удовлетворяющее ему, существует и единственно (и при гладких начальных данных и правых частях совпадает с гладким решением--пока то существует), и желательно, чтобы этот критерий допускал интерпретацию с точки зрения физики.

И с большой вероятностью, эта деятельность, технически может абсолютно ме быть связана с доказательством несуществования гладкого решения.

 Re: Декларация о влиянии ИИ на математику
Red_Herring в сообщении #1733815 писал(а):
что доказано (если доказано) сейчас? Что глобального гладкого решения при некоторых гладких начальных данных и правых частях не существует

Пока ни один человек не проверил и не подтвердил, что доказано. В институте Клея проблема Н-С имеет до сих пор статус "active" нe "solved".
Что не отметили Филдсовские лауреаты - это нездоровая практика объявления результатов в социальных сетях с последующим ажиотажем. Люди не в равном положении. Человеку, чтобы получить признание корректности работы, надо послать работу в журнал, и ждать ответа рецензентов.
Anton_Peplov в сообщении #1733811 писал(а):
возможно, в будущем существенной частью работы математиков станет поиск "человекопонимаемых" доказательств доказанных машинами теорем.

Если редактору журнала прийдет нечитабельный текст, то он ответит "пишите на понятном языке и отфутболит работу". Прямо сейчас ИИ-корпорации должны обучать модели писать на "человеческом" языке, если хотят, чтобы "решеные" проблемы были признаны решенными.

 Re: Декларация о влиянии ИИ на математику
Аватара пользователя
dsge в сообщении #1733821 писал(а):
Red_Herring в сообщении #1733815 писал(а):
что доказано (если доказано) сейчас? Что глобального гладкого решения при некоторых гладких начальных данных и правых частях не существует

Пока ни один человек не проверил и не подтвердил, что доказано. В институте Клея проблема Н-С имеет до сих пор статус "active" нe "solved".
Что не отметили Филдсовские лауреаты - это нездоровая практика объявления результатов в социальных сетях с последующим ажиотажем. Люди не в равном положении. Человеку, чтобы получить признание корректности работы, надо послать работу в журнал, и ждать ответа рецензентов.
Anton_Peplov в сообщении #1733811 писал(а):
возможно, в будущем существенной частью работы математиков станет поиск "человекопонимаемых" доказательств доказанных машинами теорем.

Если редактору журнала прийдет нечитабельный текст, то он ответит "пишите на понятном языке и отфутболит работу". Прямо сейчас ИИ-корпорации должны обучать модели писать на "человеческом" языке, если хотят, чтобы "решеные" проблемы были признаны решенными.

1) Я указал "если доказано". И в этом смысле ОИИ сделал то же самое, что и человек: он выложил статью в открытый доступ--мог бы и в arXiv
2) Мне известны случаи (не со мной), когда некоторый уважаемый (по крайней мере в прошлом) журнал возвращал работу после 2х лет "Мы искали, кому мы могли бы послать работу на отзыв и не нашли". Главный редактор--хороший математик (хотя и не супер) и притом член нескольких других редакций и всяких грантовыдающих комиссий.

Мы без всяких ИИ уже имеем нездоровую атмосферу.

 [ Сообщений: 31 ]  На страницу 1, 2, 3  След.


Соглашение о конфиденциальности | Общие правила

Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group