Верно ли, что "использование ИИ подразумевается"?

[lel0lel]

В только что закрытой теме прозвучала мысль, что скоро любая работа будет подразумеваться выполненной с предварительной загрузкой в хорошую нейросеть. Начал отвечать в той теме, но не успел. Приведу в этой теме свои мысли.

Mikhail_K в сообщении #1730395 писал(а):

где ИИ используют все, декларировать его использование незачем из-за того, что оно подразумевается;

Согласен, что декларировать не имеет смысла, всё равно люди будут поступать так, как захотят. А вот насчёт "используют все" -- не согласен. Думаю, что есть немало людей, которым это будет скучно, гораздо интереснее свои мысли крутить, чем то, что предлагает нейросеть. Пусть это и неоптимальная стратегия. Но ведь, действительно, есть спортивный интерес, особенно если наука не основной источник дохода.

Mikhail_K в сообщении #1730395 писал(а):

даже если доказательство построено самостоятельно человеком, странно не показать его ИИ и не спросить, нельзя ли в нём что-то улучшить;

Не вижу в этом ничего странного. Если человек понимает свою работу, то нет необходимости спрашивать. Кому будет нужно, те и улучшат. Возможно, что со временем это будет делаться на этапе рецензирования, во-первых, экономит время. Во-вторых, может будут рекомендации по связанной литературе. Об этом рецензент и напишет, если посчитает рекомендации удачными.

(Оффтоп)

На всякий случай: эта тема не о деньгах, не о политических направлениях и не о Брюсселе.

[Mikhail_K]

lel0lel в сообщении #1730407 писал(а):

Если человек понимает свою работу, то нет необходимости спрашивать.

Не необходимость, а желание. И речь здесь не о том, что "человек не понимает свою работу". Я сам показал ИИ некоторые свои доказательства прошлых лет, и оказалось, что некоторые из них можно изложить лучше, проще, яснее. Что где-то я шёл окольным путём, где можно было идти прямым, но я его не заметил. А где-то можно было использовать инструменты, которые мне и в голову не пришло бы использовать, но они действительно очень уместны. И не видел возможность их применения не только я, но и самые признанные специалисты в моей области.

Если доказательство можно оптимизировать, то это нужно делать - для математического сообщества более краткие и ясные доказательства ценнее сложных и запутанных. Если, конечно, они не только короче, но и концептуальнее и яснее. И если человеку интересна математика, то не представляю, как ему может быть не интересно узнать о возможности доказательство улучшить.
А что автор должен полностью понимать свою работу и отвечать за неё - с этим никто не спорит.

lel0lel в сообщении #1730407 писал(а):

Думаю, что есть немало людей, которым это будет скучно, гораздо интереснее свои мысли крутить, чем то, что предлагает нейросеть.

Без сомнения так, собственные мысли - на первом месте. Но и от помощи нейросети отказываться нерационально. Причём неважно, работает ли человек в первую очередь ради дохода или ради интереса. Во втором случае - тем более.

[Red_Herring]

Мой коллега пожаловался, что двое "коллег"доказали гипотезу, высказанную в его статье, с помощью ИИ, не указывая использования ИИ. Почему он уверен, что на самом деле все сделал ИИ: их статья абсолютно нечитабельна, так люди не пишут. Для одного из них это первая статья, у другого: 1 статья в 2024, 1 статья в 2025 и 10 в 2026, причем никак меж собой не связанные. Он "шакал": видит статью, загружает в ИИ и, не тратя времени на проверку или хотя бы на минимальное понимание....

Последствия: журналы будут завалены бурным потоком статей от ИИ, редакции и референты воют... Но еще хуже другое: рацвитые ИИ стоят денег и богатые буратинки будут в выигрыше -- и будут получать гранты (положительная обратная связь).

[Mikhail_K]

Тао в своём докладе как раз говорит о том, что основная ценность должна сместиться с самого факта получения результата на умение его ясно изложить, в том числе устно на семинаре. Как-нибудь это неизбежно организуется, в ответ на возникшие проблемы. Нечитаемые статьи будут отклоняться, в заявках на гранты будут в большей степени учитываться не только публикации, но и их апробация на семинарах. Что пойдёт математическому сообществу только на пользу.

Нечитаемые статьи, с нуля сгенерированные ИИ, я и сам видел. Конечно, это не дело.

[yesterday]

Но если получен правильный и интересный результат, то какая разница, как он получен. Вам, простите, шашечки, или ехать? По-моему, любой учёной должен быть рад развитию в "своей теме". А ЛЛМ-ка --просто новый сильный инструмент в умелых руках для получения новых и интересных результатов. Надо принять новую реальность и учиться с ней взаимодействовать. В руках "обывателя" это просто генератор нейрослопа.

[lel0lel]

Mikhail_K в сообщении #1730410 писал(а):

Я сам показал ИИ некоторые свои доказательства прошлых лет, и оказалось, что некоторые из них можно изложить лучше, проще, яснее.

Mikhail_K в сообщении #1730410 писал(а):

Если доказательство можно оптимизировать, то это нужно делать - для математического сообщества более краткие и ясные доказательства ценнее сложных и запутанных. Если, конечно, они не только короче, но и концептуальнее и яснее.

Мне эта мысль понятна, но я с ней не полностью согласен. Иногда важнее сам путь к цели, а также умение его доступно показать. Пусть он не будет самым коротким и концептуальным, но будет одним из безошибочно ведущих к верному результату. Это множество путей само по себе имеет большую ценность, не нужно их прятать за ширмой оптимальных и коротких доказательств. Если в какой-то задаче оказался путь короче, ну что ж, может в другой кратчайший не найдётся так легко, а ваш будет упрямо работать. Тут уместно вспомнить Диофанта , с его изложением хода мыслей решения одного уравнения. Там метод, чем-то напоминающий метод касательных/секущих на эллиптических кривых.

А если все начнут выбирать кратчайший/оптимальный путь, не скатимся ли мы в оптимальную яму, которая может и не будет на самом деле глобально оптимальной. Я не против использования ИИ в разумных вопросах: подсказать имеющиеся методы, литературу, помочь с кодом, но чтобы загружать работу и корректировать доказательства -- пока против.

(Оффтоп)

Есть такая занятная серия в Смешариках, называется вроде "смысл жизни". Там Карыч и Бараш идут за "кузинатрой", которая знает ответы на все вопросы. По итогу, получается, что важнее сам путь, чем цель.

[Ghost_of_past]

lel0lel в сообщении #1730407 писал(а):

Возможно, что со временем это будет делаться на этапе рецензирования, во-первых, экономит время. Во-вторых, может будут рекомендации по связанной литературе. Об этом рецензент и напишет, если посчитает рекомендации удачными.

Сам практически не пользуюсь (только оформлял эконометрические таблицы для статей из уже готовых моделей в R, но все равно приходилось все перепроверять на всякий случай), но коллеги по университету, кто пользуется активно, говорят, что полезны для 3 вещей:
1) рецензирование и критика слабых мест уже готовых текстов,
2) поиск дополнительных источников для текста, - но при условии, что нет большого количества галлюцинаций,
3) написание основы некоторых подразделов теоретической части, связанных с обзорами литературы - но при условии переработки и чистки потом этого текстового материала.

Mikhail_K в сообщении #1730415 писал(а):

Нечитаемые статьи, с нуля сгенерированные ИИ, я и сам видел. Конечно, это не дело.

Ага, мне приходило на рецензирование весной два таких текста. Если вкратце, то впечатление: обнять и плакать. Обнять меня и плакать тоже мне - кровь из глаз от таких текстов.

[yesterday]

Давайте будем честны. Теоретической наукой в самом деле занимается не так много людей. Они по своей теме знают друг-друга, списываются, общаются лично на международных конференциях. Там нейрослоп не пройдёт. На этом уровне нейросети--очень полезный инструмент, облегчающий работу теоретика. Большинство людей "в науке"--это прикладная наука и экспериментаторы. Я в их среде не варюсь, но там тоже нейрослоп не пройдёт, так как за фальсификацию могут не только выпереть с НИИ, так еще и под статью попасть. Так что никаких проблем для настоящей науки я на данный момент не вижу. Мне, наоборот, очень сильно облегчает работу sol(gpt 5.6), что у мя на работе платная версия(pro).

[dsge]

Mikhail_K в сообщении #1730415 писал(а):

Нечитаемые статьи будут отклоняться

Это кем будут отклоняться? Рецензенты тоже не дураки, чтобы терять свое время, и используют LLMs для написания рецензий.

SIAM, правда не позволяет по своим правилам делиться рецензируемой статьей с ИИ
https://epubs.siam.org/artificial-intelligence

Цитата:

SIAM referees are not permitted to share papers under review with generative AI tools in any form — including uploading, copy-pasting, or otherwise inputting manuscript content — as this compromises the confidentiality, copyright, and data privacy of material provided by the author during the peer review process.

Но как они проконтролируют выполнение этих правил?

[Mikhail_K]

dsge в сообщении #1730420 писал(а):

Это кем будут отклоняться? Рецензенты тоже не дураки, чтобы терять свое время, и используют LLMs для написания рецензий.

Рецензентами, возможно редакторами - так же как и всегда.

Добросовестные рецензенты используют LLM для проверки статьи, а не для генерации рецензии с нуля. В конце концов, рецензирование - добровольное дело, и если у человека совсем нет времени и интереса к рецензированию, то вряд ли он на рецензирование согласится.

LLM будет искать опечатки и логические ошибки, но рецензент и сам посмотрит статью тоже, чтобы принять взвешенное решение.

[dsge]

Mikhail_K в сообщении #1730422 писал(а):

Добросовестные рецензенты используют LLM для проверки статьи, а не для генерации рецензии с нуля. В конце концов, рецензирование - добровольное дело, и если у человека совсем нет времени и интереса к рецензированию, то вряд ли он на рецензирование согласится.

Вы когда-нибудь были рецензентом в солидном журнале от солидного международного издательства? Представляете как это все работает?

[Mikhail_K]

dsge в сообщении #1730420 писал(а):

SIAM referees are not permitted to share papers under review with generative AI tools in any form — including uploading, copy-pasting, or otherwise inputting manuscript content — as this compromises the confidentiality, copyright, and data privacy of material provided by the author during the peer review process.

Это безнадёжно и неизбежно будет отменено (не знаю только, скоро или нескоро).
Во-первых, нельзя проконтролировать.
Во-вторых, журналы и сами должны быть заинтересованы в том, чтобы не пропустить статью с ошибками. А рецензент, как правило, не имеет ни времени, ни сравнимой с LLM возможности проверить статью по-настоящему дотошно.
В-третьих, исходя из этого, честные рецензенты могут просто начать отказываться рецензировать статьи в таких журналах, где им запрещено использовать ИИ; а рецензентов тоже не так уж много по каждой теме.
В-четвёртых, весь этот разговор про нарушение авторских прав - такое себе. Даже если текст используется для дообучения модели, это и близко не значит, что модель его кому-нибудь перескажет. Не говоря о том, что во многих LLM есть режим, гарантирующий, что загруженные тексты использоваться нигде не будут. Наконец, есть arXiv для тех, кто особенно заботится о приоритете.

[dsge]

Mikhail_K в сообщении #1730422 писал(а):

Добросовестные рецензенты используют LLM для проверки статьи, а не для генерации рецензии с нуля. В конце концов, рецензирование - добровольное дело, и если у человека совсем нет времени и интереса к рецензированию, то вряд ли он на рецензирование согласится.

Вы когда-нибудь были рецензентом в солидном журнале от солидного международного издательства? Представляете как это все работает?

Редактор отправляет статью на рецензирование своему аспиранту или бывшему ученику или аспиранту коллеги по департаменту. Полагаете, что аспирант или коллега, которому срочно нужны публикации ответит своему руководителю и редактору журнала, в котором сам будет публиковаться: "рецензирование - добровольное дело" и "у меня совсем нет времени и интереса к рецензированию".

[Mikhail_K]

dsge в сообщении #1730423 писал(а):

Вы когда-нибудь были рецензентом в солидном журнале от солидного международного издательства? Представляете как это все работает?

В тех журналах, в которых я рецензентом был, всё работает так, как я описал. Просьбы о рецензировании мне приходят регулярно, не от моего непосредственного начальства (в моём вузе никакого своего математического журнала нет), в большинстве случаев я отказываюсь, ссылаясь на недостаток времени, изредка соглашаюсь. Никогда и в мыслях у меня не было, что отказ в рецензировании может иметь какие-то негативные последствия. Вероятно, эти журналы недостаточно солидные, не Q1. Жаль, если эта проблема есть даже в более солидных журналах.

[Alex-Yu]

yesterday в сообщении #1730416 писал(а):

Вам, простите, шашечки, или ехать?

На этот типичный вопрос бомбил я всегда отвечаю: мне ехать с шашечками. Хотя сейчас уже шашечек и нет, но с бомбилами не езжу никогда, из принципа.

-- добавлено через 57 секунд --

lel0lel в сообщении #1730417 писал(а):

Иногда важнее сам путь к цели,

Эт точно.


-- добавлено через 10 минут --

lel0lel в сообщении #1730417 писал(а):

По итогу, получается, что важнее сам путь, чем цель.

Ну это старая мысль: "у самурая нет цели, есть только путь". Даже гугл это знает. Близкий по сути не японский вариант: "делай что должно и будь что будет".

-- добавлено через 3 минуты --

lel0lel в сообщении #1730417 писал(а):

А если все начнут выбирать кратчайший/оптимальный путь, не скатимся ли мы в оптимальную яму, которая может и не будет на самом деле глобально оптимальной.

На мой взгляд намного важнее вопрос, а что взять за целевую функцию? В данном частном случае максимальное число теорем? Пусть даже правильных и хорошо изложенных? Нет, не согласен, это патологическая целевая функция. Да и вообще все ли и всегда ли нужно оптимизировать? Да и возможно ли...

P.S. Сам пользуюсь ИИ только как поисковиком литературы. Все остальное -- а пошел он вон. Причем читаю и оцениваю эту литературу потом сам.