https://android-robot.com/iskusstvennyj ... -referaty/Цитата:
Может ли новый и чрезвычайно популярный чат-бот ChatGPT убедительно создавать поддельные рефераты, которые обманывают ученых, заставляя их думать, что эти исследования настоящие? Этот вопрос беспокоил врача и ученого Северо-Западной медицины доктора Кэтрин Гао, когда она разработала исследование — в сотрудничестве с учеными Чикагского университета — для проверки этой теории. Да, ученых можно одурачить, говорится в их новом исследовании. Ослепленные рецензенты-люди, которым давали смесь реальных и ложно сгенерированных рефератов, могли обнаружить сгенерированные ChatGPT рефераты только в 68% случаев. Рецензенты также ошибочно определили 14% реальных тезисов как сгенерированные ИИ.
«Рефераты, созданные ChatGPT, были очень убедительными, — сказал Гао, — потому что он даже знает, насколько большой должна быть когорта пациентов, когда он изобретает числа». В широко распространенном исследовании гипертонии ChatGPT включал в когорту десятки тысяч пациентов, в то время как в исследовании обезьяньей оспы участвовало гораздо меньшее число участников. «Наши рецензенты отметили, что было удивительно сложно отличить настоящие рефераты от поддельных», — сказал Гао. Исследование показало, что поддельные рефераты не вызывали тревогу при использовании традиционных инструментов обнаружения плагиата. Однако в исследовании детекторы вывода ИИ, такие как детектор вывода GPT-2, который доступен онлайн и бесплатно, могут различать настоящие и поддельные рефераты. «Мы обнаружили, что детектор выходных данных ИИ довольно хорошо обнаруживает выходные данные ChatGPT, и предлагаем включить его в научный редакционный процесс в качестве процесса проверки для защиты от нацеливания со стороны таких организаций, как бумажные фабрики, которые могут попытаться представить чисто сгенерированные данные. — сказал Гао.
Для борьбы с ИИ-публикациями предложили применять другой ИИ-детектор. ИИ-детектор ИИ-публикаций может поставить крест на карьере честного учёного в случае ложной тревоги, если его решение будет неоспоримо, как сейчас наказывают за плагиат. А оно и будет неоспоримым, так как люди признали, что неспособны сами отличить ИИ от человека. С другой стороны ИИ-генератор наукоподобных текстов совершенствуется и непонятно сможет ли ИИ-детектор обнаруживать тексты за авторством ИИ в будущем.
