выкристаллизовывается
Вот именно, выкристаллизовывается, а не генерируется. Да, это очень полезные знания, но они с трудом даются и не каждому, и не ежесекундно. Для получения новых знаний требуется провести эксперимент, то есть произвести воздействие на исследуемую среду и получить реакцию.
Это не происходит так: сел на кресло, поднял голову, закатил глаза и вдруг, раз, озарение наступило! В эти моменты мы просто соединяем известное известными нам способами. Так делает GPT.
Итак, никто не мешает GPT как генерировать, так и экспериментировать.
В общем, у вас неверное представление о том, как в среднем мыслит человек. Эксперимент может заключаться в том, чтобы потыкать палочкой, попробовать положить кафельную плитку самостоятельно, перевести текст с английского языка, а можно открыть научный закон.
С чего вы взяли, что GPT этого не может?