Я всё же считаю, что множества систем, которые бездумно действуют "как учили", и систем, способных переработать вселенную в компьютрониум, не пересекаются
В каком смысле "бездумно"? У системы есть какая-то ФП, которая каким-то сложным способом получается из того, чему её учили. И тут важная идея - тезис ортогональности: ФП и интеллектуальные способности, вообще говоря, не связаны.
Допустим ИИ-шник спрашивает ИИ
Модели уже сейчас пишут код и лезут в интернет, чтобы отвечать на вопросы. Для более точного ответа на вопрос полезно получить побольше вычислительных ресурсов (это довольно очевидно). Дальше всё по тому же сценарию.
Никакого ASI не может существовать
Доказательства? Какие верхние оценки? Например, может ли существовать система, которая, начиная с суток работы на 1000 v6e с доступом в интернет, сможет через полгода начать ядерную войну?
Но из слов Jassy следует, что "количество сделанных задач" вырастет недостаточно, чтобы избежать увольнений
Следует. Но мне совсем не очевидно, насколько ему в этой части можно верить. Как в плане добронамеренности, так и в плане экспертности.
Наблюдается некоторое противоречие
Нет, из уменьшения дроби

не следует сокращения числителя.
нервничают по поводу своих рабочих мест
Люди нервничают по самым разным поводам всю историю. То, что люди опасаются потерять работу из-за LLM - верю. Что под этими опасениями есть серьезные основания - пока не особо.
(Оффтоп)
Я, как обычно, считаю, что все эти вероятности уже правильно учтены в цене акций, поэтому никаких ставок на бирже на это сделать не могу.
можно было дать вам стандартную задачу на теорему Баейса, заменив монеты, кости, вакцины на другие предметы чтобы обмануть LLM
Ну кстати подобрать сейчас задачу на теорему Байеса, которую надежно решит второкурсник-троечник, и надежно не решат LLM, не так-то просто.