Социальные и прочие последствия от появления AGI и ASI

[MoonWatcher]

Любопытное исследование - прогноз развития ИИ вплоть до 2040 года. Авторы бегло рассмотрели несколько сценариев и отобрали один из наиболее маловероятных, с моей точки зрения - но наиболее предпочтительный с их точки зрения. Он называется план A и состоит в совместно контролируемом международным сообществом развитии ИИ, с введением моратория на создание ASI до 2040 года. В этом сценарии:
- занятость населения начинает быстро снижаться после 2032 года - с 62% до 12% в 2040
- годовой прирост ВВП в 2032 составит 50%
- налоговые доходы госбюджета США вырастут до 10 трлн долларов в 2030 и 180 трлн в 2034
- годовой ББД на одного человека в США составит 45 тыс долларов в 2032, 1 млн - в 2035, 10 млн - в 2040.

В случае бесконтрольного развития ИИ (у них - план D, ИМХО наиболее вероятный сценарий) ASI появится уже к началу 2031, и в этом случае, как я понимаю,социально-экономические последствия будут еще более скорыми и драматическими.

[Ghost_of_past]

MoonWatcher в сообщении #1728152 писал(а):

Любопытное исследование

Исследование опубликовано в каком-нибудь рецензируемом журнале по экономике из Scopus/WoS? Или по результатам исследования есть какие обобщающие научные работы, которые опубликованы в каком-нибудь рецензируемом журнале по экономике из Scopus/WoS?

MoonWatcher в сообщении #1728152 писал(а):

- занятость населения начинает быстро снижаться после 2032 года - с 62% до 12% в 2040

Почему занятость измеряется от общей численности населения США, а не от численности населения трудоспособного возраста?

MoonWatcher в сообщении #1728152 писал(а):

- налоговые доходы госбюджета США вырастут до 10 трлн долларов в 2030 и 180 трлн в 2034
- годовой ББД на одного человека в США составит 45 тыс долларов в 2032, 1 млн - в 2035, 10 млн - в 2040.

По номиналу?

-- добавлено через 9 минут --

MoonWatcher в сообщении #1728152 писал(а):

- годовой прирост ВВП в 2032 составит 50%

Ага, очень убедительно. Годовой прирост реального ВВП США по прогнозу МВФ от апреля 2026 года для сравнения:

+2,32% в 2026 году,
+2,10% в 2027 году,
+2,09% в 2028 году,
+1,88% в 2029 году,
+1,75% в 2030 году,
+1,77% в 2031 году.

[MoonWatcher]

Ghost_of_past в сообщении #1728154 писал(а):

Исследование опубликовано в каком-нибудь рецензируемом журнале по экономике из Scopus/WoS? Или по результатам исследования есть какие обобщающие научные работы, которые опубликованы в каком-нибудь рецензируемом журнале по экономике из Scopus/WoS?

Вряд ли. А разве подобные исследования публикуются в научных журналах? Формат вроде бы не вполне научный - слишком много спорных, оценочных предпосылок.

Ghost_of_past в сообщении #1728154 писал(а):

Почему занятость измеряется от общей численности населения США, а не от численности населения трудоспособного возраста?

Не знаю. Я вообще думал это про мировую занятость.

Ghost_of_past в сообщении #1728154 писал(а):

По номиналу?

Не знаю.

Ghost_of_past в сообщении #1728154 писал(а):

Ага, очень убедительно. Годовой прирост реального ВВП США по прогнозу МВФ от апреля 2026 года для сравнения:

+2,32% в 2026 году,
+2,10% в 2027 году,
+2,09% в 2028 году,
+1,88% в 2029 году,
+1,75% в 2030 году,
+1,77% в 2031 году.

Они сами это подчеркивают.

[Ghost_of_past]

MoonWatcher в сообщении #1728156 писал(а):

А разве подобные исследования публикуются в научных журналах?

Сама аналитика может не публиковаться, но обобщение результатов - обязательно. Исключением могут быть только аналитические исследования крупных коммерческих структур, в той части, в какой прогнозы носят непубличный характер. Другое дело, что результаты, даже публикуясь открыто, не всегда могут быть легко доступны в Интернете - вот это на самом деле вполне нормальное явление.

MoonWatcher в сообщении #1728156 писал(а):

Формат вроде бы не вполне научный

Согласен, но проблема даже не в научности в смысле формальных правил, а в самом прогнозе - представленные значения выглядят откровенно нереалистичными.

MoonWatcher в сообщении #1728156 писал(а):

Я вообще думал это про мировую занятость.

Так это не особо важно: в подавляющем большинстве стран мира в трудоспособных возрастах находится от 55 до 70% всего населения и от 50% до 70% населения реально работает. Просто потому что остальные - пенсионеры, дети и нетрудоспособные инвалиды. Однако занятость чаще оценивают все-таки не от всего населения, а именно как % от трудоспособного населения.

MoonWatcher в сообщении #1728156 писал(а):

Не знаю.

Это важно: при 50% росте ВВП может быть и инфляция 50%. И тогда никакого реального роста нет, а есть стагфляция.

-- добавлено через 1 минуту --

MoonWatcher в сообщении #1728156 писал(а):

Они сами это подчеркивают.

Это честно с их стороны, что радует, но хотелось бы понять их методологию лучше. Её нигде отдельно не публиковали (в научном или любом другом формате)?

[MoonWatcher]

Ghost_of_past в сообщении #1728157 писал(а):

Сама аналитика может не публиковаться, но обобщение результатов - обязательно. Исключением могут быть только аналитические исследования крупных коммерческих структур, в той части, в какой прогнозы носят непубличный характер. Другое дело, что результаты, даже публикуясь открыто, не всегда могут быть легко доступны в Интернете - вот это на самом деле вполне нормальное явление.

То есть в научное исследование вписывается такой формат, когда делают спорные предпосылки (например, AGI к 2030 году) и на их основе показывают расчетную модель или хотя бы ее результаты?

Ghost_of_past в сообщении #1728157 писал(а):

Согласен, но проблема даже не в научности в смысле формальных правил, а в самом прогнозе - представленные значения выглядят откровенно нереалистичными.

Почему же? Представим, что AGI таки появился к 2030 году - это равносильно как минимум масштабированию интеллектуальной рабочей силы. Грубо говоря, увольняем (переводим на БДД) весь офисный планктон и запускаем его 10-кратный ИИ-эквивалент. Плюс появление миллионов новых стартапов, где трудятся ИИ-агенты. Плюс научные прорывы, благодаря ИИ - тут могут быть какие угодно спорные оценочные суждения. Наверняка оценка "50% в 2032" основывается на предпосылке, что это будет постепенный процесс.

Ghost_of_past в сообщении #1728157 писал(а):

Это важно: при 50% росте ВВП может быть и инфляция 50%. И тогда никакого реального роста нет.

Скорее всего авторы исходят из текущей инфляции, иначе бы сделали оговорку.

Ghost_of_past в сообщении #1728157 писал(а):

Это честно с их стороны, что радует, но хотелось бы понять их методологию лучше. Её нигде отдельно не публиковали (в научном или любом другом формате)?

Не встречал. Собственно их краткие пояснения (автоперевод):

Цитата:

Это явление не имеет исторических аналогов. Для сравнения: в нормальных условиях экономика США растет примерно на 3% в год. Подробнее о том, откуда взяты наши оценки, см. в приложении, посвященном экономике.

Следует учитывать, что точное измерение ВВП в подобных условиях становится чрезвычайно сложной задачей из-за радикальных изменений относительных цен. Благодаря автоматизации интеллектуальный труд и производство материальных благ становятся очень дешевыми, тогда как ресурсы с ограниченным предложением — прежде всего земля — дорожают, поскольку их невозможно произвольно увеличить даже при наличии практически неограниченных интеллектуальных и физических трудовых ресурсов.

Расчет ВВП основан на стоимости определенной потребительской корзины. В рассматриваемом сценарии структура потребления среднего американца в период с 2026 по 2034 год существенно меняется: расходы смещаются от таких категорий, как продукты питания, автомобили, топливо и медицинские услуги, в сторону земли, путешествий и статусных товаров. Причина заключается именно в изменении относительных цен. Поэтому показатели реального экономического роста нельзя напрямую интерпретировать как эквивалент роста покупательной способности по ценам 2025 года, хотя в среднем они ей соответствуют.

Сегодня размер экономики тесно связан с численностью населения. Однако к 2032 году эта зависимость начинает исчезать.

Новейшее поколение моделей искусственного интеллекта уже способно выполнять 50% всех интеллектуальных задач в экономике, а прогресс в программном обеспечении для робототехники позволяет автоматизировать около 35% физических задач. (В сценарии Plan D эти показатели были бы уже значительно выше.)

Как только ИИ и роботы смогут в основном заменить человеческий труд, размер экономики будет все меньше зависеть от численности людей и все больше — от количества ИИ-систем и роботов, которое будет расти значительно быстрее, чем когда-либо росло население Земли.

В 2032 году американские компании способны одновременно использовать эквивалент 3 миллиардов работников на базе ИИ, что примерно в 30 раз превышает численность всей рабочей силы США, занятой интеллектуальным трудом.

Разумеется, это не означает тридцатикратного роста экономики. Экономический рост ограничивается другими факторами: оставшимися 50% интеллектуальных задач, которые ИИ пока еще не способен выполнять, а также физическим трудом и объемом капитала.

Количество роботов пока также значительно меньше. В США действует около 20 миллионов роботов, эквивалентных человеческим работникам, что примерно в четыре раза меньше, чем численность работников физического труда.

Однако эти ограничения лишь сдерживают темпы роста, но не способны его остановить. Численность ИИ и роботизированной рабочей силы увеличивается чрезвычайно быстро, поскольку стоимость производства новых графических процессоров (GPU) и роботов постоянно снижается, тогда как экономическая ценность, которую они способны создавать, стремительно растет благодаря повышению их возможностей. Это, в свою очередь, вызывает беспрецедентный рост инвестиций.

В приложении, посвященном экономике, эти вопросы рассматриваются значительно подробнее. Там приводятся основные аргументы авторов в пользу того, что развитие искусственного интеллекта приведет к взрывному экономическому росту, а также представлен разработанный ими интерактивный симулятор экономического развития для сценария Plan A.

-- добавлено через 14 минут --

Кстати, в разделе "Почему мы не согласны с экономистами мейнстрима" авторы исследования пишут то, что я ранее неоднократно подчеркивал:

Цитата:

Большинство ведущих экономистов скептически относятся к взрывному экономическому росту, который может обеспечить ИИ. Даже при условии «сценария быстрого прогресса ИИ» экономисты прогнозируют рост ВВП в среднем на 3,5% в год в период с 2030 по 2050 год.

Одно из ключевых разногласий между нами и ведущими экономистами обычно касается того, насколько способными будут искусственный интеллект. Мы считаем, что способность ИИ выполнять задачи в экономике будет выглядеть примерно так, как показано на красной кривой ниже, при отсутствии жесткого регулирования. Это отражает доминирование ИИ над людьми во всех задачах и достижение 100% автоматизации примерно к 2031 году (этап доминирования ведущих экспертов), что близко к средним ожиданиям авторов. Мы обнаружили, что экономисты, как правило, имеют гораздо более низкие ожидания относительно автоматизации в ближайшие десятилетия.

Они там вспоминают и упомянутого вами Тарона Аджемоглу. В общем, довольно обстоятельный разбор - с интересом почитаю его критику.

[Ghost_of_past]

MoonWatcher в сообщении #1728159 писал(а):

То есть в научное исследование вписывается такой формат, когда делают спорные предпосылки (например, AGI к 2030 году) и на их основе показывают расчетную модель или хотя бы ее результаты?

Абсолютно вписывается. Например, в демографии прогнозы всех основных организаций (Отдел народонаселения ООН, IIASA, IHME, Всемирный Банк/Евростат, Бюро переписи населения США) содержат разные варианты повышения рождаемости и повышения смертности (снижения ОПЖ), хотя это также крайне малореалистичные сценарии - повышение когортной рождаемости в долгосрочной перспективе, пожалуй, даже менее реалистично, чем появление AGI, если мы говорим хотя бы о горизонте до конца 21 века. Более того, делаются и вообще чисто аналитическо-инструментальные прогнозы, вроде сценария исчезновения гендерного неравенства, обнуления подростковых родов до 20 лет, замирания показателей рождаемости и смертности на уровне ровно простого замещения поколений (momentum variant/вариант демографической инерции). Аналогичное в экономике делает Всемирный Банк и много кто еще. Я не особо интересовался, как учитывается влияние развития ИИ на экономику, в прогнозе того же МВФ, но могу точно сказать, что они это не игнорирует - МВФ напрямую писал и возможностях отдачи от ИИ, и о рисках от пузыря на фондовых рынках.

MoonWatcher в сообщении #1728159 писал(а):

Почему же?

Потому что слишком отклоняются от медианных сценариев базовых экономических прогнозов. Понятное дело, что вероятность практически любого сценария не является строго нулевой, но такой сценарий пока реалистичным назвать точно нельзя даже просто чисто с позиции сравнения с экспертной аналитикой.

MoonWatcher в сообщении #1728159 писал(а):

Представим, что AGI таки появился к 2030 году - это равносильно как минимум масштабированию интеллектуальной рабочей силы

Можно представить, но это автоматически не дает нам оценок этого масштабирования: у нас есть технологии клонирования и сейчас, но в экономику они как-то они не особо масштабировались, хотя потенциал был огромный. Я приводил и другой пример от перспективных технологий: технологии, связанные с искусственной маткой - в этой сфере очень большой прогресс в последние несколько лет, но тем не менее предварительные экономические оценки показывают, что технология получится очень дорогой для масштабирования.

MoonWatcher в сообщении #1728159 писал(а):

Грубо говоря, увольняем (переводим на БДД) весь офисный планктон

Ваш покорный слуга еще и в практическом маркетинге работает, так что могу рассказать какая сейчас печаль с колл-центрами: по всему миру от них последние годы отказывались в пользу голосовых роботов. Теперь их опять массово возвращают, потому что пользователи опять же абсолютно по всему миру очень плохо воспринимают голосовых роботов и хотят общаться с реальными людьми - я это буквально вижу по панельным данным в наших опросах из разных стран мира. Сколько приходится уже и придется в несколько ближайших лет потратить на восстановление этих колл-центров даже говорить не буду, сами сможете представить.

MoonWatcher в сообщении #1728159 писал(а):

Плюс появление миллионов новых стартапов, где трудятся ИИ-агенты.

Давайте дождемся появления этих стартапов хотя бы на каком-то реальном экономическом горизонте.

MoonWatcher в сообщении #1728159 писал(а):

Подозреваю, что оценка "50% в 2032" основывается на предпосылке, что это будет постепенный процесс.

Проблема в том, что это на горизонте до 2031 года включительно тот же МВФ никакого постепенного процесса здесь не видит. Постепенный процесс, кстати, есть, но он совсем иной: темпы производительности труда и инноваций в мире постепенно падают, темпы роста абсолютной численности населения мира тоже, а значит падают и темпы экономического роста (для подушевых показателей чуть в меньшей степени, чем для абсолютных, разумеется). И уж если совсем точно проблема не в одном МВФ, а в целой куче подобных организаций и научных институтов - вероятность, что они все дружно ошибаются, а а AI2040 нет, конечно ненулевая, но низкая.

MoonWatcher в сообщении #1728159 писал(а):

Скорее всего авторы исходят из текущей инфляции, иначе бы сделали оговорку.

На самом деле плохо, что оговорку не сделали, потому что непонятно, какой это ВВП - номинальный или реальный. Скорее всего реальный, но приходится додумывать за них.

MoonWatcher в сообщении #1728159 писал(а):

Цитата:

Для сравнения: в нормальных условиях экономика США растет примерно на 3% в год

Видимо, все-таки реальный ВВП из контекста.

MoonWatcher в сообщении #1728159 писал(а):

Цитата:

Следует учитывать, что точное измерение ВВП в подобных условиях становится чрезвычайно сложной задачей из-за радикальных изменений относительных цен

ВВП вообще не очень хороший показатель, его среди экономистов ругают все, кому не лень, но, к сожалению, пока пользуемся им.

MoonWatcher в сообщении #1728159 писал(а):

Цитата:

В рассматриваемом сценарии структура потребления среднего американца в период с 2026 по 2034 год существенно меняется: расходы смещаются от таких категорий, как продукты питания, автомобили, топливо и медицинские услуги, в сторону земли, путешествий и статусных товаров. Причина заключается именно в изменении относительных цен.

Это очень странное замечание. В США и других развитых странах и так очень низкая доля трат в структуре расходов домохозяйств на еду и другие базовые товары. В основном расходы - это услуги. И это значение (расходы на базовые товары) меняется в последние лет 20-30 достаточно слабо, поэтому не видно особо куда бы там показатели могли упасть еще.

MoonWatcher в сообщении #1728159 писал(а):

Цитата:

Новейшее поколение моделей искусственного интеллекта уже способно выполнять 50% всех интеллектуальных задач в экономике, а прогресс в программном обеспечении для робототехники позволяет автоматизировать около 35% физических задач.

Можно взять статистику по рынкам труда США и других развитых стран за последние месяцы/кварталы - никакого реального массового нарастания безработицы именно из-за ИИ не наблюдается. Весной ситуация стала ухудшаться, но из-за роста цен на энергоносители - скорее всего аналогичная ситуация и в развивающихся странах, но оттуда статистика запаздывает и она хуже по качеству.

MoonWatcher в сообщении #1728159 писал(а):

Цитата:

Это, в свою очередь, вызывает беспрецедентный рост инвестиций.

Рост инвестиций может не приводить к тождественному росту ВВП. На научно-популярном уровне порекомендую здесь книгу Уильяма Истерли "В поисках роста. Приключения и злоключения экономистов в тропиках" - там примеры описаны.

-- добавлено через 4 минуты --

MoonWatcher в сообщении #1728159 писал(а):

Цитата:

Даже при условии «сценария быстрого прогресса ИИ» экономисты прогнозируют рост ВВП в среднем на 3,5% в год в период с 2030 по 2050 год.

Вот эти значения как максимальные выглядят действительно реалистично.

MoonWatcher в сообщении #1728159 писал(а):

Цитата:

с интересом почитаю его критику.

Для более обстоятельной критики нужна подробная модель/модели и расписанная методология. У вышеупомянутых мною немейнстримных демографических прогнозов мейнстримных организаций они есть. У Аджемоглу они есть. У МВФ они есть. У Всемирного Банка они есть. А без модели и методологии я могу давать только критику отдельных текстовых положений - кое-что дал выше.

[MoonWatcher]

Ghost_of_past
На мой взгляд, вы допускаете ту же ошибку, что упомянутые вами и в этом исследовании источники - исходите из текущего уровня развития ИИ. Но это, с большой натяжкой, примерно как оценивать потенциальный вклад в экономику ткацких станков, паровых машин или аэропланов по их первым убогим образцам, которые ломались, взрывались, уступали тогдашним традиционным технологиям, дорого стоили и т.д. Именно с большой натяжкой, потому что нынешний прогресс в ИИ не имеет аналогов в мировой истории. Напомню, что 15 лет назад языковые модели были забавными бредогенераторами, 5 лет назад они были забавными, но с практической точки зрения бесполезными собеседниками, а сейчас они пишут до 100% программного кода в серьезных компаниях, решают открытые математические проблемы и т.д. И чем больше их достижения (потолка которых пока не видно), тем больше они концентрируют на себе огромные инвестиции и лучшие умы человечества - что, в свою очередь, разгоняет прогресс в этой области еще больше.

Я подозреваю, что все эти МВФ и прочие организации имеют обо всем этом очень смутное представление. Мне посчастливилось общаться с кучей образованных в своей области профессионалов - их понимание современных тенденций в ИИ вызывает просто недоумение. От откровенной ерунды вроде "это просто алгоритм, который делает то, что в него заложили" до не вполне адекватного представления "это просто стохастический попугай, который предсказывает следующий токен". Начинаешь им рассказывать про научные исследования, затрагивающие эмерджентное формирование этими моделями своей внутренней модели мира, их эмоциональность и зачатки как минимум функционального сознания - в лучшем случае удивляются, в худшем просто не верят.

Это не значит, что AGI непременно появится в ближайшие годы. Но сейчас маргинальной является скорее точка зрения, что он НЕ появится в ближайшие годы. В скорое появление AGI сегодня верят наиболее осведомленные в мире люди (такие как Демис Хассабис или Дарио Амодей, возглавляющие самые передовые в мире исследования в этой области) - подозреваю, что эта точка зрения (голословная и ничем, кроме интуиции, не подкрепленная) либо не дошла до таких консервативных структур как МВФ, Всемирный банк и т.д., либо просто игнорируется ими по причине своей голословности. Поэтому они вряд ли закладывают в свои прогнозы то, что, условно, к 2030 году ИИ сможет заменить 99% офисных специальностей, к 2033 году с оплатой труда одного человека сравняется стоимость одного эквивалентного ему ИИ-агента, а к 2035 - сотни таких агентов. Скорее всего, в этих структурах снисходительно пожимают плечами - "когда такое будет, тогда и поговорим". Но этим и интересно данное и подобные ему прогнозы - они исходят из будущего, а не текущего уровня этих технологий.

[Ghost_of_past]

MoonWatcher в сообщении #1728163 писал(а):

примерно как оценивать потенциальный вклад в экономику ткацких станков, паровых машин или аэропланов

Вклад в экономику ткацких станков, паровых машин и аэропланов не был таким, чтобы вызвать экономический рост реального ВВП на 50% в год. Никогда.

MoonWatcher в сообщении #1728163 писал(а):

Именно с большой натяжкой, потому что нынешний прогресс в ИИ не имеет аналогов в мировой истории

Это утверждение требует само по себе доказывания.

Я же могу согласиться с мнением МВФ, что очень даже имеет, если мы говорим именно про экономическую составляющую - это похоже на кризис доткомов начала 2000ых, но только масштабнее из-за денежной накачки экономики во времена ковида: у нас есть реальные технологии, которые могут повлиять на все или очень многие области жизни, у нас есть избыточно положительные настроения инвесторов из-за этих технологий, опережающие реальное развитие самих технологий, у нас есть избыточные деньги (вопрос только в количестве), у нас есть явный пузырь на рынке, который при негативном развитии событий как минимум может создать глобальный финансовый кризис, а как максимум - кризис экономический. Теперь оглянемся назад и посмотрим, благостно статистика у нас на руках есть: изменил ли Интернет нашу жизнь радикально? Безусловно. Но сбылись ли те фантастические оптимизмы инвесторов и прочей публики по срокам и величинам экономического роста, что озвучивались во времена кризиса доткомов? Конечно нет.

MoonWatcher в сообщении #1728163 писал(а):

а сейчас они пишут до 100% программного кода в серьезных компаниях

В компаниях маркетинговых и продуктовых исследований не пишут. За остальные отрасли инсайдерски пусть другие люди отвечают.

MoonWatcher в сообщении #1728163 писал(а):

их понимание современных тенденций в ИИ вызывает просто недоумение

Допустим. Но давайте на бренную землю цифр и практических вещей. Модель и методология приведенного прогноза, где посмотреть можно? Или хоть как-то ознакомиться? Я понимаю, что не все материалы могут быть публично доступно - где-то нужны платные подписки, где-то нужно посылать запросы (я сам так делаю прямо сейчас для написания диссертации, когда мне требовалось найти некоторые старые прогнозы ООН, Всемирного Банка и Бюро переписи населения США), где-то нужно, чтобы твой работодатель имел доступ к специализированной информации и т.д. Но критиковать то, незнамо что, я лично не могу.

MoonWatcher в сообщении #1728163 писал(а):

Но сейчас маргинальной является скорее точка зрения, что он НЕ появится в ближайшие годы. Принадлежит она самым осведомленным в мире людям (таким как Демис Хассабис и Дарио Амодей

Первый - CEO Google DeepMind и Isomorphic Labs, второй - Anthropic.

Давайте я страшную тайну открою: CEO могут врать и даже очень часто врать. Работа у них такая по привлечению инвесторов и увеличению стоимости компаний и своих собственных состояний.

MoonWatcher в сообщении #1728163 писал(а):

подозреваю, просто не дошла до таких консервативных структур как МВФ, Всемирный банк и т.д.

Для меня как раз экспертная точка зрения МВФ и Всемирного Банка уж точно важнее, чем точка зрения CEO компаний в сфере ИИ - уж больно разная мотивация у них рассказывать про степень потенциального влияния технологий ИИ в ближайшие годы на экономику.

[mihaild]

Ghost_of_past в сообщении #1728164 писал(а):

За остальные отрасли инсайдерски пусть другие люди отвечают

Инсайдерски ответить не могу, но вот как раз сегодня Торвальдс (в чьей квалификации сомнений нет, и в распространении хайпа на пустом месте он раньше замечен не был) написал

Торвальдс писал(а):

AI is a tool, just like other tools we use. And it's clearly a useful one.
It may not have been that "clearly" even just a year ago, but it's no longer in question today.
There are other questions around AI (like what the economy of it will actually look like in the end), but "is it useful" is no longer one of tthose questions. Anybody who doubts that clearly hasn't actually used it.

[Ghost_of_past]

mihaild в сообщении #1728165 писал(а):

Инсайдерски ответить не могу, но вот как раз сегодня Торвальдс (в чьей квалификации сомнений нет, и в распространении хайпа на пустом месте он раньше замечен не был) написал

Я не увидел в его цитате, что они "пишут до 100% программного кода" при помощи LLM. А то, что LLM - полезные инструменты, с этим я и не спорю: у нас в компании тоже их применяют самым различным образом. Но между применением LLM как полезных инструментов для увеличения производительности труда и более эффективной траты рабочего времени и полной или почти полной заменой труда людей есть огромная разница.

[MoonWatcher]

Ghost_of_past в сообщении #1728164 писал(а):

Вклад в экономику ткацких станков, паровых машин и аэропланов не был таким, чтобы вызвать экономический рост реального ВВП на 50% в год. Никогда.

Поэтому и говорю - с большой натяжкой. Будущий эффект от ИИ за год уместнее сравнить с эффектом от ткацких станков или паровых машин за несколько десятилетий. ИИ становится умнее, дешевеет и масштабируется - разумно предположить, что с того момента, как он начнет участвовать в росте экономики, этот эффект будет расти в геометрической прогрессии.

Ghost_of_past в сообщении #1728164 писал(а):

Это утверждение требует само по себе доказывания.

Я же могу согласиться с мнением МВФ, что очень даже имеет, если мы говорим именно про экономическую составляющую - это похоже на кризис доткомов начала 2000ых, но только масштабнее из-за денежной накачки экономики во времена ковида: у нас есть реальные технологии, которые могут повлиять на все или очень многие области жизни, у нас есть избыточно положительные настроения инвесторов из-за этих технологий, опережающие реальное развитие самих технологий, у нас есть избыточные деньги (вопрос только в количестве), у нас есть явный пузырь на рынке, который при негативном развитии событий как минимум может создать глобальный финансовый кризис, а как максимум - кризис экономический. Теперь оглянемся назад и посмотрим, благостно статистика у нас на руках есть: изменил ли Интернет нашу жизнь радикально? Безусловно. Но сбылись ли те фантастические оптимизмы инвесторов и прочей публики по срокам и величинам экономического роста, что озвучивались во времена кризиса доткомов? Конечно нет.

Я не знаком с тогдашними прогнозами экономического роста, а вот индекс Nasdaq Composite не только отыграл свой пик (5 тыс пунктов), но и пятикратно вырос (26 тыс пунктов). С точки зрения этой метрики, больше всего интересующей инвесторов, их оптимизм полностью оправдался. Это не отменяет ни того, что вокруг ИИ раздулся пузырь, ни того, что он неизбежно лопнет. Но в отличие от Интернета, ИИ подразумевает не просто инструмент, а замену человеческого труда - от операторов кол-центров до ученых. А такого, согласитесь, никогда еще не было.

Ghost_of_past в сообщении #1728164 писал(а):

Допустим. Но давайте на бренную землю цифр и практических вещей. Модель и методология приведенного прогноза, где посмотреть можно? Или хоть как-то ознакомиться? Я понимаю, что не все материалы могут быть публично доступно - где-то нужны платные подписки, где-то нужно посылать запросы (я сам так делаю прямо сейчас для написания диссертации, когда мне требовалось найти некоторые старые прогнозы ООН, Всемирного Банка и Бюро переписи населения США), где-то нужно, чтобы твой работодатель имел доступ к специализированной информации и т.д. Но критиковать то, незнамо что, я лично не могу.

А по той ссылке мало информации? Я пока бегло просмотрел, но мне показалось там довольно подробно расписано.

Ghost_of_past в сообщении #1728164 писал(а):

Первый - CEO Google DeepMind и Isomorphic Labs, второй - Anthropic.

Давайте я страшную тайну открою: CEO могут врать и даже очень часто врать. Работа у них такая по привлечению инвесторов и увеличению стоимости компаний и своих собственных состояний.

Поэтому я не упомянул Сэма Альтмана... Дарио Амодей возможно тоже может приврать, но вот Демис Хассабис - сомневаюсь. Сейчас надо быть очень осторожным, мягко выражаясь, инвестором, чтобы не вкладывать в ИИ огромные деньги - и в этом смысле нобелевский лауреат Хассабис едва ли должен лукавить и завышать свои собственные оценки, чтобы не терять темпов финансирования от Google.

Ghost_of_past в сообщении #1728164 писал(а):

Для меня как раз экспертная точка зрения МВФ и Всемирного Банка уж точно важнее, чем точка зрения CEO компаний в сфере ИИ - уж больно разная мотивация у них рассказывать про степень потенциального влияния технологий ИИ в ближайшие годы на экономику.

Они эксперты в экономике - но никак не в ИИ, который является главным фактором таких прогнозов. А то, что происходит в ИИ, лучше всего могут оценить только руководители таких компаний как DeepMind, OpenAI, Anthropic и т.д. Я согласен, что кто-то из них может лукавить - но не все.

Да и динамика развития говорит за себя - чуть ли не каждый год насыщаются бенчмарки, в которых вначале лучшие модели набирали несколько процентов. Например, когда в марте вышел ARC-AGI-3, самые топовые модели набирали там десятые доли процента - теперь уже почти 8%. В свежем Long-Horizon Terminal-Bench (решение сложных, многоступенчатых задач в автономном режиме) лучшая модель в феврале набирала 28%, а сейчас - 51%. FrontierMath Tier 4 (v2), запредельно сложная математика, осенью прошлого года лучший результат там был 13%, сегодня - 88%...

Ghost_of_past в сообщении #1728166 писал(а):

Я не увидел в его цитате, что они "пишут до 100% программного кода" при помощи LLM. А то, что LLM - полезные инструменты, с этим я и не спорю: у нас в компании тоже их применяют самым различным образом. Но между применением LLM как полезных инструментов для увеличения производительности труда и более эффективной траты рабочего времени и полной или почти полной заменой труда людей есть огромная разница.

Это, конечно, только слухи, но если верить Economist, то глава Агентства национальной безопасности (АНБ) и Киберкомандования (USCYBERCOM) США генерал Джошуа Радд сообщил сенатору Марку Уорнеру, что модель Mythos от Anthropic (она как раз лидирует в бенчмарках) взломала почти все секретные системы страны - и сделала это за считанные часы.

[Ghost_of_past]

MoonWatcher в сообщении #1728168 писал(а):

Будущий эффект от ИИ за год уместнее сравнить с эффектом от ткацких станков или паровых машин за несколько десятилетий

И это тоже требует доказывания. Экономического, разумеется: с моделями, расчетами, оценками...

MoonWatcher в сообщении #1728168 писал(а):

разумно предположить, что с того момента, как он начнет участвовать в росте экономики, этот эффект будет расти в геометрической прогрессии.

Если разумно, то должна быть эконометрическая модель и какое-то эмпирическое обоснование. В ином случае это не реалистичный прогноз, а аналитический, т.е. прогноз в основе своей может иметь совершенно искусственную предпосылку, неимеющую отношение к объективным тенденциям. Такое никем не запрещено, но и обсуждать такой прогноз как реалистичный смысла нет.

MoonWatcher в сообщении #1728168 писал(а):

а вот индекс Nasdaq Composite не только отыграл свой пик (5 тыс пунктов), но и пятикратно вырос (26 тыс пунктов)

А реальный подушевой ВВП в 5 раз не вырос, он даже не удвоился за это время в США. Также как в 5 раз не вырос и медианный доход ППС.

MoonWatcher в сообщении #1728168 писал(а):

С точки зрения этой метрики, больше всего интересующей инвесторов

Тогда в прогнозе так и надо писать: про рост фондового рынка, а не про якобы рост ВВП и снижение % занятости - это совершенно разные вещи.

MoonWatcher в сообщении #1728168 писал(а):

а замену человеческого труда - от операторов кол-центров

Как обстоит ситуация с колл-центрами я буквально Вам выше описал. Прямо противоположным образом, если конечно Вы не хотите оспорить результаты опросов как населения, так и бизнеса в разных странах мира, проводимые одной из крупнейших компаний в этой области.

MoonWatcher в сообщении #1728168 писал(а):

до ученых. А такого, согласитесь, никогда еще не было.

Такого не только никогда не было, но такого и сейчас нет: моя вторая работа - это научный сотрудник в университете. И я что-то как-то не знаю примерно ни одного ученого, которого бы уволили из-за ИИ.

MoonWatcher в сообщении #1728168 писал(а):

А по той ссылке мало информации?

Макроэкономической модели для прогнозирования ВВП и занятости и подробного описания методологии того, почему модели именно такие, а не другие и в их основу заложены именно такие, а не иные предпосылки? Нет. Собственно говоря, именно поэтому это и не научный формат, а не по той причине, что это не опубликовано в рецензируемом журнале - это уже глубоко вторичная вещь.

MoonWatcher в сообщении #1728168 писал(а):

Сейчас надо быть очень осторожным, мягко выражаясь, инвестором, чтобы не вкладывать в ИИ огромные деньги

Это смотря с какой целью и каким горизонтом инвестировать.

MoonWatcher в сообщении #1728168 писал(а):

Они эксперты в экономике - но никак не в ИИ

Примерно также, как противоположная сторона уж точно не эксперты в экономике. Но почему-то делают сомнительные экономические прогнозы.

MoonWatcher в сообщении #1728168 писал(а):

А то, что происходит в ИИ, лучше всего могут оценить только руководители таких компаний как DeepMind, OpenAI, Anthropic и т.д.

Значит это рынок находится в принципиально ненормальном состоянии в текущее время, так как оценку влияния ИИ на экономику могут давать только внешние эксперты-экономисты, но уж точно не CEO компаний, которые эти продукты и создают.

MoonWatcher в сообщении #1728168 писал(а):

Да и динамика развития говорит за себя - чуть ли не каждый год насыщаются бенчмарки, в которых вначале лучшие модели набирали несколько процентов. Например, когда в марте вышел ARC-AGI-3, самые топовые модели набирали там десятые доли процента - теперь уже почти 8%. В свежем Long-Horizon Terminal-Bench (решение сложных, многоступенчатых задач в автономном режиме) лучшая модель в феврале набирала 28%, а сейчас - 51%. FrontierMath Tier 4 (v2), запредельно сложная математика, осенью прошлого года лучший результат там был 13%, сегодня - 88%...

И что это дает для оценки потенциального влияния ИИ на экономический рост? Вы можете представить соответствующую макроэкономическую модель? Не обязательно свою, разумеется, а именно их модель, раз уж мы обсуждаем их прогноз. Если нет, то перед нам не научно обоснованный прогноз, а всё равно, что гадание на кофейной гуще, ну или в лучшем случае прогноз аналитический. Собственно говоря, это и была моя основная претензия ко всей этой теме - это не профессиональный уровень обсуждения и вообще даже не научный.

MoonWatcher в сообщении #1728168 писал(а):

взломала почти все секретные системы страны - и сделала это за считанные часы.

Допустим. И где тут про написание 100% кода компаниями исключительно LLM без помощи человеческого труда?

[Mihaylo]

LLM в компаниях внедряют уже сегодня. Первая ступень внедрения - корпоративный чат-бот (берется модель с открытыми весами и делается RAG, файн-тюнинг или дообучение). Вторая ступень - LLM-агент, это когда выход нейросети не ограничен текстом. Ещё вариант - человекоподобные роботы...

Внедрение LLM - это бюджет побольше, чем стандартная ИТ-автоматизация. А значит к 2040-му ничего просто так не взлетит. Подхватят только самые доходные и массовые производства - автомобильные, химические и т.п.

Проприетарные модели, судя по всему, не вытянут борьбу с опенсурсными моделями. Производственная экономика просит опенсурс, чтобы не выдавать данные в чужие руки. Вчера вышел Kimi K3...

[mihaild]

Ghost_of_past в сообщении #1728166 писал(а):

Я не увидел в его цитате, что они "пишут до 100% программного кода" при помощи LLM. А то, что LLM - полезные инструменты, с этим я и не спорю: у нас в компании тоже их применяют самым различным образом.

Я не был уверен в последнем, какое-то время назад Вы вроде бы жаловались, что, несмотря на хайп, для написания ЕМНИП скриптов на R неронки бесполезны.
Я в целом не вижу ничего невероятного в том, чтобы сейчас писать 100% кода нейронками, и знаю людей, которые говорят, что так делают. И видел людей, которые для простейших вещей, вроде добавления условия, зовут модель вместо того, чтобы написать руками.
Лично я бОльшую часть кода руками уже не пишу, но почти всегда приходится поправить что-то по месту. В целом становится работать веселее, потому что автоматизируется скучная часть. Что там получается на практике в смысле производительности - не знаю, потому что написание кода это сильно не 100% работы.

(Оффтоп)

А чтение документации, которое тоже занимает существенную часть времени, LLM, скорее, замедляют, т.к. заменяют один абзац, написанный криво, но по существу, пятью красивыми страницами с мелкими ошибками.

[Ghost_of_past]

mihaild в сообщении #1728184 писал(а):

какое-то время назад Вы вроде бы жаловались, что, несмотря на хайп, для написания ЕМНИП скриптов на R неронки бесполезны.

Не бесполезны, но конкретно моих задач они выполнить не позволяют - они хорошо пишут кусочки типового кода, но когда нужно соединить коды из разных пакетов R в хорошо работающий единый длинный скрипт, то это либо не получается вовсе, либо если и получается (Gemini и Claude), то это занимает столько времени на написание частей промпта, что я и сам могу написать этот код своими руками. Аналогично и со Stata, а вот макросы для Excel удалось действительно скинуть полностью на LLM и здесь оптимизировать свое время. Но опять же я здесь говорю только про свой личный опыт, так что возможно кому-то и правда удается скинуть 100% рабочих задач на LLM, но выглядит для меня со стороны это очень спорно - так можно скинуть рутинные задачи, которые хорошо делаются LLM, и если работа состоит только из них, то ок, возможно.

mihaild в сообщении #1728184 писал(а):

В целом становится работать веселее, потому что автоматизируется скучная часть.

Ну, с этим я могу только категорически согласиться. Я и сам рад, что какие-то типовые вещи можно перекинуть на LLM.

Собственно говоря, я считаю, что LLM - очень полезны и перспективны, но того, что от них некоторые ждут (условно 50% роста экономики в год и исчезновения человеческого труда) практически наверняка не будет. Будет история та же, что с компьютерами и Интернетом - LLM как инструментарий сильно поменяют характер трудовых задач и функций, но сами работники, которые будут с ними работать, никуда от этого не денутся, просто характер работы поменяется, возможно исчезнут какие-то профессии и появятся новые.

mihaild в сообщении #1728184 писал(а):

А чтение документации, которое тоже занимает существенную часть времени, LLM, скорее, замедляют, т.к. заменяют один абзац, написанный криво, но по существу, пятью красивыми страницами с мелкими ошибками.

Я пробовал ради интереса писать какие-то элементы аналитических докладов по проектам в университете и теоретические части научных статей при помощи LLM - получается по-прежнему очень плохо, как по мне, поэтому я больше с этим не развлекаюсь. Может когда-нибудь ситуация и поменяется, но это конкретная модель должна быть заточена под профессиональные хорошие тексты в узкой области или областях, а то получается ерунда уровня обывателя или немногим выше/ниже.