ИИ и производительность труда

[MoonWatcher]

dsge в сообщении #1710321 писал(а):

А откуда эта информация? Ссылка есть?

Обещанные ссылки:
Ян Лекун (ноябрь-декабрь 2024):
5 to 10 years would be if everything goes great, all the plans that we’ve been making will succeed

AGI will not happen in the next 2 years - it will take 5-6 years if everything goes well

Демис Хассабис (август 2025):
we’ll have something that we could sort of reasonably call AGI, that exhibits all the cognitive capabilities humans have, maybe in the next 5 to 10 years, possibly the lower end of that

Джеффри Хинтон (декабрь 2024, на совместной конференции с Демисом Хассабисом):
Раньше я думал, что это (появление ASI) случится гораздо позже, но скорость развития свидетельствует, что это случится довольно скоро. Я думаю через 5-20 лет, я думаю Демис [Хассабис] думает, что через 10 лет, мы получим что-то вроде сверхинтеллекта.

Хинтон говорит не об AGI, а об ASI - очевидно его сроки появления AGI будут еще меньше.

-- 23.11.2025, 14:30 --

mihaild в сообщении #1710370 писал(а):

Для экономики (и последующего уровня жизни) важно. Потому что способность печатать со скоростью 1000 знаков в минуту (но такая фигня получается) - это не очень интересно.

Я говорил о скорости вычислений, а не печати (хотя она тоже очень важна, на самом деле). Имелось в виду, что сейчас статичные баллистические таблицы просто не нужны - нужные результаты выдаются в интерактивном режиме.

mihaild в сообщении #1710370 писал(а):

Возьмите, например, сельское хозяйство. Сейчас то же количество еды способно произвести гораздо меньшее количество человек (в некоторых случаях в 50 раз меньшее). Но это не означает, что у нас при тех же вложениях труда станет в 50 раз больше всего. Это значит, что мы, скорее всего, перераспределим труд, и у нас станет сильно меньше людей производить больше, чем было раньше, еды, а оставшиеся будут делать что-то еще. И вот это дополнительное производство (плюс дополнительная еда) - и идет в числитель продуктивности. А не мифическое в 50 раз большее количество еды, которую никто производить не будет, и которая никому не нужна.

Подозреваю, что мы производим именно в "50 раз большее количество еды" (условно, конечно) - сейчас в мире от ожирения умирает гораздо больше людей, чем от голода. Но даже если количество еды осталось прежним - вот именно, что его производит гораздо меньшее количество человек. Если их стало меньше в 50 раз, то и производительность выросла в 50 раз. То, что оставшиеся будут делать что-то еще, этого факта вовсе не отменяет. Оставшиеся могут сидеть на социальном пособии и пенсии, быть занятыми на работе где производительность не растет в принципе (парикмахеры) или, что более вероятно, быть занятыми в работе, где натуральная производительность также выросла в условные 50 раз. Но поскольку машины в человеко-часах занимают в этом труде значительную долю, этот труд дешевеет. И соответственно в стоимостном выражении (стоимость произведенной продукции на единицу времени) производительность труда падает.

Я все-таки хочу еще раз подчеркнуть эту тенденцию:
1) Доля машин в стоимости продукции, измеряемая в человеко-часах, неуклонно растет в большинстве отраслей (исключение - вышеупомянутые парикмахеры и т.д., хотя у них тоже появились электробритвы и т.д.)

2) Благодаря развитию технологий и эффекту масштаба (серийного производства) стоимость этих машинных человеко-часов неуклонно снижается. То, что раньше обсчитывали супер-ЭВМ, занимающие целый этаж и стоящие миллионы долларов), теперь обсчитывают (или по меньшей могут обсчитывать) смартфоны за сотню долларов в наших карманах. Стоимость всей продукции = стоимость 1 ед продукции x количество продукции, и если стоимость 1 ед снижается быстрее роста количества, то и стоимость всей продукции будет падать - а с ней и производительность.

Поэтому утверждение, что автоматизация труда не привела к росту производительности, справедливо только отчасти - с оговоркой, что речь идет о стоимостном, а не натуральном выражении этой производительности.

-- 23.11.2025, 14:40 --

mihaild в сообщении #1710370 писал(а):

Я тоже про такие.

А можно конкретные примеры? Все-таки результаты говорят об обратном.

mihaild в сообщении #1710370 писал(а):

Ну да, чатботы гораздо лучше подходят для того, чтобы убедиться в том, во что человек итак верит :)

Подхалимажа становится все меньше - и по моим личным ощущениям, и по обзорам.

(Оффтоп)

Вообще главным источником человеческого скудоумия я считаю эмоции - мне не раз приходилось спорить со вполне компетентными идиотами, которые из принципа не признавали очевидные факты. Например, в обсуждении производительности чипов Apple автор научных статей о микропроцессорах (тема, в которой я полный ноль) упорно и агрессивно возражал тому, что имеет смысл сравнение производительности процессоров на ватт потребляемой энергии (речь шла о том, что M-процессоры энергоэффективнее). Сей ученый муж серьезно и ожесточенно уверял меня, что ноутбук с интеловским процессором все равно можно воткнуть в розетку (с чем я совершенно не спорил). Ну не идиот? Или мне приходилось спорить с воевавшим в Афганистане (где я тоже ни разу не был) идиотом, который авторитетно оспаривал факты совершаемых там военных преступлений - патамушта он их там не видел... Так вот подобный идиотизм люди позволяют себе в общении исключительно друг с другом, из тупого упрямства и, извините, писькомерства. Тогда как доверия к чат-ботам гораздо больше - это нечто обезличенное, не грех и согласиться...

[dsge]

MoonWatcher в сообщении #1710371 писал(а):

Обещанные ссылки:
Ян Лекун (ноябрь-декабрь 2024):

Cовсем недавний апдейт мнения Yann LeCun, "The godfather of Meta's AI thinks the AI boom is a dead end" (Nov 17, 2025):

Цитата:

"They are not a path to human-level intelligence. They're just not.
Right now, they are sucking the air out of the room anywhere they go
- and so there's basically no resources for anything else.
And so for the next revolution, we need to take a step back and figure out what's missing from the current approaches."

Цитата:

“But it’s not going to happen next year. It’s not going to happen in two years,” “It’s going to take longer.
You don’t want to extrapolate the capabilities of LLM and say we’re just going to scale up LLM,
train them on bigger computers and more data, and human level intelligence is going to emerge. It’s not going to work this way.

[MoonWatcher]

dsge
Я в курсе этих заявлений - они касаются непосредственно LLM. В том-то и дело, что даже Ян Лекун, который оспаривает перспективность LLM (причем уже давно), вполне оптимистично настроен относительно сроков появления AGI. При том, что несколько раньше он намекал, что его ждать чуть ли не десятки лет. Кстати, в этом году вышли новые перспективные работы на тему "визуального интеллекта", и с учетом огромного интереса к робототехнике по части постижения ИИ закономерностей нашего физического мира есть повод для оптимизма. Сам Лекун делает ставку на LeJEPA (статья вышла в этом месяце), но с практическими результатами этого подхода я не знаком.

-- 23.11.2025, 15:35 --

Кстати, к вышеназванным цитатам уместно присовокупить еще одну, почти 2.5-летней давности:

Цитата:

While superintelligence seems far off now, we believe it could arrive this decade.

Авторы этой записи в блоге OpenAI - Ян Лейке и Илья Суцкевер. Впрочем, последний впоследствии стал затворником в своем стартапе Safe Superintelligence Inc. (SSI), и с тех пор не делал никаких прогнозов.

[mihaild]

MoonWatcher в сообщении #1710371 писал(а):

Я говорил о скорости вычислений, а не печати (хотя она тоже очень важна, на самом деле).

Это древний баян. "-С какой скоростью Вы можете печатать? -1000 символов в минуту. Но такая фигня получается..."
В данном случае намек на то, что не вся работа, которую можно сделать, полезна.

MoonWatcher в сообщении #1710371 писал(а):

И соответственно в стоимостном выражении (стоимость произведенной продукции на единицу времени) производительность труда падает.

Я не понимаю, что это такое. Что в числителе, что в знаменателе?

MoonWatcher в сообщении #1710371 писал(а):

Поэтому утверждение, что автоматизация труда не привела к росту производительности, справедливо только отчасти - с оговоркой, что речь идет о стоимостном, а не натуральном выражении этой производительности.

Производительность труда меряется как стоимость произведенного (в постоянных ценах), деленная на потраченное на это производство время.
Если нас интересует общее влияние на экономику, то нам важно именно суммарное производство, а не его распределение по людям. Если раньше таблицы делали 10 человек, а теперь 1, а 9 остальных присоединяются к 1000 варящих кофе, то общий результат - при том же объеме труда мы получили на 1% больше кофе. Автоматизация узкой области, даже очень эффективная, всё равно автоматизация узкой области.

MoonWatcher в сообщении #1710371 писал(а):

А можно конкретные примеры?

Исследований нет, есть личный опыт.

MoonWatcher в сообщении #1710371 писал(а):

Все-таки результаты говорят об обратном.

Я не вижу, как из результатов следует хоть что-то про то, насколько высшее руководство знает состояние отрасли на техническом уровне.

[MoonWatcher]

mihaild
Пообщавшись с чат-ботом, я обнаружил, что говорил прозой о mismeasurement hypothesis. Традиционно обозвав мой вопрос отличным и глубоким, Gemini 3 Pro заявил следующее:

(Оффтоп)

Если отвечать коротко: гипотеза ошибки измерения (mismeasurement hypothesis) является дискуссионной, но на данный момент в экономическом мейнстриме преобладает мнение, что она не может полностью объяснить замедление производительности.

То есть, это не «ошибочная» теория (потому что ошибки измерения действительно есть), но она считается недостаточной. Большинство ведущих экономистов полагают, что замедление производительности — это реальный феномен, а не статистическая иллюзия.

Вот как сейчас выглядит расклад аргументов «за» и «против» в научной среде:

1. Аргументы в пользу гипотезы (Почему она кажется верной)
Сторонники этой идеи (например, Эрик Бринйолфссон на определенных этапах или аналитики Goldman Sachs) указывают на «проблему бесплатных благ».

Нулевая цена: Википедия, карты Google, мессенджеры, Open Source софт — всё это создает огромную ценность, но имеет нулевую цену. В ВВП они попадают либо с нулевой стоимостью, либо косвенно через затраты на рекламу/интернет, что явно занижает их реальный вклад.

Улучшение качества: Смартфон за 1000 долларов сегодня заменяет камеру, GPS, компьютер, плеер и телефон, которые раньше стоили бы 5000 долларов. Статистика (индекс потребительских цен) пытается это учитывать через гедонистические индексы, но, возможно, не успевает за скоростью изменений.

2. Аргументы скептиков (Почему гипотеза не объясняет замедление)
Большинство академических исследований (например, работы Чада Сайверсона из Чикагского университета или отчеты ФРС) показывают, что математика «не сходится». Даже если мы попытаемся скорректировать ВВП на эти ошибки, разрыв слишком велик.

Вот основные контраргументы:

Масштаб проблемы (The Magnitude Issue): Замедление производительности слишком масштабно (падение примерно на 1,5% в год). Исследования (например, Byrne, Fernald, and Reinsdorf, 2016) показывают, что даже если «вернуть» в ВВП всю неучтенную ценность цифровых товаров, это добавит к росту всего около 0,1–0,3%. Это не перекрывает провал в 1,5%.

Историческая аналогия: Мы всегда плохо измеряли инновации. В прошлом статистика не могла адекватно оценить влияние антибиотиков, электричества, радио или реактивных двигателей. Утверждать, что сейчас мы измеряем хуже, чем раньше — значит утверждать, что ценность TikTok для потребителя сложнее учесть, чем ценность спасения жизни пенициллином. Многие экономисты считают, что «неучтенный профицит» в прошлом был даже больше, чем сейчас.

Секторальный разрез: Замедление производительности наблюдается не только в IT-интенсивных отраслях, но и в строительстве, медицине и транспорте, где «цифровое искажение» не так велико.

3. Позиция Аджемоглу в статье
В вашей статье Дарон Аджемоглу придерживается компромиссной, но реалистичной позиции.

Разделение ВВП и Благосостояния: Он признает, что ВВП (GDP) — это несовершенная метрика для оценки счастья или пользы (Welfare). Он прямо пишет: «what is relevant for consumer welfare is TFP, rather than GDP» и приводит пример с соцсетями, где ВВП растет (реклама), а благосостояние может падать (депрессия, манипуляции).  

Производительность реальна: При этом он строит свои модели, исходя из того, что замедление TFP (Total Factor Productivity) — это реальный физический факт, связанный с тем, что мы исчерпали легкие пути автоматизации («easy tasks») и уперлись в сложные задачи («hard tasks»), которые машины пока решают плохо.  

Резюме
Гипотеза mismeasurement — это не ошибочная теория, но она переоценена.

Да, ошибки есть: Мы действительно недооцениваем цифровую экономику.

Нет, это не главная причина: Даже с учетом этих ошибок производительность труда в развитых странах растет медленнее, чем в XX веке.

Экономисты приходят к выводу, что мы просто перестали изобретать вещи, которые меняют физическую реальность так же сильно, как двигатель внутреннего сгорания или электричество, и переключились на развлечения и оптимизацию информации, что дает меньший экономический выхлоп.

Так что интуитивно я оказался не вполне неправ, но признаки реального снижения производительности все-таки существуют.

mihaild в сообщении #1710423 писал(а):

Я не вижу, как из результатов следует хоть что-то про то, насколько высшее руководство знает состояние отрасли на техническом уровне.

В моем представлении особое знание технических деталей от руководителя не требуется для того, чтобы понимать что происходит в отрасли - он видит конкретные результаты усилий своих подчиненных и общается с ними едва ли не 24/7. Альтман не инвестор, который периодически отслеживает финансовые показатели объекта своих инвестиций - он руководитель этой компании. Мне по-прежнему непонятно как можно ухитриться возглавлять такой успешный стартап и при этом не понимать лучше кого-либо в мире что происходит в индустрии. Собственно ему и не требуется иметь свое мнение - достаточно спросить у своих подчиненных, и иметь достаточно ума, чтобы сопоставить их информацию. Повторюсь, что Альтмана обвиняли в том, что он поручал одни и те же проекты разным группам сотрудников - в этом случае по отдельности эти группы знают меньше него. И уж конечно лучшие технари компании меньше него знают на какие инвестиции в дата-центры (одно из самых узких мест в достижении AGI) может рассчитывать компания.

[ivan_shatov]

MoonWatcher в сообщении #1710371 писал(а):

через 10 лет, мы получим что-то вроде сверхинтеллекта.

Как по мне, широкое общественное ожидание появления СИИ носит характер инфантильного мифа. Существует наивная вера в некий качественный скачок — что-то, что "возникнет само собой" и будет принципиально отличаться от всего, что существовало ранее, подобно "подарку под ёлкой", для детей.

Однако этот "сверхинтеллект" создаётся нами "по своему образу и подобию". Он обучается на колоссальных массивах человеческого опыта, знаний и творчества. Возникает закономерный вопрос: каким образом он сможет превзойти человека сущностно, а не только в отношении скорости и масштабности вычислений?

СИИ будет представлять собой, по сути, гипертрофированную версию человеческого разума: более быстрый, точный и обладающий невероятной способностью к комбинаторике и поиску паттернов. Да, он будет оснащён не только текстом, но и глубокой сенсомоторной "моделью мира", что сделает его превосходным инструментом в реальной, физической среде. Однако в обычном диалоге или при решении рутинных интеллектуальных задач эта разница, возможно, будет малозаметна для среднего пользователя, поскольку уже существующие модели достигли высокого уровня имитации.

Главное сомнение заключается в следующем: сможет ли такой интеллект по команде "Фас!" совершить фундаментальный прорыв — создать, например, "Единую теорию поля" или предложить совершенно новую математическую парадигму?

Весьма вероятно, что нет. Но этот СИИ будет мастерски оперировать существующими правилами, став непревзойдённым игроком в что-то типа "Поле чудес". Он будет идеальным оптимизатором и прогнозистом, способным дорабатывать то, на что у нас не хватало ресурсов и времени. Например будет ОС разрабатывать за часы, а потом может и за минуты, проектировать самолёт или коллайдер, на что у людей ушли бы десятки тысяч человеко-лет и миллиардды долларов.

Внедрение СИИ, безусловно, пошатнёт экономический статус-кво человека. Оно спровоцирует массовую перестройку экономики, лишив работы значительное число людей, занимающихся узкоспециализированным когнитивным трудом. Но сущностно мир не измениться. Вместо того чтобы принести нечто фундаментально новое в понимание бытия или законов Вселенной (что требует концептуального сдвига), СИИ, скорее, просто ускорит и масштабирует уже существующие процессы и научные направления.

Короче говоря сценарий где СИИ является не богом, а супер-инструментом — является наиболее реалистичным, как по мне. Хотя он, возможно, и не приведёт к ожидаемому прорыву в науке, он гарантированно обеспечит революционную эффективность, что богатых ещё обогатит, а бедных загонит в закрытые резервации, как животных.

[MoonWatcher]

ivan_shatov
ASI возможно необязательно подразумевает качественный рост когнитивных способностей ИИ. Масштабирование позволит сконцентрировать на решении актуальных научно-технических задач беспрецедентно огромные интеллектуальные, по человеческим меркам, ресурсы - и это может иметь качественный, скачкообразный результат.

ivan_shatov в сообщении #1710638 писал(а):

Однако этот "сверхинтеллект" создаётся нами "по своему образу и подобию". Он обучается на колоссальных массивах человеческого опыта, знаний и творчества. Возникает закономерный вопрос: каким образом он сможет превзойти человека сущностно, а не только в отношении скорости и масштабности вычислений?

А как его превзошли Ньютон или Эйнштейн? Если отбросить идею божественного озарения, то своими открытиями они, в моем понимании, обязаны:
1) накопленной информации
2) логическому мышлению, научной методологии и т.д.
3) воображению, смелым догадкам и т.д.
Думаю, что именно последний пункт создает впечатление "божественного" озарения, но я не вижу принципиальных проблем достигнуть этого через ИИ (включая "стохастических попугаев" LLM), который будет перебирать всевозможные "бредовые" идеи и даже визуальные образы (некий аналог того, как Эйнштейн пытался вообразить движение со скоростью света). Уже здесь и сейчас LLM выдают идеи, которые не приходили ученым в голову - во всяком случае в математике (а на ней многое завязано и в физике, которая все больше уходит в область математических абстракций).

ivan_shatov в сообщении #1710638 писал(а):

он гарантированно обеспечит революционную эффективность, что богатых ещё обогатит, а бедных загонит в закрытые резервации, как животных.

Прежде всего он приведет к многократному (я в этом по-прежнему уверен) росту производительности и, как следствие, ВВП. Что, как и прежде, неизбежно потянет за собой не только средний, но и минимальный уровень жизни. Я часто слышу страшилки про эти закрытые резервации, но никогда не понимал этого. Чем подавлять недовольство бедных и обездоленных, гораздо рациональнее (а рациональность побеждает всегда, рано или поздно) поделиться с неимущими частью многократно возросшего ВВП. Я практически не сомневаюсь (и вроде бы демографы с этим согласны), что человечество ожидает вымирание - люди станут чем-то вроде занесенных в Красную книгу животных. В них не будет нужды ни как в рабочей силе, ни даже, в конечном итоге, как в потребителях "излишков" ВВП (при том, что потребление - фундаментальный фактор традиционной экономики) - просто ценность того, чего становится все меньше и меньше, вырастет еще больше.

Я вообще с трудом представляю себе в будущем, где есть ASI, такие категории как деньги, прибыль и капитализм как таковой. Теоретически нас ожидает ББД, распределяемый (все тем же ИИ) на основе социальных рейтингов - определяемых не лояльностью к властям (властью будет ASI - это рационально и поэтому снова неизбежно), а благами для человека и общества. Каковыми хотя бы первое время будут считаться здоровый и активный образ жизни, социальность и прочие современные нам этические идеалы - которые становятся практически реализуемыми в условиях всеобщего благоденствия. Как поменяется этика уже потом, в условиях свершившегося коммунизма, предугадать сложно. Но в принципе во все времена ее суть сводилась к обеспечению стабильности и бесконфликтности в социуме. И если раньше конфликты в немалой степени порождались нехваткой ресурсов, то теперь такой проблемы не будет. Вероятно останутся какие-то идеологические конфликты - например, вокруг вопроса о следовании указаниям ASI, который заведомо превосходит всех людей интеллектуально, но и соответственно лишает их "свободы воли". Но повода для конфликтов вокруг распределения благ, с достижением их изобилия, я не вижу. Хотя конечно такие конфликты наверняка неизбежны на переходном этапе - когда благ станет больше, но не настолько, чтобы ими щедро делиться с другими гражданами и тем более странами.

ivan_shatov в сообщении #1710638 писал(а):

СИИ является не богом, а супер-инструментом

ИМХО это большое заблуждение. AGI, а тем более ASI, обречен стать богом - его решения будут заведомо лучше любых других, принятых индивидуально или коллегиально. В противном случае мы говорим не об AGI/ASI, а, например, о современных чат-ботах. Он будет богом и в личной жизни ("Вот тебе невеста на другом краю Земли - я следил за вами обоими с момента вашего рождения, вы просто обречены на счастливый брак"), и в коллективной (то, что сейчас принято называть бизнесом, экономикой, политикой). Упрямцев будет много только поначалу - когда статистика покажет, что следование рекомендациям ASI делает людей счастливее, чем в случае принятия "собственных" решений, этих упрямцев резко поубавится. Хорошо ли лишиться (причем добровольно, по чисто рациональным соображениям) свободы воли, и существует ли эта свобода воли вообще - вопрос отдельный. Но такое будущее в условиях достижения ASI (хоть в этом десятилетии, хоть через сто лет) я считаю неизбежным.

[Ghost_of_past]

MoonWatcher в сообщении #1710640 писал(а):

Я практически не сомневаюсь (и вроде бы демографы с этим согласны), что человечество ожидает вымирание

Демографы не в курсе Ваших фантазий, поэтому и соглашаться тут не с чем. Без экстремальных событий, вроде глобальной ядерной войны, никаких оснований для вымирания в ближайшие 500 лет нет и не предвидится. Потребуется лет 150-200, чтобы просто вернуться к численности населения до демографического перехода (300-500 млн. человек) и то лишь при условии, что во всех странах рождаемость будет все это время ниже 1 ребенка на женщину (а скорее даже ниже 0,75 ребенка на женщину), а продолжительность жизни перестанет расти. Депопуляция, которая ожидает человечество уже с 2050-60ых годов никакого отношения к вымиранию не имеет: вымирание - это достаточно строгий термин, значения которого употребляющие часто банально не знают.

MoonWatcher в сообщении #1710640 писал(а):

Я вообще с трудом представляю себе в будущем

Это конечно очень серьезный аргумент.

MoonWatcher в сообщении #1710640 писал(а):

властью будет ASI - это рационально и поэтому снова неизбежно

К фантазиям по экономике и демографии добавились фантазии по политологии и социологии.

[MoonWatcher]

Ghost_of_past в сообщении #1710644 писал(а):

Демографы не в курсе Ваших фантазий, поэтому и соглашаться тут не с чем. Без экстремальных событий, вроде глобальной ядерной войны, никаких оснований для вымирания в ближайшие 500 лет нет и не предвидится. Потребуется лет 150-200, чтобы просто вернуться к численности населения до демографического перехода (300-500 млн. человек) и то лишь при условии, что во всех странах рождаемость будет все это время ниже 1 ребенка на женщину (а скорее даже ниже 0,75 ребенка на женщину), а продолжительность жизни перестанет расти. Депопуляция, которая ожидает человечество уже с 2050-60ых годов никакого отношения к вымиранию не имеет: вымирание - это достаточно строгий термин, значения которого употребляющие часто банально не знают.

Демографы в курсе моих фантазий - стабилизация численности населения ожидается ими к концу текущего столетия (причем недавно эту датировку скорректировали в меньшую сторону, если не ошибаюсь к 2080м), потом она пойдет на убыль. Если с 2100 года каждая семья будет рожать по одному ребенку, то за тысячу лет человечество вымрет буквально. А скорее раньше - с учетом тенденции к увеличению брачного возраста, роста численности одиноких людей и появления в будущем роботов, которые "поднесут стакан воды" в старости. Но с учетом неизбежных будущих достижений в медицине, которые продлят продолжительность жизни и сократят смертность, этими факторами можно и пренебречь. В любом случае не надо быть большим провидцем, чтобы ожидать от будущего европейской или японской рождаемости, а не африканской.

Ghost_of_past в сообщении #1710644 писал(а):

Это конечно очень серьезный аргумент.

Аргумент, серьезный или нет, вы не процитировали.

Ghost_of_past в сообщении #1710644 писал(а):

К фантазиям по экономике и демографии добавились фантазии по политологии и социологии.

Всякий разговор о будущем - фантазия. Наукообразность ей придает изучение предшествующей динамики, применение математических моделей и т.д., но с учетом множества неизвестных в "Опыте закона о народонаселении" Мальтуса достоверности не больше, чем в каком-нибудь художественном памфлете той же эпохи, что в будущем человечество убьет очередная "Черная смерть" и войны с применением пушечных ядер, стирающих с лица земли целые города.

[Ghost_of_past]

MoonWatcher в сообщении #1710655 писал(а):

Демографы в курсе моих фантазий

Про вымирание? Нет, не в курсе - это я Вам как работающий демограф говорю.

MoonWatcher в сообщении #1710655 писал(а):

(причем недавно эту датировку скорректировали в меньшую сторону, если не ошибаюсь к 2080м)

Ошибаетесь, конкретно нагуглили лишь один прогноз одной организации (Отдел народонаселения ООН). В реальности gross reproduction rate упал по миру в среднем ниже 1 к текущему времени, а это значит, что убыль населения начнется в 2050ые, максимум в 2060ые годы.

MoonWatcher в сообщении #1710655 писал(а):

Если с 2100 года каждая семья будет рожать по одному ребенку

А если Луна превратится в головку чеддера, то жить станет еще веселее. Или Вы можете доказать, что 1000 лет на Земле будет рождаемость в одного ребенка на женщину. И да, рождаемость измеряется на женщину (или на 1000 населения), а не на семью.

MoonWatcher в сообщении #1710655 писал(а):

А скорее раньше - с учетом тенденции к увеличению брачного возраста, роста численности одиноких людей

Не скорее, а абсолютно точно Вы не знаете о демографии примерно ничего. Рождаемость с брачностью связана довольно слабо со времен начала второго демографического перехода, повышение возраста рождения ребенка (и уж тем более брачного возраста) само по себе без тайминговых сдвигов крайне слабо снижает дополнительно рождаемость, а основной вклад в снижение рождаемости вносит не рост бездетности, а изменение соотношений однодетности, двухдетности и в несколько меньшей степени трехдетности.

MoonWatcher в сообщении #1710655 писал(а):

В любом случае не надо быть большим провидцем, чтобы ожидать от будущего европейской или японской рождаемости, а не африканской.

Тут Вы неожиданно узнаете, что в европейских странах и Японии последние лет 10 уже отнюдь не самая низкая рождаемость, а рождаемость в Африке и так снижается одними из самых быстрых темпов в мире.

MoonWatcher в сообщении #1710655 писал(а):

Аргумент, серьезный или нет, вы не процитировали.

А нечего цитировать: Ваши рассуждения основаны на незнании экономики, социологии, политологии и других социальных наук. Исходя из этого, то что Вы можете или не можете что-то представить едва ли меня волнует.

MoonWatcher в сообщении #1710655 писал(а):

Всякий разговор о будущем - фантазия

Ваши фантазии уровня фэнтези пока что. А до математических моделей и реальных знаний им примерно как до Луны пешком.

[ozheredov]

MoonWatcher в сообщении #1710640 писал(а):

AGI, а тем более ASI, обречен стать богом

Берём совокупность всех доступных текстов по естественным наукам. Показываем её ASI, закрыв ладошкой правую часть (всё что позже 1800 года). Сможет ASI развить науку до современного состояния (ну хотя бы чтоб получилась ТО и квантовая механика в объёме стандартного физтеховского курса) на основе того, что ему показали (т.е. на основе текстов до 1800 года)?

Естественно, чисто на основе Ваших ощущений. Никаких пруфов просить не буду (тут их быть не может)

[ivan_shatov]

MoonWatcher в сообщении #1710640 писал(а):

А как его превзошли Ньютон или Эйнштейн? Если отбросить идею божественного озарения, то своими открытиями они, в моем понимании, обязаны:
1) накопленной информации
2) логическому мышлению, научной методологии и т.д.
3) воображению, смелым догадкам и т.д.
Думаю, что именно последний пункт создает впечатление "божественного" озарения, но я не вижу принципиальных проблем достигнуть этого через ИИ (включая "стохастических попугаев" LLM), который будет перебирать всевозможные "бредовые" идеи и даже визуальные образы (некий аналог того, как Эйнштейн пытался вообразить движение со скоростью света). Уже здесь и сейчас LLM выдают идеи, которые не приходили ученым в голову - во всяком случае в математике (а на ней многое завязано и в физике, которая все больше уходит в область математических абстракций).

Пока никто толком не понимает и имхо в ряд ли поймёт, как гении приходили к по-настоящему прорывным идеям — скорее всего, они и сами этого не осознавали. Существуют разные методы вроде ТРИЗ или мозговых штурмов, но они помогают "довести до ума" уже существующее, а не создать нечто принципиально новое, ну или что-то как бы "новое", в рамках парадигмы, до чего просто не дошли руки. Иногда с гениальностью связывают воображение, междисциплинарное мышление, когнитивный шум, даже приём галлюциногенов и использование не чистой силы, но ни один из этих приёмов не даёт нужного результата. В лучшем случае удаётся немного ускорить или улучшить доработку идеи: "склеить, масштабировать, причесать", ну и продать по дороже. Это полезно, конечно, но это не то же самое, что настоящий творческий прорыв. Все попытки "механизировать" гениальность пока заканчиваются лишь на уровне банального прироста эффективности в десяток %, видимо а счет мотивации. Как же мы "запрограммируем" то про что вообще не понимаем?

MoonWatcher в сообщении #1710640 писал(а):

Прежде всего он приведет к многократному (я в этом по-прежнему уверен) росту производительности и, как следствие, ВВП. Что, как и прежде, неизбежно потянет за собой не только средний, но и минимальный уровень жизни. Я часто слышу страшилки про эти закрытые резервации, но никогда не понимал этого. Чем подавлять недовольство бедных и обездоленных, гораздо рациональнее (а рациональность побеждает всегда, рано или поздно) поделиться с неимущими частью многократно возросшего ВВП. Я практически не сомневаюсь (и вроде бы демографы с этим согласны), что человечество ожидает вымирание - люди станут чем-то вроде занесенных в Красную книгу животных. В них не будет нужды ни как в рабочей силе, ни даже, в конечном итоге, как в потребителях "излишков" ВВП (при том, что потребление - фундаментальный фактор традиционной экономики) - просто ценность того, чего становится все меньше и меньше, вырастет еще больше.

Я вообще с трудом представляю себе в будущем, где есть ASI, такие категории как деньги, прибыль и капитализм как таковой. Теоретически нас ожидает ББД, распределяемый (все тем же ИИ) на основе социальных рейтингов - определяемых не лояльностью к властям (властью будет ASI - это рационально и поэтому снова неизбежно), а благами для человека и общества. Каковыми хотя бы первое время будут считаться здоровый и активный образ жизни, социальность и прочие современные нам этические идеалы - которые становятся практически реализуемыми в условиях всеобщего благоденствия. Как поменяется этика уже потом, в условиях свершившегося коммунизма, предугадать сложно. Но в принципе во все времена ее суть сводилась к обеспечению стабильности и бесконфликтности в социуме. И если раньше конфликты в немалой степени порождались нехваткой ресурсов, то теперь такой проблемы не будет. Вероятно останутся какие-то идеологические конфликты - например, вокруг вопроса о следовании указаниям ASI, который заведомо превосходит всех людей интеллектуально, но и соответственно лишает их "свободы воли". Но повода для конфликтов вокруг распределения благ, с достижением их изобилия, я не вижу. Хотя конечно такие конфликты наверняка неизбежны на переходном этапе - когда благ станет больше, но не настолько, чтобы ими щедро делиться с другими гражданами и тем более странами.

Вы описываете утопию, а не вероятный прогноз. Ещё с 1980-х — а по сути, гораздо раньше — у человечества технически хватало ресурсов, чтобы накормить, вылечить и обеспечить достойную жизнь каждому. Проблема никогда не была в технологиях, а в том, кто ими распоряжается. С момента неолита уровень счастья среднего человека вряд ли вырос. Охотник-собиратель трудился 2–3 часа в день — разнообразно, творчески, в движении, на свежем воздухе. А современный работник — 10 часов на монотонной, противоестественной работе, в стрессе, под угрозой увольнения и бедности. Срок жизни удвоился — в основном благодаря антибиотикам и санитарии, — но свободного времени и автономии стало намного меньше, а зависимость от системы — 100%. Технологии тысячи лет служат не людям вообще, а элитам. Почему вдруг СИИ должен стать исключением? Если капитализм не перестроится под изобилие, а изобилие — под капитализм, то СИИ просто станет самым эффективным инструментом для извлечения прибыли, а не для освобождения человечества. Оптимизм здесь уместен только при условии радикальной перестройки самой логики общества — а не веры в то, что рациональность машины сама всё устроит. Думаю в моменте(20-50 лет) как раз будет сильная просадка ценности человека и уровня жизни "черни".

MoonWatcher в сообщении #1710640 писал(а):

ИМХО это большое заблуждение. AGI, а тем более ASI, обречен стать богом - его решения будут заведомо лучше любых других, принятых индивидуально или коллегиально. В противном случае мы говорим не об AGI/ASI, а, например, о современных чат-ботах. Он будет богом и в личной жизни ("Вот тебе невеста на другом краю Земли - я следил за вами обоими с момента вашего рождения, вы просто обречены на счастливый брак"), и в коллективной (то, что сейчас принято называть бизнесом, экономикой, политикой). Упрямцев будет много только поначалу - когда статистика покажет, что следование рекомендациям ASI делает людей счастливее, чем в случае принятия "собственных" решений, этих упрямцев резко поубавится. Хорошо ли лишиться (причем добровольно, по чисто рациональным соображениям) свободы воли, и существует ли эта свобода воли вообще - вопрос отдельный. Но такое будущее в условиях достижения ASI (хоть в этом десятилетии, хоть через сто лет) я считаю неизбежным.

ИМХО, вы слишком оптимистично смотрите на далее следующий переходный период — а именно он и будет решающим. Хотелось бы верить в мир, где СИИ мягко ведёт человечество к гармонии, но власть ещё очень долго (возможно, сотни лет) останется в руках алчных, порочных и пугливых людей. А они не станут внедрять ИИ ради "общего счастья" — они будут использовать его для усиления контроля, подавления угроз и сохранения привилегий. В условиях нарастающей нестабильности — а ядерные конфликты, даже локальные, уже перестают быть немыслимыми — логика элит будет простой: свести всех "вниз", до уровня выживания, чтобы никто не мог бросить вызов системе. Вероятен сценарий в духе "Безумного Макса" не как апокалипсис, а как целенаправленная политика: ресурсы концентрируются внутри "крепостей" для избранных, а остальной мир держится в страхе, нищете и разобщённости, особенно в "других странах". И каждый, кто получит доступ к мощному ИИ, будет стремиться сделать то же самое — создать свой рай за счёт чужого ада, потому что иначе сам окажешься в этом аду. Так что, скорей всего, АГИ в ближайшие десятилетия — не бог-благодетель, а очередное оружие, инструмент и щит для тех, кто уже у власти. И лишь когда (и если) человечество переживёт эту фазу — войны, расколы, соблазн тотального контроля — можно будет говорить о перспективах общего изобилия. То есть нужен такой травмирующий цивилизационный опыт, по другому человечество не учится(если научится конечно). А пока что "рациональное управление" скорее приведёт к цифровому феодализму, чем к утопии. Уж точно элиты(те самые "ОНИ") так всё сейчас планируют, по моему скромному мнению.

ЗЫ Я на самом деле не так уж пессимистичен, прогнозировать дело не благодарное, но то что большая часть населения не "вздохнёт с облегчением", в ближайшие десятилетия, почти уверен. Счастлив был бы ошибиться.

[MoonWatcher]

Ghost_of_past в сообщении #1710695 писал(а):

Тут Вы неожиданно узнаете, что в европейских странах и Японии последние лет 10 уже отнюдь не самая низкая рождаемость, а рождаемость в Африке и так снижается одними из самых быстрых темпов в мире.

Я рад, что вы в очередной раз повторили мою мысль своими словами. А в остальном многабукф ни о чем - традиционная мантра с обсуждением личности оппонента:

Ghost_of_past в сообщении #1710695 писал(а):

Вы не знаете о демографии примерно ничего

Ghost_of_past в сообщении #1710695 писал(а):

Ваши рассуждения основаны на незнании экономики, социологии, политологии и других социальных наук

Ghost_of_past в сообщении #1710695 писал(а):

Ваши фантазии уровня фэнтези пока что. А до математических моделей и реальных знаний им примерно как до Луны пешком.

Ghost_of_past в сообщении #1710695 писал(а):

Исходя из этого, то что Вы можете или не можете что-то представить едва ли меня волнует.

Три дня я гналась за вами, чтобы сказать, как вы мне безразличны ©

[MoonWatcher]

ozheredov в сообщении #1710700 писал(а):

Берём совокупность всех доступных текстов по естественным наукам. Показываем её ASI, закрыв ладошкой правую часть (всё что позже 1800 года). Сможет ASI развить науку до современного состояния (ну хотя бы чтоб получилась ТО и квантовая механика в объёме стандартного физтеховского курса) на основе того, что ему показали (т.е. на основе текстов до 1800 года)?

Естественно, чисто на основе Ваших ощущений. Никаких пруфов просить не буду (тут их быть не может)

ASI по определению должен переоткрыть законы физики, имея доступ к текстам, на которые опирались сделавшие это ученые - иначе это AGI. Возможно в будущем оценивать достоверность выдвигаемых ASI научных концепций будут именно таким образом. Что, конечно, вовсе не гарантирует неизбежность создания ASI - нельзя исключать, что то, что делает человека гениальным, так и останется для ИИ недостижимым.

ivan_shatov в сообщении #1710711 писал(а):

Пока никто толком не понимает и имхо в ряд ли поймёт, как гении приходили к по-настоящему прорывным идеям — скорее всего, они и сами этого не осознавали. Существуют разные методы вроде ТРИЗ или мозговых штурмов, но они помогают "довести до ума" уже существующее, а не создать нечто принципиально новое, ну или что-то как бы "новое", в рамках парадигмы, до чего просто не дошли руки. Иногда с гениальностью связывают воображение, междисциплинарное мышление, когнитивный шум, даже приём галлюциногенов и использование не чистой силы, но ни один из этих приёмов не даёт нужного результата. В лучшем случае удаётся немного ускорить или улучшить доработку идеи: "склеить, масштабировать, причесать", ну и продать по дороже. Это полезно, конечно, но это не то же самое, что настоящий творческий прорыв. Все попытки "механизировать" гениальность пока заканчиваются лишь на уровне банального прироста эффективности в десяток %, видимо а счет мотивации. Как же мы "запрограммируем" то про что вообще не понимаем?

ИМХО это большое и распространенное заблуждение - считать, что создать мы можем только то, что понимаем. Мы не понимаем как сделать гениальный 37-й ход во второй партии с Ли Седолем - мы поняли только как сделать AlphaGo через проигрывание огромного множества партий с самим собой. Это касается и сознания - явления, которое возможно возникнет в ИИ в силу эмерджентности, неожиданно для человека. Любой без исключения гений я считаю способностью извлекать закономерности из опыта. Поэтому Моцарт никогда не появился бы в античной Греции, а Ньютон - в Вавилоне, им просто недоставало бы накопленного опыта. Их гений в том, чтобы обнаружить в этом накопленном человечеством опыте гораздо более неожиданные и смелые закономерности, что это доступно обычным людям. В этом смысле нельзя исключать, что аналог AlphaGo будет создан и в физике, например.

ivan_shatov в сообщении #1710711 писал(а):

Вы описываете утопию, а не вероятный прогноз. Ещё с 1980-х — а по сути, гораздо раньше — у человечества технически хватало ресурсов, чтобы накормить, вылечить и обеспечить достойную жизнь каждому.

С 1980-х - возможно, поэтому я и упомянул идеологические войны - они возможны и в будущем. Но значительную часть более древней истории многие войны велись именно из-за ограниченности ресурсов.

ivan_shatov в сообщении #1710711 писал(а):

Проблема никогда не была в технологиях, а в том, кто ими распоряжается. С момента неолита уровень счастья среднего человека вряд ли вырос. Охотник-собиратель трудился 2–3 часа в день — разнообразно, творчески, в движении, на свежем воздухе. А современный работник — 10 часов на монотонной, противоестественной работе, в стрессе, под угрозой увольнения и бедности. Срок жизни удвоился — в основном благодаря антибиотикам и санитарии, — но свободного времени и автономии стало намного меньше, а зависимость от системы — 100%.

Аналогичной точки зрения придерживается, кстати, Юваль Ной Харари. Это сложный вопрос - счастливее ли современный европеец своего предка эпохи индустриальной революции? Но даже если нет - мы все равно будем и должны стремиться к тому, что видится счастьем сейчас. С точки зрения наших индустриальных предков из 19 века мы в основном (за исключением воюющих стран) живем как в раю, в их восприятии это золотой век человечества - чудесные технологии, продовольственное изобилие, безопасность, чистый воздух... Возможно и нам наше истинное будущее покажется раем - хотя быстро привыкшие к этому раю люди вероятно и там не будут счастливее. Счастье определяется не только средой обитания, но и ее восприятием - люди, которые живут легко и весело, даже в суровых условиях счастливее благополучных пессимистов.

ivan_shatov в сообщении #1710711 писал(а):

Технологии тысячи лет служат не людям вообще, а элитам. Почему вдруг СИИ должен стать исключением? Если капитализм не перестроится под изобилие, а изобилие — под капитализм, то СИИ просто станет самым эффективным инструментом для извлечения прибыли, а не для освобождения человечества. Оптимизм здесь уместен только при условии радикальной перестройки самой логики общества — а не веры в то, что рациональность машины сама всё устроит. Думаю в моменте(20-50 лет) как раз будет сильная просадка ценности человека и уровня жизни "черни".

Технологии служат всему человечеству - иначе мы бы с вами сейчас строили условные пирамиды или гнули спины на полях, пока какие-нибудь фараоны сидят в Тик-токах, разъезжают на автомобилях, каждый день едят мясо и т.д. В истории человечества можно наблюдать постепенное сокращение прав и привилегий элит в пользу тех, кого в средние века стали называть третьим сословием, а сейчас - средним классом. Капитализм не перестроится под изобилие - он умрет от него. Суть капитализма, если по Марксу и очень грубо, состоит в присвоении капиталистом (предпринимателем) прибавочной стоимости - части стоимости, создаваемой трудом рабочего (вероятно, организаторский труд самого предпринимателя Маркс оценивал невысоко). А кто, у кого и что будут присваивать, если ИИ играет роль и рабочего, и предпринимателя? Какое-то время прибыль возможно будут присваивать собственники капитала и их наследники, но потом произойдет неизбежное размывание этого капитала - как это случилось с состояниями Рокфеллера или Ротшильда.

В любом случае то, что вы называете логикой общества, будет меняться - как она менялась на протяжении всей человеческой истории по мере технологического и, как следствие, социального развития. Фундаментально, повторюсь, всякая этика и всякое социальное устройство сводится к тому, чтобы избегать конфликтов - поэтому даже если в будущем и сохранится понятие элит (собственники капитала, вложенного в ИИ, и их наследники), они все равно предпочтут делиться излишками создаваемого ИИ блага. Это не просто моя фантазия - посмотрите какие в Западной Европе в 20 веке установились ставки подоходного налога, налога на роскошь, на наследство и т.д.

ivan_shatov в сообщении #1710711 писал(а):

ИМХО, вы слишком оптимистично смотрите на далее следующий переходный период — а именно он и будет решающим. Хотелось бы верить в мир, где СИИ мягко ведёт человечество к гармонии, но власть ещё очень долго (возможно, сотни лет) останется в руках алчных, порочных и пугливых людей. А они не станут внедрять ИИ ради "общего счастья" — они будут использовать его для усиления контроля, подавления угроз и сохранения привилегий. В условиях нарастающей нестабильности — а ядерные конфликты, даже локальные, уже перестают быть немыслимыми — логика элит будет простой: свести всех "вниз", до уровня выживания, чтобы никто не мог бросить вызов системе. Вероятен сценарий в духе "Безумного Макса" не как апокалипсис, а как целенаправленная политика: ресурсы концентрируются внутри "крепостей" для избранных, а остальной мир держится в страхе, нищете и разобщённости, особенно в "других странах". И каждый, кто получит доступ к мощному ИИ, будет стремиться сделать то же самое — создать свой рай за счёт чужого ада, потому что иначе сам окажешься в этом аду. Так что, скорей всего, АГИ в ближайшие десятилетия — не бог-благодетель, а очередное оружие, инструмент и щит для тех, кто уже у власти. И лишь когда (и если) человечество переживёт эту фазу — войны, расколы, соблазн тотального контроля — можно будет говорить о перспективах общего изобилия. То есть нужен такой травмирующий цивилизационный опыт, по другому человечество не учится(если научится конечно). А пока что "рациональное управление" скорее приведёт к цифровому феодализму, чем к утопии. Уж точно элиты(те самые "ОНИ") так всё сейчас планируют, по моему скромному мнению.

ЗЫ Я на самом деле не так уж пессимистичен, прогнозировать дело не благодарное, но то что большая часть населения не "вздохнёт с облегчением", в ближайшие десятилетия, почти уверен. Счастлив был бы ошибиться.

То, что вы описали, возможно в условиях ярко выраженного скудоумия правящих элит. Которые вместо того, чтобы поделиться с малоимущими частью многократно возросшего ВВП, будут загонять население в резервации. Но это нерационально и поэтому обречено. На переходный период я как раз смотрю с пессимизмом - на пути к этому коммунизму нас почти наверняка ожидают потрясения вокруг вопроса о том как распределять ББД между гражданами и государствами, кому править государством и т.д. Какое-то время авторитарные правители наверняка будут прикрываться AGI/ASI, которому будут делегировать исполнение своих генеральных установок - но со временем вредность принимаемых ими, авторитарными правителями, решений (по сравнению с решениями ASI), станет очевидной. Представьте, что в некоей стране с авторитарным правлением узнали про возможность поставить у руля цифрового правителя, который практически идеален - невообразимо компетентен, умен, справедлив (с точки зрения этики общества в этой стране) и т.д. Долго при наличии такой альтернативы продержится тамошний диктатор? В каких-то странах, вроде Северной Кореи и Туркменистана, может и долго - но эти страны настолько отстанут от стран, где переход к власти к ASI все-таки состоялся, что даже там смена власти станет неизбежной. Повторюсь, что рано или поздно верх берет рациональное и эффективное - это своего рода социальный естественный отбор. С появлением ASI страны, где ему делегируют правление, уйдут так далеко вперед, что у всех остальных не останется выбора - как если бы это была электрификация.

[ivan_shatov]

MoonWatcher в сообщении #1710718 писал(а):

...

ИМХО СИИ, способный к настоящим открытиям, будет приносить редкие и трудно предсказуемые инсайты, ускоряя науку не на порядки, а лишь в ограниченных пределах. Также как LLM в задачах разной сложности даёт разный буст.

Хотелось бы верить, что СИИ на всех уровнях, включая управление государствами, приведёт к более справедливой и устойчивой цивилизации. Но конкуренция между государствами ближе к войне, чем к рынку, и в таких условиях хрупкие и этичные системы часто проигрывают более примитивным и агрессивным.То, что создадут инновации и дисциплина, может быть разрушено куда более грубыми средствами, как слабый вирус способен убить крупное животное.

Поэтому путь к идиллии через СИИ далеко не прямой и потребовал бы передачи СИИ значительной части глобального управления — с риском новой концентрации силы и терминаторов которых все боятся. Оптимистичный сценарий возможен, но ведёт через фазу высокой нестабильности, которую человечество исторически переживает плохо, даже с вероятностью деградации, отката на десятилетия и больше. И в итоге главный барьер остаётся прежним: человеческий фактор — жажда власти, страх потерь и древние инстинкты, мешающие потенциальному светлому будущему.

Но вероятней всего это таки случится! Не важно когда, через, 50 -100 лет, но думаю всё же мы(человечество) к этому придём. И то что сейчас будет казаться средневековьем, дикостью. Но есть вероятность и сценария "безумного макса", если не получится договорится. Ещё как то нужно решать проблему перенаселённости, не нужно столько людей, тесно, а это фактор не очень то церемониться с нашим братом.