Социальные и прочие последствия от появления AGI и ASI

[MoonWatcher]

ozheredov в сообщении #1728347 писал(а):

Инвестиционный проект относят к одному из классов, после чего вычисляют вероятность применительно к объекту данного класса. Если проект абсолютно уникален - оценка его вероятности это лженаука.

Насколько я понимаю, общая вероятность проекта (ну или большого события) рассчитывается исходя из вероятности маленьких событий, из которых он складывается. Они тоже могут быть уникальными - например, одно дело оценить вероятность успешного вывода спутника на орбиту РН Союз или Falcon 9, наработавшими большую статистику успешных полетов, а другое - впервые после всех испытаний полетевшим Starship. Антинаучна ли такая оценка? Не думаю.

ozheredov в сообщении #1728347 писал(а):

Ага. Понимать, чего с чем связано - обезьяна не обязана. Так ли, этак, то ли, сё, не обязана - и всё (с). В который раз убеждаюсь в хирургической точности диагноза по юзерпику.

Я рад за вас. Что сказать-то хотели?

ozheredov в сообщении #1728347 писал(а):

Здесь все прекрасно осведомлены, что такое доморощенное высшее экономическое образование. То, что вы не умеете отслеживать простейшие логические рассуждения, лишь подтверждает эту информацию. А устроиться в консалтинговую компанию можно, например, будучи крутым мужиком (вы там рассказывали про какие-то стрельбища, и в разговорах у вас постоянно проскакивает военная тема - наверняка занимаетесь спортом и поддерживаете форму) и вызвав симпатию у HRщицы, а дальше выполнять какой-нибудь простейший набор действий и не отсвечивать

Доморощенный Oxford Brookes позабавил, конечно, равно как и ваши представления о порядке трудоустройстве в Big4. Я только по-прежнему не понимаю ваш посыл. Мои экономические знания ничтожны - я говорю это без иронии. Любой энтузиаст, который регулярно читает экономическую литературу, заткнет меня за пояс. Но так же ничтожны познания в ИИ экономистов, которые чего-то там прогнозируют, опираясь на все эти глупенькие маркетинговые исследования. Поэтому у меня нет пиетета к реальным или мнимым регалиям ни моих оппонентов на этом форуме, ни авторов всех этих исследований. Скорее напротив - свежий, не замутненный шаблонами взгляд куда интереснее. Не нравится - скатертью дорога, я сюда никого не звал и уж тем более никого не держу. Но всегда с интересом почитаю мнение людей, которым это интересно. И кто смеет свое суждение о будущем иметь без этого подобострастного пиетета к вердиктам авторитетных дядей и тетей.

[ozheredov]

MoonWatcher в сообщении #1728350 писал(а):

одно дело оценить вероятность успешного вывода спутника на орбиту РН Союз или Falcon 9, наработавшими большую статистику успешных полетов, а другое - впервые после всех испытаний полетевшим Starship. Антинаучна ли такая оценка? Не думаю.

1) Возьмите модель (например, байесовской) оценки вероятности успешного старта корабля, основанную на данных, полученных ДО первого старта этого корабля.
2) Сравните оценку вероятности с реальным значением частоты успешных стартов.
3) Сделайте вывод.
4) Повторите N раз.

Только после этого вы будете иметь моральное право думать или не думать, антинаучна такая оценка или нет.

MoonWatcher в сообщении #1728350 писал(а):

Что сказать-то хотели?

Ровно то, что вы процитировали. Сломанный парсер текста на естественном языке - это немного не ко мне.

MoonWatcher в сообщении #1728350 писал(а):

Oxford Brookes

А, так вы сынок богатых родителей? Тада 0 вопросов )) Ладно, шутю - вы сами заработали себе на обучение в Оксфорде непосильным трудом.

MoonWatcher в сообщении #1728350 писал(а):

Мои экономические знания ничтожны - я говорю это без иронии. Любой энтузиаст, который регулярно читает экономическую литературу, заткнет меня за пояс. Но так же ничтожны познания в ИИ экономистов, которые чего-то там прогнозируют, опираясь на все эти глупенькие маркетинговые исследования. Поэтому у меня нет пиетета к реальным или мнимым регалиям ни моих оппонентов на этом форуме, ни авторов всех этих исследований.

Как бе позиция, что верить нельзя никому, кто получил доступ к любой широковещательной технологии -- абсолютно правильная (ибо вещает он себе в карман и на пользу тем, кто проплатил его эфирное время, а не на пользу рандомному Уасе). Но. Вы а) явно симпатизируете сеошникам, которые топят за вероятность 0.99999 появления AGI послезавтра (возможно, сказываются годы в Оксфорде - ведь сеошники явно похожи на контингент, среди которого вы отчаянно пытались стать "своим"), и б) прыгаете от радости, что 99% населения предстоит сдохнуть. Да, вы маскируете это утверждение за фразами о безусловном базовом доходе, но тут же оговариваетесь, что за него предстоит недетская драчка. Вы явно пристрастны в своих рассуждениях, вотъ.

[Ghost_of_past]

mihaild в сообщении #1728344 писал(а):

Вы знаете, хотя бы примерно, какие получаются результаты?

Выше, чем у голосовых ботов без ИИ, но ниже, чем у людей. И чаще встречаются аналоги эффекта зловещей долины - голосовые боты обычные более неантропоморфны, так что здесь именно эта проблема слабее.

mihaild в сообщении #1728344 писал(а):

Если проблема именно в бездуховности моделей

Звучит плохо. Не "бездуховность", проблема в том, что у голосовых ботов реакции, имитирующие эмоциональность, слишком сильно расходятся по субъективным ощущениям клиентов с естественной антропоморфной эмоциональностью.

[MoonWatcher]

ozheredov в сообщении #1728366 писал(а):

1) Возьмите модель (например, байесовской) оценки вероятности успешного старта корабля, основанную на данных, полученных ДО первого старта этого корабля.
2) Сравните оценку вероятности с реальным значением частоты успешных стартов.
3) Сделайте вывод.
4) Повторите N раз.

Только после этого вы будете иметь моральное право думать или не думать, антинаучна такая оценка или нет.

Я так понимаю, что вы взяли, сравнили, сделали и повторили - раз уж взяли на себя моральное право думать, что такая оценка в отношении уникальных событий антинаучна?

ozheredov в сообщении #1728366 писал(а):

Ровно то, что вы процитировали. Сломанный парсер текста на естественном языке - это немного не ко мне.

Тогда может это про вас?

ozheredov в сообщении #1728366 писал(а):

Как бе позиция, что верить нельзя никому, кто получил доступ к любой широковещательной технологии -- абсолютно правильная (ибо вещает он себе в карман и на пользу тем, кто проплатил его эфирное время, а не на пользу рандомному Уасе). Но. Вы а) явно симпатизируете сеошникам, которые топят за вероятность 0.99999 появления AGI послезавтра (возможно, сказываются годы в Оксфорде - ведь сеошники явно похожи на контингент, среди которого вы отчаянно пытались стать "своим"), и б) прыгаете от радости, что 99% населения предстоит сдохнуть. Да, вы маскируете это утверждение за фразами о безусловном базовом доходе, но тут же оговариваетесь, что за него предстоит недетская драчка. Вы явно пристрастны в своих рассуждениях, вотъ.

У меня такое ощущение, что вы бредите, ей-богу.

[dsge]

(Оффтоп)

mihaild в сообщении #1728344 писал(а):

ozheredov в сообщении #1728333 писал(а):

Если событие беспрецедентно, т.е. ранее не наблюдалось, то оценка его вероятности заведомо лженаучна.

Предлагаю Вам написать это во все журналы, в которых публиковались статьи, использующие байесовские методы. Начать можно с Nature.

Нет, Байес здесь не катит. Если хотя бы одна условная плотность равна нулю (событие не наблюдалось), то постериор тоже будет нулевой, независимо от прайора. Есть правда трюк Лапласа, он пытался оценить вероятность, что Солнце не встанет на следущее утро (событие не наблюдалось), но это чисто ad hoc[/quote]

[ozheredov]

MoonWatcher в сообщении #1728373 писал(а):

Я так понимаю, что вы взяли, сравнили, сделали и повторили - раз уж взяли на себя моральное право думать, что такая оценка в отношении уникальный событий антинаучна?

Вы всё правильно понимаете. Не только "сравниЛИ" и "повториЛИ", но делаю это регулярно (на объектах, по которым у меня имеется б/м достаточный набор данных - Starship в их число не входит). Помимо этого, когда-то я работал аналитиков в отделе рекламы и PR, имея дело с кучей вероятностных прогнозов, а ещё ранее увлекался трейдингом, и тоже... угадайте что.

MoonWatcher в сообщении #1728373 писал(а):

Тогда может это про вас? У меня такое ощущение, что вы бредите, ей-богу.

Ну попробую допустить, что во мне что-то сломалось. Не могли бы вы помочь откалибровать мой парсер ЗАНОГО, ответив на пару несложный вопросов:

1. Почему вас явно волнует/интересует момент появления AGI? Вы чего-то боитесь, ждёте, как манны небесной или что? Максимально доступно, например: "Я жду-недождусь, когда получу первую пайку безусловного базового дохода и улягусь на диван" или "Я боюсь, что мир разделится на людей (~ 10.000 штук max.), биоскот (~пару миллиардов голов) и роботов (неисчисляемая категория). С точки зрения тиорийи вираятности, угадайте - где окажусь я".

2. Зачем вы агрегируете новости об увольнениях людей из-за внедрения ИИ?

-- добавлено через 8 минут --

dsge в сообщении #1728375 писал(а):

Если хотя бы одна условная плотность равна нулю (событие не наблюдалось), то постериор тоже будет нулевой, независимо от прайора.

Вы отталкиваетесь от не совсем верной предпосылки. Условная вероятность появления паровоза при том, что у нас есть пар, крысиный кал и дифференциальное исчисление, никак не равна нулю. Другое дело, что результат будет сильно зависеть от топологии байесовской сети, точности отнесения паровоза к классу объектов, для которых эти условные вероятности моделируются сколь-нибудь точно, и ещё 100500 факторов. Та что в итоге будет плбс-минус лапоть, и по моему опыту длина этого лаптя близка к единице. Но ноль точно не будет

[MoonWatcher]

ozheredov в сообщении #1728376 писал(а):

Вы всё правильно понимаете. Не только "сравниЛИ" и "повториЛИ", но делаю это регулярно (на объектах, по которым у меня имеется б/м достаточный набор данных - Starship в их число не входит). Помимо этого, когда-то я работал аналитиков в отделе рекламы и PR, имея дело с кучей вероятностных прогнозов, а ещё ранее увлекался трейдингом, и тоже... угадайте что.

Я спрашивал об уникальных событиях, если вы не поняли.

ozheredov в сообщении #1728376 писал(а):

Ну попробую допустить, что во мне что-то сломалось. Не могли бы вы помочь откалибровать мой парсер ЗАНОГО, ответив на пару несложный вопросов:

1. Почему вас явно волнует/интересует момент появления AGI? Вы чего-то боитесь, ждёте, как манны небесной или что? Максимально доступно, например: "Я жду-недождусь, когда получу первую пайку безусловного базового дохода и улягусь на диван или "Я боюсь, что мир разделится на людей (~ 10.000 штук max.), биоскот (~пару миллиардов голов) и роботов (неисчисляемая категория). С точки зрения тиорийи вираятности, угадай - где окажусь я".

Отвечаю - потому, что мне это интересно, в рамках моего увлечения футурологией ("Сумма технологии" и т.д.) Вообще это тема отдельного обсуждения: почему у одних людей к ИИ интерес, а у других - откровенный батхерт.

ozheredov в сообщении #1728376 писал(а):

2. Зачем вы агрегируете новости об увольнениях людей из-за внедрения ИИ?

Это вы про новость об очередном успехе ИИ в математике, на которую вы так нервически отреагировали?

[mihaild]

ozheredov в сообщении #1728347 писал(а):

А, то есть у этих кадров, высказывание которых перечислил MoonWatcher , есть ориентированный граф связей всех основных факторов, влияющих на появление AGI, и заданная с приемлемой точностью условная вероятность для каждого ребра?

Насколько я знаю, нету (но кстати для разговоров о вероятности в байесианском смысле он и не требуется). Но

ozheredov в сообщении #1728333 писал(а):

Если событие беспрецедентно, т.е. ранее не наблюдалось, то оценка его вероятности заведомо лженаучна

писали не они, а Вы. Кстати, любое событие беспрецедентно, потому что никогда раньше ровно таких же условий не было.

Ghost_of_past в сообщении #1728372 писал(а):

Выше, чем у голосовых ботов без ИИ, но ниже, чем у людей

Но возможной окупаемости всё равно не видно?

Ghost_of_past в сообщении #1728372 писал(а):

проблема в том, что у голосовых ботов реакции, имитирующие эмоциональность, слишком сильно расходятся по субъективным ощущениям клиентов с естественной антропоморфной эмоциональностью

Проблема больше в тексте или в TTS?

(Оффтоп)

dsge в сообщении #1728375 писал(а):

Нет, Байес здесь не катит. Если хотя бы одна условная плотность равна нулю (событие не наблюдалось), то постериор тоже будет нулевой, независимо от прайора. Есть правда трюк Лапласа, он пытался оценить вероятность, что Солнце не встанет на следущее утро (событие не наблюдалось), но это чисто ad hoc

Это не ad hoc, это выбор приоров. И без него обойтись всё равно не получится, во фреквентизме это просто заметается под ковёр взятыми с потолка требованиями к p-value.

[Ghost_of_past]

mihaild в сообщении #1728379 писал(а):

Но возможной окупаемости всё равно не видно?

Окупаемость - это все-таки чуть из другой оперы: не про маркетинговые/продуктовые исследования клиентского опыта, а про рыночную аналитику, финансы, оценку рисков и инвестиционную деятельность. С окупаемостью инвестиций в LLM в целом всё еще не очень хорошо, но мы и не в конце этого макроинвестиционного цикла, так что вполне возможно, что эти инвестиции IT-компаний в будущем и отобьются, и мультипликативный эффект значительный дадут, но конечно без фантазмов про 50% экономический рост в год.

Но я буквально из первых рук от клиентов знаю, что они массово вынуждены возвращать колл-центры и нанимать много операторов. А уж сколько "добрых" слов они говорят в адрес людей и компаний, кто им рекомендовал оптимизировать процессы в пользу голосовых ботов, я даже говорить не буду. Теперь вынуждены восстанавливать бизнес-инфраструктуру, от которой методично избавлялись очень многие несколько последних лет.

mihaild в сообщении #1728379 писал(а):

Проблема больше в тексте или в TTS?

Проблемы есть и там, и там, но больше с TTS, и прежде всего это проблемы с эмоциональной микродинамикой.

[Cuprum2020]

Ghost_of_past в сообщении #1728321 писал(а):

А мы в этой теме обсуждаем отнюдь не появление AGI, а последствия появления AGI. И пока с доказательной базой этих последствий примерно никак: экономический рост в 50% в год относится к области немногим менее фантастической, чем превращение Луны в сыр

50% ВВП это фантастично для AGI? Для меня совершенно не выглядит фантастикой прогноз согласно которому AGI за год выстроит техносферу в десяток раз превосходящую по масштабу чем всё построенное человечеством до этого самого года, а во второй год в десяток раз превосходящую выстроенную им за первый год

[Ghost_of_past]

Cuprum2020 в сообщении #1728382 писал(а):

50% ВВП это фантастично для AGI?

На длительное время (за пределами одного-двух лет)? Абсолютно фантастично. Для такого постоянного темпа экономического роста нужны неограниченные, по крайней мере по сравнению с нынешним уровнем развития, уровни энерговооруженности и материальные ресурсы. А для этого нужен отнюдь не AGI сам по себе, а AGI в связке с универсальными нанороботами и термоядерной энергетикой.

Cuprum2020 в сообщении #1728382 писал(а):

Для меня совершенно не выглядит фантастикой прогноз согласно которому AGI за год выстроит техносферу в десяток раз превосходящую по масштабу чем всё построенное человечеством до этого самого года

Описанный Вами сценарий - обычная научная фантастика. К реальной экономике это не имеет никакого отношения.

[Cuprum2020]

MoonWatcher в сообщении #1728322 писал(а):

Если под самоваром вы подразумеваете обрубок без рук и ног, то он вряд ли выживет

Именно так. Ещё как выживет. Сверхчеловечески эффективные роботы будут сверхчеловечески эффективно калечить людей оставляя их в живых. Гуманные войны светлого будущего

-- добавлено через 4 минуты --

Ghost_of_past в сообщении #1728383 писал(а):

неограниченные, по крайней мере по сравнению с нынешним уровнем развития, уровни энерговооруженности и материальные ресурсы

Так с чего Вы решили что AGI не окажется способен проапргрейдить себя до ASI и изыскать эти самые энергетические и материальные ресурсы?

Ghost_of_past в сообщении #1728383 писал(а):

К реальной экономике это не имеет никакого отношения

С чего Вы решили что экономика AGI будет иметь хоть какое то отношение к человеческой экономике? С чего Вы вообще решили что она будет совместима с наличием живых людей на планете или даже какой-бы то ни было биологической жизни в принципе? Гарантированно ограничивать возможности AGI способны лишь законы физики и ничто более

[ozheredov]

mihaild в сообщении #1728379 писал(а):

для разговоров о вероятности в байесианском смысле он и не требуется

это как? Можете пожалуйста привести пример? Хочу допустим вычислить, что завтра на плечо мне сядет фиолетовый попугай. Что и в какие выражения я должен подставлять?

mihaild в сообщении #1728379 писал(а):

Кстати, любое событие беспрецедентно, потому что никогда раньше ровно таких же условий не было.

Будем считать событие обычным, если можно натянуть сову на глобус и хоть как-то отнести совокупность условий к одному из достаточно объемистых классов. И беспрецедентным, если сова уже треснула.

mihaild в сообщении #1728379 писал(а):

Проблема больше в тексте или в TTS?

Я конечно это не это, но по-моему техподдержка должна быть чем-то душевным, чуть ли интимным. Ты такой: "Какого хрена ничё не работает???" и успокаиваешься, чувствуя, как багровеют от стыда щеки техпода. Мы ж никогда не захотим кекс-роботессу, пусть и с идеальными пропорциями, и с трижды реалистичным T2S.

[MoonWatcher]

(Оффтоп)

Cuprum2020 в сообщении #1728384 писал(а):

Именно так. Ещё как выживет. Сверхчеловечески эффективные роботы будут сверхчеловечески эффективно калечить людей оставляя их в живых. Гуманные войны светлого будущего

Ампутация конечностей - это очень тяжелая травма. Иногда, при подрыве на мине, артериальные сосуды прижигает и сильного кровотечения нет - но это как повезет. В остальных случаях - обильное артериальное кровотечение, при котором через несколько десятков секунд человек теряет сознание и вытекает. Одну, максимум две конечности он еще как-то может пережгутовать - в остальных случаях он скорее всего покойник. Хотя случаи выживания конечно тоже бывают - если рядом были товарищи, они своевременно оказали раненному помощь и эвакуировали его. Я уже не говорю о том, что такое живодерство, мягко говоря, не слишком популярно в развитых странах - откуда, очевидно, и будут распространяться подобные технологии

[Ghost_of_past]

Cuprum2020 в сообщении #1728384 писал(а):

Так с чего Вы решили что AGI не окажется способен проапргрейдить себя до ASI

У нас и AGI нет, говорить в такой ситуации об ASI как-то малость преждевременно.

Cuprum2020 в сообщении #1728384 писал(а):

и изыскать эти самые энергетические и материальные ресурсы?

А для этого надо быть уверенным, что универсальные нанороботы вообще возможны, как и энергетика, способная увеличить генерацию на несколько порядков от текущих. Есть однозначные доказательства, что всё вышеперечисленное вообще возможно, что с ASI, что без него?

Cuprum2020 в сообщении #1728384 писал(а):

С чего Вы решили что экономика AGI будет иметь хоть какое то отношение к человеческой экономике?

С того, что экономические закономерности универсальны и опираются на ограничения доступных ресурсов. А предлагаемые здесь варианты - это уже не просто AGI/ASI, это AGI/ASI, вооруженные неограниченной энергетикой и скатертями-наносамобранками. Есть какие-то научные доказательства, что такая энергетика и нанороботы возможны, и возможно соответственно построение постдефицитной экономики? Если нет, то никакого 50% экономического роста ждать не надо, ибо мы все еще в реальном физическом мире живем.