Социальные и прочие последствия от появления AGI и ASI

[MoonWatcher]

Ghost_of_past в сообщении #1728169 писал(а):

Как обстоит ситуация с колл-центрами я буквально Вам выше описал. Прямо противоположным образом, если конечно Вы не хотите оспорить результаты опросов как населения, так и бизнеса в разных странах мира, проводимые одной из крупнейших компаний в этой области.

Ghost_of_past в сообщении #1728169 писал(а):

Такого не только никогда не было, но такого и сейчас нет: моя вторая работа - это научный сотрудник в университете. И я что-то как-то не знаю примерно ни одного ученого, которого бы уволили из-за ИИ.

Вы по-прежнему апеллируете к текущему уровню развития ИИ - тогда как авторы подобных прогнозов исходят из предпосылки, что в ближайшие годы появится ИИ человеческого уровня.

Ghost_of_past в сообщении #1728169 писал(а):

Примерно также, как противоположная сторона уж точно не эксперты в экономике. Но почему-то делают сомнительные экономические прогнозы.

И все-таки в каком конкретно аспекте они сомнительны? В предпосылке, что AGI появится в ближайшие годы? Да, безусловно - но на то она и предпосылка. Сейчас, в эпоху бурного развития технологий, как никогда актуальны прогнозы, в которые заложены те или иные будущие предпосылки, основанные на текущих научно-технических прогнозах. И я открыл эту тему для обсуждения возможных социальных, экономических, политических, культурных и прочих последствий того, что вполне вероятно. Если когда-то на это действительно можно было ответить "Когда будет, тогда и поговорим", то сегодня такой ответ звучит откровенно нелепо - потом может быть просто поздно. Не потому что мы здесь не пофантазировали о будущем, конечно, а потому, что человечество просто не подготовилось к тектоническим цивилизационным сдвигам, которые неизбежно вызовет появление сначала AGI, а потом ASI.

Или вы считаете сомнительным экономический анализ, которые проделали авторы того исследования и на который я давал ссылку?

Я правда не понимаю о каких сотых и десятых долях прироста ВВП за счет ИИ может идти речь, если в мире начнет быстро размножаться быстро умнеющая и быстро дешевеющая рабочая сила? Даже если в первые годы это ограничится исключительно офисными профессиями - это все равно огромный пласт экономики. Причем вполне очевидно, что это подстегнет и взрывное развитие роботов, которые уже сейчас демонстрируют превосходную крупную и мелкую моторику - им не хватает именно автономности, то есть интеллекта.

Разные там экономические модели - это замечательно, но ими можно заткнуть любой прогноз, чьи предпосылки выходят за рамки тех моделей. Попробуйте, если есть такое желание, объяснить на пальцах - почему в случае появления и масштабирования AGI его влияние на рост ВВП будет таким скромным, как показано в исследованиях МВФ и прочих? Пока я вижу этому только одно объяснение - они, как и утверждают авторы исследования, просто недооценивают темпы развития ИИ. И соответственно игнорируют многократный рост интеллектуальных производительных сил. Об этом говорят именно ИИ-специалисты, и экономисты эту возможную реальность просто игнорируют - в ближайшие годы могут появиться стартапы из одного человека, на которого трудятся десятки, сотни, тысячи ИИ-агентов (разработчиков, инженеров, маркетологов, экономистов, юристов и т.д.) Цифровая экономика - это уже огромный потенциал, рост ВВП необязательно сводится к повышенной добыче нефти или выплавке руды.

Ghost_of_past в сообщении #1728169 писал(а):

И что это дает для оценки потенциального влияния ИИ на экономический рост? Вы можете представить соответствующую макроэкономическую модель? Не обязательно свою, разумеется, а именно их модель, раз уж мы обсуждаем их прогноз. Если нет, то перед нам не научно обоснованный прогноз, а всё равно, что гадание на кофейной гуще, ну или в лучшем случае прогноз аналитический. Собственно говоря, это и была моя основная претензия ко всей этой теме - это не профессиональный уровень обсуждения и вообще даже не научный.

Я выше давал ссылку и спрашивал ваше мнение об этом анализе.

Ghost_of_past в сообщении #1728169 писал(а):

Допустим. И где тут про написание 100% кода компаниями исключительно LLM без помощи человеческого труда?

Если это правда, то это пожалуй даже важнее написанного ИИ 100% программного кода (который пока людям все равно приходится перепроверять и исправлять) - это значит, что в некоторых аспектах ИИ интеллектуально уже превосходит разработчиков.

[Ghost_of_past]

MoonWatcher в сообщении #1728203 писал(а):

авторы подобных прогнозов исходят из предпосылки, что в ближайшие годы появится ИИ человеческого уровня

Это не означает, что услуги колл-центров с такими AGI-агентами будут более востребованы, чем услуги с работниками-людьми. Вы делаете упор только на технологичность, но забываете о потребителях и их желаниях/болях. И вот массовая боль потребителей сейчас - нежелание общаться с голосовыми роботами (с ИИ или без) и нет гарантий, что это желание появится даже при появлении AGI.

MoonWatcher в сообщении #1728203 писал(а):

И все-таки в каком конкретно аспекте они сомнительны?

В указанных в прогнозе значениях, вроде снижения доли рабочей силы от численности населения в 5 раз или росте ВВП на 50% в год - не видно, как именно методологически получены эти значения. А в отрыве от методологии в сравнении с другими прогнозами они выглядят как фантастика. Ну или аналитический прогноз, имеющий слабое отношение к реальной экономике.

MoonWatcher в сообщении #1728203 писал(а):

В предпосылке, что AGI появится в ближайшие годы?

В предпосылке, что его появление повлечет именно такие последствия с такими значениями переменных.

MoonWatcher в сообщении #1728203 писал(а):

Сейчас, в эпоху бурного развития технологий

А с чего Вы решили, что мы живем в эпоху бурного развития технологий? Количественные метрики создаваемых технологий и инноваций по всем областям в целом достигли пика в 1950-70ые и идут с тех пор вниз, хотя и медленно - скорее это похоже на стагнацию, чем на сильный спад.

MoonWatcher в сообщении #1728203 писал(а):

Я правда не понимаю о каких сотых и десятых долях прироста ВВП за счет ИИ может идти речь, если в мире начнет быстро размножаться быстро умнеющая и быстро дешевеющая рабочая сила?

Хотя бы потому что такое "размножение рабочей силы" может дать совсем другие экономические последствия - тут нам как раз история с колл-центрами передает привет.

MoonWatcher в сообщении #1728203 писал(а):

но ими можно заткнуть любое объяснение

Можно. Но если моделей нет, то непонятно, что мы можем по экономике в принципе обсуждать. Тексты могут обсуждаться, например, в теоретико-нормативной части юриспруденции в силу специфики предмета этой области науки, но экономика - вполне эмпирическая наука с хорошим математическим аппаратом. И уж если речь идет о прогнозе с количественными метриками, то нужна и количественная методология. Ну или обратиться к прогнозам, основанным на качественной методологии (но там свои будут ограничения и проблемы).

MoonWatcher в сообщении #1728203 писал(а):

в ближайшие годы могут появиться стартапы из одного человека, на которого трудятся десятки, сотни, тысячи ИИ-агентов

Ну когда появятся и мы сможем оценить экономическую отдачу от этого, то тогда прогноз и перейдет в разряд реалистичного. А пока это в лучшем случае аналитический прогноз с непонятной для меня лично методологией. Например, авторы прогноза при помощи какой-нибудь модели или данных объясняют, почему темпы экономического роста будут именно 50%, а не 40% или 65%? Если нет, то я не уверен, что это даже аналитическим прогнозом можно считать. Современное прогнозирование - это серьезная научно обоснованная деятельность.

MoonWatcher в сообщении #1728203 писал(а):

Я выше давал ссылку и спрашивал ваше мнение об этом анализе.

Плохое у меня мнение - там ни модели четкой, ни методологии нет. Поэтому на статус научно обоснованного прогноза и не тянет он в таком виде. Возможна методология есть где-то или ее можно запросить у авторов? Если таковая будет у нас на руках, то будет что обсуждать. Пока вся методология авторов заключается в нескольких красивых цифрах по ИИ, графике и массе странных с экономической точки зрения утверждениях, некоторые из которых я чуть выше разобрал.

[worm2]

MoonWatcher в сообщении #1728203 писал(а):

роботов, которые уже сейчас демонстрируют превосходную крупную и мелкую моторику - им не хватает именно автономности, то есть интеллекта.

Мелкую моторику я бы здесь не стал противопоставлять интеллекту, а наоборот, объединил бы это всё в одно понятие "низкоуровневые сенсомоторные операции" (НСМ). НСМ — это то, что согласно парадоксу Моравека (которому скоро полвека), требует огромных вычислительных ресурсов по сравнению с интеллектуальными рассуждениями. Поясню, что я имею в виду: представим, что робот физически взял утюг, включил его в сеть (даже это уже может вызвать некоторые проблемы), взял рубашку и хорошо её выгладил. Не выстирал (это крупная моторика, с которой роботы под названием "стиральная машина" прекрасно справляются уже сто лет), а именно выгладил, то есть тут нужно хорошо видеть, хорошо осязать и хорошо выполнять мелкие точные операции.
В этой области, конечно, тоже имеется большой прогресс (автопилоты неплохо водят автомобили и т.п.), но он совсем скромный по сравнению с тем, что хотелось бы, и по сравнению с тем, что происходит в современных LLM. Прогресс в LLM (то есть в обработке текстовой информации) — он совсем в другую сторону прогресс, для НСМ почти совсем бесполезный. Развивать НСМ нужно совсем другими методами, и не видно, как бы это развитие ускорить так, как ускорили прогресс в LLM какие-нибудь трансформеры. Сюда тоже вкладываются, но недостаточно. Нужно вкладывать гораздо больше, и боюсь, как бы не больше, чем уже вложено в LLM. Без гарантии результата.

[MoonWatcher]

Ghost_of_past в сообщении #1728204 писал(а):

Это не означает, что услуги колл-центров с такими AGI-агентами будут более востребованы, чем услуги с работниками-людьми. Вы делаете упор только на технологичность, но забываете о потребителях и их желаниях/болях. И вот массовая боль потребителей сейчас - нежелание общаться с голосовыми роботами (с ИИ или без) и нет гарантий, что это желание появится даже при появлении AGI.

Человеку с проблемой не до антропного шовинизма - лишь бы решили его проблему. Когда мне надо было поднять прокси-сервер с древнего Мака, человеческая техподдержка по-человечески чутко только разводила руками, и я решил свою проблему именно с бездушным чат-ботом. Да и не отличите вы разницу с человеком - поговорите с тем же GPT‑Live - при том, что это не AGI. С голосовыми ботами не хотят общаться (во всяком случае в России) потому, что они тупые как пробка. ИИ, но примерно 10-летней давности, по моим ощущениям. Все равно, что 1000-летней...

Ghost_of_past в сообщении #1728204 писал(а):

В указанных в прогнозе значениях, вроде снижения доли рабочей силы от численности населения в 5 раз или росте ВВП на 50% в год - не видно, как именно методологически получены эти значения. А в отрыве от методологии в сравнении с другими прогнозами они выглядят как фантастика. Ну или аналитический прогноз, имеющий слабое отношение к реальной экономике.

А что сомнительного в 5-кратном снижении доли рабочей силы - в случае появления человекоподобного ИИ, его последующего удешевления и масштабирования?

Ghost_of_past в сообщении #1728204 писал(а):

А с чего Вы решили, что мы живем в эпоху бурного развития технологий? Количественные метрики создаваемых технологий и инноваций по всем областям в целом достигли пика в 1950-70ые и идут с тех пор вниз, хотя и медленно - скорее это похоже на стагнацию, чем на сильный спад.

А в 1950-1970е наверное считали пиком начало 20 века (ОТО, квантовая механика) и 1940е (атомная бомба и Фау-2)... О каких количественных метриках идет речь - количестве запатентованных изобретений? Подозреваю, что их стало намного больше - но здесь интереснее качественные метрики, а откуда их взять? Наша жизнь с 1970х годов радикально переменилась - и прежде всего благодаря технологиям. В 1950е у людей было радио, в 1970е - телевидение, а сейчас у них есть компьютеры (в т.ч. карманные) и Интернет. И лично в моем восприятии переход от газет к радио, а от радио - к телевидению, был менее радикальным с точки зрения социальных последствий, чем переход от телевидения к Интернету. И подозреваю (и это не только моя точка зрения), что переход к ИИ сулит еще более радикальные социальные последствия.

Ghost_of_past в сообщении #1728204 писал(а):

Хотя бы потому что такое "размножение рабочей силы" может дать совсем другие экономические последствия - тут нам как раз история с колл-центрами передает привет.

Пример неудачный, я считаю - см. выше. Я бы хотел остановиться на этом вопросе подробнее, он явно ключевой в контексте обсуждаемого прогноза.

[Anton_Peplov]

worm2 в сообщении #1728205 писал(а):

Мелкую моторику я бы здесь не стал противопоставлять интеллекту, а наоборот, объединил бы это всё в одно понятие "низкоуровневые сенсомоторные операции" (НСМ). НСМ — это то, что согласно парадоксу Моравека (которому скоро полвека), требует огромных вычислительных ресурсов по сравнению с интеллектуальными рассуждениями.

Я уже не раз говорил это на форуме, но повторю еще раз. Около 80% нейронов человеческого мозга приходятся на мозжечок, главная функция которого - координация движений, их планирование и моторная память. Вдумайтесь в эти цифры. Каждые четыре из пяти нейронов нашего мозга, которым мы так гордимся, нужны, чтобы управлять движениями. Не рассуждать, не понимать язык, не писать великие симфонии или не менее великие уравнения. Управлять движениями. А ведь сам мозжечок отправляет мало сигналов мышцам. В основном он сообщает результаты своих вычислений моторной коре, а она их в свою очередь обрабатывает и формулирует окончательный приказ мышцам. И это только моторное "плечо" сенсомоторного аппарата. Есть еще сенсорное.

[Ghost_of_past]

MoonWatcher в сообщении #1728207 писал(а):

Человеку с проблемой не до антропного шовинизма

А практика показывает совсем иное: на репрезентативных выборках в онлайн-опросах респонденты очень негативно высказываются о голосовых ботах. В том числе в опросах, которые я делал на панелях своими собственными руками, но я работаю только по панели Бельгии и Люксембурга, потому что занят в бельгийском офисе, но аналогичные опросы делают и другие офисы - а их у нас под сотню и охватывают они примерно 180+ стран и территорий. Исключений нет, негатив потребителей к голосовым ботам во всех странах и по всем товарным и продуктовым рынкам, разнится только уровень негатива и общий CSI - где-то это будет условно 1,9 из 10, а где-то - 3,5 из 10, но показатели везде плохие.

MoonWatcher в сообщении #1728207 писал(а):

А что сомнительного в 5-кратном снижении доли рабочей силы

В том, что ничего подобного никогда не было с экономической точки зрения. Extraordinary claims require extraordinary evidence (с)

Вообще возможность построения пост-трудовой экономики и пост-трудового общества - это очень спорная и дискуссионная тема. Непонятно до конца, осуществимо ли такое в принципе. Вероятность этого не нулевая безусловно, но пока как реалистичный сценарий это не выглядит на ближайшие годы - тут уже от МВФ мы переход к МОТ.

MoonWatcher в сообщении #1728207 писал(а):

А в 1950-1970е наверное считали пиком начало 20 века

Речь не про то, кто и что считает субъективно, а про конкретные оценки, которые имеются. Все легко гуглится через Google Scholar: есть подробно и про то, какие метрики анализируются и какие проблемы есть со сбором и обобщением данных. Примерно 50 лет как НТР тормозится. Конечно прогресс не остановится полностью в будущем, но в целом ничто в окружающем мире и не указывало, что период сверхбыстрой НТР будет вечным - доступные и легко создаваемые инновации просто банально исчерпываются, а последующие инновации требуют всё больших вложений. Может ли тенденция переломиться? Наверное, да, но пока на это ничего не указывает.

MoonWatcher в сообщении #1728207 писал(а):

Пример неудачный

Почему же? Как раз очень удачный: технологии есть? Есть. Могли ли они гипотетически высвободить большое количество рабочей силы из колл-центров, сэкономить человеческий труд и дать большую экономическую отдачу? Могли и даже на какой-то небольшой промежуток начали широко внедряться. А теперь наступило разочарование сперва со стороны потребителей, а теперь и со стороны компаний и очень широко всё приходится откатывать обратно.

Так что мое замечание к этому прогнозу именно про это: я не критикую сейчас саму посылку о возможности создания AGI в ближайшие годы, лишь указываю на то, что из прогноза совершенно непонятно, почему экономические последствия будут именно такими.

[Dedekind]

Ghost_of_past in post #1728210 писал(а):

А практика показывает совсем иное: на репрезентативных выборках в онлайн-опросах респонденты очень негативно высказываются о голосовых ботах. В том числе в опросах, которые я делал на панелях своими собственными руками, но я работаю только по панели Бельгии и Люксембурга, потому что занят в бельгийском офисе, но аналогичные опросы делают и другие офисы - а их у нас под сотню и охватывают они примерно 180+ стран и территорий. Исключений нет, негатив потребителей к голосовым ботам во всех странах и по всем товарным и продуктовым рынкам, разнится только уровень негатива и общий CSI - где-то это будет условно 1,9 из 10, а где-то - 3,5 из 10, но показатели везде плохие.

А причину своего негативного отношения они указывают?

[Mikhail_K]

Ghost_of_past в сообщении #1728210 писал(а):

А практика показывает совсем иное: на репрезентативных выборках в онлайн-опросах респонденты очень негативно высказываются о голосовых ботах.

Ну мне тоже очень не нравятся голосовые боты - но только потому, что они, как правило, глупые и не понимающие. Были бы уровня ChatGPT (нынешнего, а вовсе не будущего), с удовольствием бы стал с ними общаться. В конце концов, в решении технических проблем с работой каких-нибудь программ ChatGPT точно кажется мне полезнее человеческих консультаций уже сейчас.

[Ghost_of_past]

Dedekind в сообщении #1728211 писал(а):

А причину своего негативного отношения они указывают?

Да, конечно, менеджер по исследованиям при разработке анкеты онлайн-опроса обязательно делает такие вопросы - либо закрытым перечнем, либо открытые, если позволяет бюджет (открытые вопросы всегда сильно дороже, потому что их тяжелее обрабатывать дата-специалистам/проверять после автоматической обработки системой).

Обычно очень стандартные причины:
- боты заточены только на простые и шаблонные сценарии,и отсюда плохо реагируют на индивидуальные проблемы с которыми приходят клиенты,
- боты заточены на ключевые слова, а без них начинают сильно тупить и гоняют клиентов по циклу общения,
- очень тяжело достучаться до живого общения, люди ругаются и возмущаются из-за этого,
- галлюцинации у ИИ-ботов,
- если бот текстовый, а не голосовой, то они часто улавливают только простые и короткие просьбы (это опять к аргументу про то, что они тупят),
- фальшивая человечность и неестественная псевдоэмоциональность (это явно что-то похожее на эффект зловещей долины),
- боты не несут никакой ответственности.

Это такие самые частые причины, из тех что называют.

Mikhail_K в сообщении #1728212 писал(а):

Были бы уровня ChatGPT (нынешнего, а вовсе не будущего), с удовольствием бы стал с ними общаться. В конце концов, в решении технических проблем с работой каких-нибудь программ ChatGPT точно кажется мне полезнее человеческих консультаций уже сейчас.

С ИИ-ботами самые частые жалобы - галлюцинации и псевдоэмоциональность.

[mihaild]

Ghost_of_past в сообщении #1728213 писал(а):

С ИИ-ботами самые частые жалобы - галлюцинации и псевдоэмоциональность

А есть ли сравнение отношения к ботам поверх чего-то уровня хотя бы нынешних chatgpt/gemini и марковских цепей пятилетней давности?

[Ghost_of_past]

mihaild в сообщении #1728214 писал(а):

А есть ли сравнение отношения к ботам поверх чего-то уровня хотя бы нынешних chatgpt/gemini и марковских цепей пятилетней давности?

В продуктовых исследованиях есть, в маркетинговых нет - среднестатистические потребители в этом не разбираются. Но у продуктовых исследований и фокус чаще на B2B-продуктах или опросе профессионального сообщества - в принципе онлайн-панели позволяют опрашивать даже достаточно узкие группы в пределах стандартных репрезентативных выборок в 200-300 человек, если размер панели хороший (100к панелистов и больше). В Бельгии и Люксембурге панель своя и партнерские панели для полевых работ не очень большие суммарно (230к пользователей), но по миру суммарно у Ipsos всего около 80 миллионов панелистов, у наших основных конкурентов (GfK, Nielsen, Kantar/ORO, IQVIA, Circana/IRI, Gartner) у всех пересекающиеся панели за счет партнеров в разных странах и суммарно от 30 до 100 миллионов панелистов по миру у каждого. Короче говоря, на большой панели такое продуктовое исследование спокойно можно провести. Дальше зависит от конкретного исследования и запроса.

[MoonWatcher]

Ghost_of_past в сообщении #1728210 писал(а):

А практика показывает совсем иное: на репрезентативных выборках в онлайн-опросах респонденты очень негативно высказываются о голосовых ботах. В том числе в опросах, которые я делал на панелях своими собственными руками, но я работаю только по панели Бельгии и Люксембурга, потому что занят в бельгийском офисе, но аналогичные опросы делают и другие офисы - а их у нас под сотню и охватывают они примерно 180+ стран и территорий. Исключений нет, негатив потребителей к голосовым ботам во всех странах и по всем товарным и продуктовым рынкам, разнится только уровень негатива и общий CSI - где-то это будет условно 1,9 из 10, а где-то - 3,5 из 10, но показатели везде плохие.

Современные боты - это уровень ниже плинтуса, во всяком случае в России. Подозреваю, что в Бельгии они немногим лучше - именно это и показывают ваши опросы. Более-менее нормальный языковой бот в режиме реального времени продемонстрировали буквально на днях, GPT‑Live. А я говорил и вовсе об AGI - ИИ, который заведомо неотличим от человека (разве только тем, что гораздо компетентнее).

Ghost_of_past в сообщении #1728210 писал(а):

В том, что ничего подобного никогда не было с экономической точки зрения. Extraordinary claims require extraordinary evidence (с)

Вся мировая история представляет собой последовательность событий, которых никогда раньше не было. Когда-то единственной ценностью была дикая природа (охота, собирательство), потом ценные ресурсы пополнились сельским хозяйством, потом промышленностью - и наконец мы вступили в цифровую экономику. Этот факт не только не запрещает делает смелые прогнозы, но напротив - обязывает к ним. В любом случае прогноз на будущее невозможен без определенной предпосылки, и в данном случае такой предпосылкой является AGI. Я не приведу вам никаких исследований (такие опросы экспертов есть, просто лень гуглить), но вряд ли ошибусь, что условная вероятность появления AGI в ближайшие годы выглядит так: к 2030 - 50%, к 2035 - 75%, к 2045 - 90%... Можно сколько угодно спорить о конкретных сроках, но появление ИИ уровня человека в ближайшие 5-20 лет представляется очень вероятным событием - почему бы не строить на нем свой прогноз?

Ghost_of_past в сообщении #1728210 писал(а):

Вообще возможность построения пост-трудовой экономики и пост-трудового общества - это очень спорная и дискуссионная тема. Непонятно до конца, осуществимо ли такое в принципе. Вероятность этого не нулевая безусловно, но пока как реалистичный сценарий это не выглядит на ближайшие годы - тут уже от МВФ мы переход к МОТ.

Не очень понял что спорно - сама экономика или ее прогнозирование? Если речь о прогнозировании, то да, конечно. Но этому и посвящена тема. Я призываю в этой теме рассуждать и фантазировать - отсылки к готовым исследованиям конечно интересны, но необязательны.

Ghost_of_past в сообщении #1728210 писал(а):

Речь не про то, кто и что считает субъективно, а про конкретные оценки, которые имеются. Все легко гуглится через Google Scholar: есть подробно и про то, какие метрики анализируются и какие проблемы есть со сбором и обобщением данных. Примерно 50 лет как НТР тормозится. Конечно прогресс не остановится полностью в будущем, но в целом ничто в окружающем мире и не указывало, что период сверхбыстрой НТР будет вечным - доступные и легко создаваемые инновации просто банально исчерпываются, а последующие инновации требуют всё больших вложений. Может ли тенденция переломиться? Наверное, да, но пока на это ничего не указывает.

Оценки имеются, но реальное или мнимое снижение темпов НТР не отменяет того факта, что мы живем в эпоху стремительного научно-технического развития и оказываемого им эффекта на наш образ и уровень жизни. НТР эпохи 1950-1970х имеют бледный вид перед великими открытиями Кеплера и Ньютона в 17 в., Максвелла и Дарвина в 19 в. - но это не отменяет более скорых социальных изменений во второй половине 20 в., в результате накопительного эффекта и прочих факторов. Открытия Ньютона мало изменили образ жизни его современников - чего нельзя сказать о современных технологиях, вроде Интернета. А теперь мы возможно в шаге от нескольких технологий, которые возымеют самые революционные социальные изменения за всю историю человечества. И совсем необязательно, чтобы революционные для нашего образа жизни технологии появились в результате каких-то научных прорывов. Во всяком случае в ИИ переход от тупых бредогенераторов 15-летней давности до нынешних агентов, решающих открытые математические проблемы, оказался очень плавным и почти незаметным. Я вполне допускаю, что на стыке ИИ, квантовых компьютеров, генетики и нейрофизиологии родятся очередные революционные технологии с огромным социальным эффектом - даже если по отдельности в этих направлениях не произойдет никаких прорывов. Да и научные прорывы не исключены, несмотря на исчерпание эффекта низко висящих фруктов - AGI/ASI это еще и потенциальные миллионы круглосуточно трудящихся ИИ-ученых.

Ghost_of_past в сообщении #1728210 писал(а):

Почему же? Как раз очень удачный: технологии есть? Есть. Могли ли они гипотетически высвободить большое количество рабочей силы из колл-центров, сэкономить человеческий труд и дать большую экономическую отдачу? Могли и даже на какой-то небольшой промежуток начали широко внедряться. А теперь наступило разочарование сперва со стороны потребителей, а теперь и со стороны компаний и очень широко всё приходится откатывать обратно.

Так что мое замечание к этому прогнозу именно про это: я не критикую сейчас саму посылку о возможности создания AGI в ближайшие годы, лишь указываю на то, что из прогноза совершенно непонятно, почему экономические последствия будут именно такими.

Вы не думаете, что подменяете реальную причину интеллектуального убожества этих ботов мнимой причиной антропного шовинизма пользователей? В этом смысле я считаю ваш пример неудачным. И пока мне никаких фантазий не хватает вообразить безумных пользователей, которые в условном 2035 году каким-то чудом распознают в своем собеседнике бота, откажутся решать с ними свою проблему и будут настаивать, чтобы их соединили (ну скажем, минут через двадцать) с человеком. Если таковой вообще имеется в этом сервисе... Это не значит, что технологии решают все - допускаю, что нет. Но я хотел бы более убедительных примеров.

Например, я никогда не понимал, что плохого в оснащении ИИ боевых роботов. Я как гражданский или солдат однозначно предпочел бы иметь дело с роботом. Потому что робот меня, гражданского, не атакует при эвакуации из города. Потому что робот меня, военного, постарается по возможности не убить, а ранить - это причинит моей армии еще больший урон, поскольку потребует моей эвакуации, лечения и т.д. А взяв в плен, робот не будет, пардон, кастрировать меня канцелярским ножом, отрезать уши и т.д. Я это к тому, что никакого пиетета к людям я как пользователь не питаю, и вовсе не горю желанием, чтобы моих детей в школе человечно материла толстожопая Мариванна, а не бездушно учил и воспитывал робот. Для меня жаждать взаимодействия с человеком в деловых вопросах (учеба, работа и т.д.) такая же нелепица, как непременная жажда шелеста бумажных страниц при чтении книги или прослушивания музыки на виниле под аккомпанемент звуков скворчащей на сковородке яичницы. Допускаю, что я в этом отношении не вполне типичен, но рациональное все равно возьмет вверх. ИИ - это рационально.

Разумеется, речь идет о правильном, действительно умном ИИ. К этой категории не относится ни современный ИИ-оператор, ни современный военный робот. Говоря об AGI, мы должны, вслед за авторами того исследования, подразумевать по-настоящему умный ИИ человеческого уровня, а не ИИ, который кто-то обозвал AGI по маркетинговым соображениям.

[Ghost_of_past]

MoonWatcher в сообщении #1728230 писал(а):

Современные боты - это уровень ниже плинтуса

Ниже или выше - это субъективная оценка, а опросы по всему миру на репрезентативных выборках объективны и говорят сами за себя. Мне как исследователю-аналитику, честно говоря, без разницы нравятся или не нравятся в конечном итоге потребителям те или иные продукты, в том числе голосовые боты. Моя задача запустить через полевой отдел и QA исследование, отследить его качество (по квотам и статистическим тестам собираемых данных), выгрузить и обобщить данные, сделать аналитику и презу, передав результаты клиенту. И клиенты почему-то в ответ на такие исследования и массовые жалобы людей возвращают колл-центры обратно, хотя я помню, как несколько лет назад, колл-центры уже практически похоронили, говоря что операторы там - исчезающая профессия. Ну примерно также, как ранее хоронили и профессию бухгалтера. Но практика показывает, что колл-центры и бухгалтеры живее всех живых.

MoonWatcher в сообщении #1728230 писал(а):

Подозреваю, что в Бельгии они немногим лучше

Они везде никакие, тут от страны мало что зависит.

MoonWatcher в сообщении #1728230 писал(а):

А я говорил и вовсе об AGI - ИИ, который заведомо неотличим от человека

Простите, но нет: AGI по определению способен выполнять те же интеллектуальные задачи, что человек, но он не будет "заведомо неотличим от человека", особенно в вопросах эмоциональности, так что как минимум одна боль потребителей уходить не собирается и с появлением AGI.

MoonWatcher в сообщении #1728230 писал(а):

Этот факт не только не запрещает делает смелые прогнозы, но напротив - обязывает к ним.

Тогда это даже не аналитические прогнозы, а просто вольное художественное фантазирование. С таким же успехом я могу начать делать "прогнозы", что Луна таки превратится в шарик чеддера, т.к. ИИ, превосходящий человека, в каком-нибудь 204... году создаст универсальных нанороботов, которые превратят Луну в сыр. От прогнозов про 50% экономический рост в год и исчезновение человеческой занятости мой "прогноз" при этом отличается разве что чуть большей вольностью, но и то, и другое конечно никакие не прогнозы, а то самое художественное фантазирование.

MoonWatcher в сообщении #1728230 писал(а):

почему бы не строить на нем свой прогноз?

Я повторюсь: проблема не в предпосылке создания AGI. Проблема в том, что это вообще никакой не прогноз, если говорить строго, а просто фантазирование, в рамках которого некоторым довольно рандомным образом задаются якобы следствия этой предпосылки, но которые при этом ничем реально серьезным не обоснованы.

MoonWatcher в сообщении #1728230 писал(а):

Не очень понял что спорно - сама экономика или ее прогнозирование?

Спорна сама возможность объективного существования пост-трудовой экономики.

MoonWatcher в сообщении #1728230 писал(а):

НТР эпохи 1950-1970х имеют бледный вид перед великими открытиями Кеплера и Ньютона в 17 в., Максвелла и Дарвина в 19 в

Опять субъективные оценки, Вы же это понимаете? На вкус и цвет товарищей нет, а количественные характеристики метрик НТР - вещь объективная, хоть и измеряемая с погрешностями и ограничениями.

MoonWatcher в сообщении #1728230 писал(а):

Я вполне допускаю, что на стыке ИИ, квантовых компьютеров, генетики и нейрофизиологии родятся очередные революционные технологии с огромным социальным эффектом

Ощущение такое, будто и историю с клонированием Вы тоже не заметили. Я вынужден опять обратить Ваше внимание на то, что появление технологии не означает автоматом, что сбудутся какие-то очень сомнительные и необоснованные "прогнозы", и даже что эти технологии никто не ограничит.

MoonWatcher в сообщении #1728230 писал(а):

Вы не думаете, что подменяете реальную причину интеллектуального убожества этих ботов

Вам были приведены реальные примеры технологий, про которые тоже говорили, что они радикально и бесповоротно изменят определенные области жизни (например, колл-центры, бухгалтерию или био- и медицинские технологии в случае с клонированием). Но не случилось. И это как раз прекрасные примерны того, что технологии создать удалось, но социальные и экономические эффекты от них оказались вот вообще не такими, как некоторые фантазировали.

MoonWatcher в сообщении #1728230 писал(а):

Потому что робот меня, гражданского, не атакует при эвакуации из города.

Опять возвращаемся к Луне из чеддера и кисельным берегам, а в реальности потом получается как-то так. Потому что живем мы в реальном мире со всеми его бесчисленными ограничениями и проблемами, а не в идеальном мире сферического транс- и постгуманизма.

[ozheredov]

MoonWatcher в сообщении #1728230 писал(а):

вряд ли ошибусь, что условная вероятность появления AGI в ближайшие годы выглядит так

MoonWatcher в сообщении #1728230 писал(а):

Вся мировая история представляет собой последовательность событий, которых никогда раньше не было.

Вы даже не замечаете, что противоречите сами себе.

MoonWatcher в сообщении #1728230 писал(а):

Я вполне допускаю, что на стыке ИИ, квантовых компьютеров, генетики и нейрофизиологии

Я бы на вашем месте прежде всего допускал, что ни черта не понимаю ни в первом, ни во втором, ни в третьим, ни в четвертом.

MoonWatcher в сообщении #1728230 писал(а):

я никогда не понимал, что плохого в оснащении ИИ боевых роботов. Я как гражданский или солдат однозначно предпочел бы иметь дело с роботом. Потому что робот меня, гражданского, не атакует при эвакуации из города. Потому что робот меня, военного, постарается по возможности не убить, а ранить - это причинит моей армии еще больший урон, поскольку потребует моей эвакуации, лечения и т.д. А взяв в плен, робот не будет, пардон, кастрировать меня канцелярским ножом, отрезать уши и т.д.

Деморализация причинит вашей армии ещё больший урон. Поэтому создание горы изуродованных трупов гражданских на пути продвижения вашей армии вполне может быть оптимальной стратегией, до которой догадается AGI. А люди, которые могли бы теоретически проявить милосердие даже в ущерб боевой задаче, будут отстранены от принятия решений. Всё как вы хотели.

MoonWatcher в сообщении #1728230 писал(а):

Потому что робот меня, военного, постарается по возможности не убить, а ранить - это причинит моей армии еще больший урон, поскольку потребует моей эвакуации, лечения и т.д.

Согласен.

MoonWatcher в сообщении #1728230 писал(а):

А взяв в плен, робот не будет, пардон, кастрировать меня канцелярским ножом, отрезать уши и т.д.

Опять сами себе противоречите. Вы будете визжать гораздо громче, если робот будет, пардон, кастрировать вас канцелярским ножом, отрезать уши и т.д. Потому что так вы будете отвлекать и деморализовывать не только фельдшера (или как он там называется), но и всех солдат и командиров в радиусе пол-километра. Причем робот умный и знает физиологию лучше, чем среднестатистический военный: он будет пытать вас так, что, пардон, кастрирование канцелярским ножом и отрезание ушей покажется вам эротическим массажем.

MoonWatcher в сообщении #1728230 писал(а):

Я это к тому, что никакого пиетета к людям я как пользователь не питаю

Они к вам - тоже.

[Cuprum2020]

MoonWatcher в сообщении #1728203 писал(а):

в ближайшие годы могут появиться стартапы из одного человека, на которого трудятся десятки, сотни, тысячи ИИ-агентов

Как бы мне вот прям сейчас обзавестись всего одним агентом который за месяц работы хотя бы на оплату мною подписки на LLM-модель сможет заработать?

-- добавлено через 10 минут --

MoonWatcher в сообщении #1728230 писал(а):

Потому что робот меня, гражданского, не атакует при эвакуации из города. Потому что робот меня, военного, постарается по возможности не убить, а ранить - это причинит моей армии еще больший урон, поскольку потребует моей эвакуации, лечения и т.д. А взяв в плен, робот не будет, пардон, кастрировать меня канцелярским ножом, отрезать уши и т.д.

Это смотря как робота обучить. Гипотетически даже предположим что именно вот так как Вы и написали: "ранить - это причинит моей армии еще больший урон, поскольку потребует моей эвакуации, лечения" Допустим роботы безупречно и сверхчеловечно научатся превращать солдат в "самовары" Сильно ли Вас обрадует перспектива столкнутся с подобного рода роботами?