Социальные и прочие последствия от появления AGI и ASI

[Alex-Yu]

Mikhail_K в сообщении #1729100 писал(а):

Дело в том, что ИИ - это самое захватывающее достижение человечества на данный момент

Это верно. Только надо добавить: и самое омерзительное достижение человечества. И самое опасное, намного опаснее ядерного оружия (во всяком случае это вполне вероятно). При этом омерзительное даже безотносительно к опасности, даже если безопасно, что вряд ли, то тоже омерзительное. И при этом в мире наблюдается полнейшее безобразие: банальную винтовку, да что там винтовку, пистолет кто попало не купит. А доступ к ИИ -- пожалуйста любому, в т.ч. любому маньяку (во всяком случае таким маньякам как Маск, Тиль и им подобным). Человечество сошло с ума. Впрочем, а было ли оно когда-нибудь разумно, просто неразумность в какой-то мере компенсировалось ограниченными возможностями. Нельзя этим недоумкам давать столь сильнодействующие (почти то же самое, что захватывающие) средства. Но они, эти средства, появились, и этого "джина" назад в бутылку не загонишь. Как говорится, "все, сливайте воду".

[Klein]

Alex-Yu в сообщении #1729204 писал(а):

Mikhail_K в сообщении #1729100 писал(а):

Дело в том, что ИИ - это самое захватывающее достижение человечества на данный момент

Это верно. Только надо добавить: и самое омерзительное достижение человечества. И самое опасное, намного опаснее ядерного оружия (во всяком случае это вполне вероятно). При этом омерзительное даже безотносительно к опасности, даже если безопасно, что вряд ли, то тоже омерзительное. И при этом в мире наблюдается полнейшее безобразие: банальную винтовку, да что там винтовку, пистолет кто попало не купит. А доступ к ИИ -- пожалуйста любому, в т.ч. любому маньяку (во всяком случае таким маньякам как Маск, Тиль и им подобным). Человечество сошло с ума. Впрочем, а было ли оно когда-нибудь разумно, просто неразумность в какой-то мере компенсировалось ограниченными возможностями. Нельзя этим недоумкам давать столь сильнодействующие (почти то же самое, что захватывающие) средства. Но они, эти средства, появились, и этого "джина" назад в бутылку не загонишь. Как говорится, "все, сливайте воду".

Не согласен.
Каким было человечество, таким оно и осталось. Каким был прогресс, сопровождавший развитие человечества, таким он, по сути, и остается. Это вы с возрастом меняетесь, и вместе с вами меняется ваше восприятие происходящих вокруг перемен.
До вас люди реагировали на изменения примерно так же. Дети воспринимали все новое как должное, молодежь - с интересом, а представители старшего поколения - с подозрением, недоверием, неприятием и отвращением.

[MoonWatcher]

Klein в сообщении #1729207 писал(а):

Каким было человечество, таким оно и осталось.

Кое что изменилось. В старину правящие элиты было, как правило, умнее тех, кем они управляли - благодаря специальному воспитанию и образованию, которое было элитарным. Это не мешало им творить глупости, но эти глупости не были так очевидны подданным. Сейчас глупости власть имущих раздражают средний класс куда сильнее - что создает предпосылки для общественного запроса на ИИ-правление.

[Alex-Yu]

Klein в сообщении #1729207 писал(а):

Каким был прогресс, сопровождавший развитие человечества, таким он, по сути, и остается

Нет, кое-что поменялось. Причем поменялось радикально. И не вчера, а уже лет так 40 как. Раньше был прогресс именно человечества, людей. И он сопровождался прогрессом "железок". Но в последние десятилетия все поменялось: прогресс "железок" есть, а прогресса людей -- нету. Даже еще сильнее: люди регрессируют, причем именно благодаря прогрессу "железок" (в основном того, что называется айти). И нынешняя история с ИИ лишь только высшая точка этого процесса. И причина этого в стремлении лишить человека труда. Когда было стремление лишить человека тяжелого физического труда, это было еще ладно, была надежда (в общем-то не оправдавшаяся), что человек, избавленный от необходимости тяжелого физического труда, займется главной сущностью человека -- мышлением (оказалось ни фига, потреб...вом он займется в большинстве случаев, редкие исключения не меняют общей картины). Но сейчас мы видим стремление лишить человека необходимости мыслить. Т.е. лишить человека его человеческой сущности. И процесс этот не научный и не технический, а чисто социально-экономический. Проблема не в том плохой или хороший инструмент этот самый ИИ. Проблема в том, что это инструмент для достижения идиотских целей. И лучше бы он оказался плохим инструментом, что сильно сомнительно. Мерзость состоит как раз в том, что он хороший инструмент (ну может не сейчас еще, но будет).

В общем просматривается только три варианта: 1. Человечество сможет поставить под контроль всех этих иноватров-предпринимателей-креаклов, ограничить их кракловский зуд довольно медленными изменениями, такими, чтобы люди успевали прогрессировать существенно быстрее "железок". А некоторые виды "прогресса" вообще будут уничтожены. 2. Человечество просто погибнет. 3. Человечество превратится в стадо мерзких хрюкающих свиней-потребл...ей, что-то вроде элоев из "Машины времени" Уэлса. Что тоже по существу погибнет, это будут уже не люди.

И еще на эту же тему (но более "мягкое") от признанного специалиста как раз в айти: https://otr-online.ru/programmy/segodny ... 98234.html

-- добавлено через 3 минуты --

MoonWatcher в сообщении #1729208 писал(а):

Сейчас глупости власть имущих раздражают средний класс куда сильнее

Лично меня больше раздражает глупость так называемых предпринимателей. "Обезьяны с гранатой"... И было бы еще ладно, если бы всего лишь с гранатой, тут "граната" такая, что все человечество можно уничтожить... Глупость чиновников тоже, но к чиновникам я отношусь все же не столь отрицательно. Собственно глупость чиновников есть следствие идиотской идеи сделать предпринимателей ведущей социальной группой.

P.S. Сам по-себе ИИ -- очень интересный научный эксперимент. Действительно захватывающий. Но на кой черт надо это "внедрять" в жизнь!!! Причем "бежать впереди паровоза" с этим чертовым "внедрением"! Да и сильно ограниченные чисто научные эксперименты на эту тему должны производиться с предельной осторожностью, как и любые эксперименты с чем-то опасным (новыми вирусами там и т.п.). Например, М. Булгаков это понимал, читаем его "Роковые яйца".

[mihaild]

warlock66613 в сообщении #1729136 писал(а):

С ИИ или без, человечеству осталось недолго

Насколько недолго? По каким условиям Вы согласны ставить на апокалипсис по стандартной схеме - вы поулучаете деньги сейчас, но, если апокалипсис к назначенному сроку не происходит, то возвращаете больше? (эта схема нужна если Ваш прогноз включает какие-то обстоятельства, делающие деньги бессмысленными, иначе можно использовать обычную схему с оплатой по получению информации)

MoonWatcher в сообщении #1729144 писал(а):

а тот, развившись интеллектуально, понимает, что проблемы человечества лежат совсем в другой плоскости

Совершенно непонятно, как это можно понять.
Люди это "поняли" за счет кучи сложных довольно случайных социальных факторов.
Ну т.е. что ведьм не бывает, понять можно. А вот что из этого следует, что рыжих не надо сжигать на кострах, а не просто что их сжигать надо, просто без такого обоснования - понять нельзя.

Ghost_of_past в сообщении #1729153 писал(а):

Она будет nuclear gapped, если не от взрыва, так от сопутствующих электромагнитных последствий этих взрывов

Если системы управления ракетами (включая персонал) недостаточно изолированы, то никакого взрыва не будет.

Ghost_of_past в сообщении #1729153 писал(а):

Но у меня есть серьезные и обоснованные сомнения в полной технической реализации целого множества потенциальных технологий: не только полностью автоматизированной техносферы, но и тех же универсальных нанороботов. Ну или какой-нибудь машины времени.

Насколько я знаю, в физике есть довольно фундаментальные запреты, не дающие построить машину времени просто. А вот таких запретов на постройку универсальных самовоспроизводящихся систем быть не может (потому что такие системы уже есть). То, что люди - с экономическими и интеллектуальными ограничениями - не придумали, например, биороботов - очень слабое свидетельство в пользу их невозможности.
Ну и в целом, я могу предсказать, что даже Stockfish не сможет поставить мне мат одним королем без фигур. И вроде бы даже королем и конем. Это фундаментальное ограничение шахмат.
А вот сможет ли в данной позиции с тремя фигурами у каждой стороны Stockfish или хотя бы Карлсен поставить мне мат - сказать уже сложно. И то, что я не вижу, как именно они могут это сделать, почти ничего не говорит о том, могут ли.
(а когда мы начинаем с полным набором фигур - у меня, и даже у Карлсена, нет ни малейшего представления, как именно stockfish поставит мат, но нет и ни малейшего сомнения, что поставит)

Ghost_of_past в сообщении #1729153 писал(а):

Проблема дефицита информации о физических взаимодействиях и манипуляциях не решается за 10 лет.

[citation needed]
Именно на "не реашается", а не на "люди её за 10 лет не решат".

Ghost_of_past в сообщении #1729153 писал(а):

Не вижу однозначной доказательной базы у этого утверждения, а, на мой взгляд, оно очень сильное и в такой базе нуждается

А на мой взгляд оно очевидно. Условно какой процент массы Земли и солнечной энергии использует человечество? Что будет, если централизованная система, не упирающаяся в индивидуальные хотелки и ориентированная на какую-то цель, построит производственную инфраструктуру массой хотя бы 1% массы Земли? Я сильно сомневаюсь, что человечество переживет такие строительные работы, если они не будут вестись с его учетом.

Ghost_of_past в сообщении #1729153 писал(а):

При условии, что либо инфраструктурные ресурсы для этого есть только у одной ASI, либо она прибьет и всех потенциальных ASI, но это опять возвращает нас к тому, что это не про реализм, а про какой-то "Терминатор".

То, что какие-то элементы схожи с какой-то известной фантастикой, не делает всю ситуацию невозможной. У Юдковского вроде бы несколько текстов ровно про это было.

Ghost_of_past в сообщении #1729167 писал(а):

Убийство в окружающем мире если и совершается, то например из-за куда более практичного питания, а не с целью убить на всякий случай и из-за скрепок.

Животный мир тайги или например вырубленных амазонских лесов смотрит на Вас с легким недоумением.

Alex-Yu в сообщении #1729216 писал(а):

И не вчера, а уже лет так 40 как. Раньше был прогресс именно человечества, людей. И он сопровождался прогрессом "железок". Но в последние десятилетия все поменялось: прогресс "железок" есть, а прогресса людей -- нету.

Я довольно сильно уверен, что видел эти же рассуждения у кого-то из авторов 19 века. И подозреваю, что плюс-минус то же говорили с тех пор, как вообще задумались о том, что появляются новые изобретения.

[MoonWatcher]

Alex-Yu
Не понимаю вашего негативного настроя. Разве успехи ИИ в шахматах или го отучили людей думать над этими играми? С точностью до наоборот - профессиональным игрокам открылись новые горизонты, а армия любителей пополнилась новыми поклонниками этих игр. Не удивлюсь, если нечто подобное сейчас происходит и с математикой, биологией, нейрофизиологией, психологией и т.д. То же самое случилось и с физическими нагрузками - автоматизация физического труда не убила их и была восполнена спортом. Я уже не говорю про колоссальный образовательный ресурс ИИ - если человек хочет учиться, то ИИ в этом деле огромное подспорье. Убьет ли ИИ и полная автоматизация труда потребность в образовании? Уверен, что нет - множество людей уже сейчас получает образование в том, что им просто интересно. Когда ИИ займет все рабочие места, людям все равно придется себя чем-то занять - а для этого надо получить соответствующую подготовку или образование.

Трудовая повинность настолько въелась в наше сознание, что многие (включая вас) не мыслят мышление без работы. Одна из главных социальных миссий ИИ как раз в том и состоит, чтобы избавить сотни миллионов людей от необходимости ходить, ради удовлетворения своих потребностей, на ненавистную работу, и дать им свободу заниматься любимым делом. Я не настолько наивен, чтобы не понимать сопутствующих этому проблем и писал об этом в первом же сообщении. Но со временем, особенно если переход будет плавным, люди неизбежно привыкнут к своей свободе. Будут ли они сплошь заниматься наукой? Конечно нет. Но любой ученый - круглый дурак по сравнению с хорошим солдатом или охотником, на войне и на охоте соответственно. Если большинство людей будет не разбирать решение ИИ очередной научной проблемы, а воевать или охотиться в хорошем компьютерном симуляторе, то в этом нет ничего плохого - они будут учиться думать точно так же, как этому учились наши далекие предки.

[Alex-Yu]

MoonWatcher в сообщении #1729223 писал(а):

Разве успехи ИИ в шахматах или го отучили людей думать над этими играми? С точностью до наоборот - профессиональным игрокам открылись новые горизонты, а армия любителей пополнилась новыми поклонниками этих игр.

Это с полной ясностью демонстрирует, что Вы живете в придуманной реальности. Что же до работы, я вообще ничего не говорил про "ненавистную работу".

-- добавлено через 41 секунду --

MoonWatcher в сообщении #1729223 писал(а):

. Если большинство людей будет не разбирать решение ИИ очередной научной проблемы, а воевать или охотиться в хорошем компьютерном симуляторе, то в этом нет ничего плохого - они будут учиться думать точно так же, как этому учились наши далекие предки.

Верх наивности. Ладно, закончим на этом.

[MoonWatcher]

mihaild в сообщении #1729222 писал(а):

Совершенно непонятно, как это можно понять.
Люди это "поняли" за счет кучи сложных довольно случайных социальных факторов.
Ну т.е. что ведьм не бывает, понять можно. А вот что из этого следует, что рыжих не надо сжигать на кострах, а не просто что их сжигать надо, просто без такого обоснования - понять нельзя.

Не думаю, что люди перестали верить в порчу и прочие заговоры "за счет кучи сложных довольно случайных социальных факторов" - главную роль в этом сыграли наука и образование. Если бы ИИ 16 века, изначально обученный на тогдашних представлениях, развился интеллектуально и понял, что проблемы имеют другую причину, то возможно трансформировал бы и многие этические представления, на которых был обучен. Наше мировоззрение зачастую основано на ложных представлениях. Если исходить из того, что более осведомленный, относительно человечества, ИИ сформировал у себя другие представления, то и система ценностей, изначально заложенная в него при обучении, может поменяться.

[Ghost_of_past]

mihaild в сообщении #1729222 писал(а):

Если системы управления ракетами (включая персонал) недостаточно изолированы

Судя по отсутствию ядерной войны за последние 80 лет - достаточно, а то бы все случилось уже и без ИИ.

mihaild в сообщении #1729222 писал(а):

А вот таких запретов на постройку универсальных самовоспроизводящихся систем быть не может (потому что такие системы уже есть)

В количестве одна штука - на белково-нуклеиновой архитектуре. А вот можно ли создать другие для универсальных нанороботов на самом деле остается дискуссионным вопросом.

mihaild в сообщении #1729222 писал(а):

То, что люди - с экономическими и интеллектуальными ограничениями - не придумали, например, биороботов - очень слабое свидетельство в пользу их невозможности.

Как минимум это свидетельство того, что практически реализовать такую технологию тяжело: не машина времени конечно, но все-таки.

mihaild в сообщении #1729222 писал(а):

Именно на "не реашается", а не на "люди её за 10 лет не решат".

Именно, что не решается, так как для сбора корпусов текстов в Интернете и близко не надо затрачивать столько ресурсов. Для того, чтобы эту проблему решили через 10 лет, кто-то должен был начать оснащать всю техносферу и людей в ней датчиками и другими устройствами для считывания тех самых физических манипуляций несколько десятилетий назад.

mihaild в сообщении #1729222 писал(а):

Условно какой процент массы Земли

Примерно такой, что мы уже вызвали этим глобальное потепление и другие формы изменения климата.

mihaild в сообщении #1729222 писал(а):

Что будет, если централизованная система, не упирающаяся в индивидуальные хотелк

Это называется СССР. Закончилось, правда, не очень удачно.

mihaild в сообщении #1729222 писал(а):

построит производственную инфраструктуру массой хотя бы 1% массы Земли?

Если что, то масса всей земной коры чуть меньше 0,5% массы Земли, вы предлагаете техноинфраструктуру прямо из мантии и ядра Земли делать? Тогда давайте все-таки остановимся на варианте гибели человечества от ядерной войны: так у биосферы хотя бы будет шанс существовать после нашей гибели.

mihaild в сообщении #1729222 писал(а):

То, что какие-то элементы схожи с какой-то известной фантастикой, не делает всю ситуацию невозможной.

Не делает, вы правы. Ее делает если не фантастикой, то хотя бы чрезмерным упрощением то, что берется какой-то один-два фактора и доводятся до легкой абсурдности, начиная хотя бы с того, что предполагается почему-то только один ASI и без других ИИ, включая ASI, и человечество, действующее пассивно как единое целое. Подчеркну, что я не говорю о том, что ASI - абсолютно безопасен, любая технология несет риски и человечество гипотетически можно и ножами с топорами перебить. Я лишь говорю о том, что описанная ситуация - слишком упрощенный и неестественный кейс.

mihaild в сообщении #1729222 писал(а):

Животный мир тайги или например вырубленных амазонских лесов смотрит на Вас с легким недоумением.

Животный мир тайги и амазонских лесов большую часть истории человечества убивали именно для еды.

[mihaild]

Ghost_of_past в сообщении #1729170 писал(а):

что у нас с вами и другими участниками форума голова об этом болеть не должна. Она должна болеть у чиновников государств, политиков и сотрудников компаний-разработчиков ИИ

Я не понял, так должна у меня об этом голова болеть или нет?)

Ghost_of_past в сообщении #1729230 писал(а):

Судя по отсутствию ядерной войны за последние 80 лет - достаточно, а то бы все случилось уже и без ИИ

Достаточность зависит от способностей атакующего.

Ghost_of_past в сообщении #1729230 писал(а):

А вот можно ли создать другие для универсальных нанороботов на самом деле остается дискуссионным вопросом.

В общем-то требования делать на другой архитектуре и нет.
(радиоуправляемых тараканов уже люди сделали)

Ghost_of_past в сообщении #1729230 писал(а):

Это называется СССР. Закончилось, правда, не очень удачно

Если бы в СССР люди делали ровно то, что должны делать по мнению Госплана, а еще Госплан умел бы планировать получше, то закончилось бы иначе.

Ghost_of_past в сообщении #1729230 писал(а):

Тогда давайте все-таки остановимся на варианте гибели человечества от ядерной войны

Вы за меня или за медведя?
Не вижу, почему бы достаточно умному агенту не использовать магму, что она почем зря пропадает. Тут могут быть какие-то физические ограничения по скорости, с которой её можно доставать и охлаждать, но вряд ли они достаточны чтобы помешать быстрому строительству производства, не совместимому с биосферой.

Ghost_of_past в сообщении #1729230 писал(а):

что предполагается почему-то только один ASI и без других ИИ, включая ASI, и человечество, действующее пассивно как единое целое

Аргументы, почему ASI, вероятно, будет синглтоном - есть у того же Юдковского.
Предположений о реакции человечества вроде бы не делается.

Ghost_of_past в сообщении #1729230 писал(а):

Животный мир тайги и амазонских лесов большую часть истории человечества убивали именно для еды.

Надо перепроверить, но, подозреваю, за 20 и 21 век он пострадал гораздо больше, чем за всю предыдущю историю. А в это время основные задачи были как раз очень странные, с точки зрения животного мира - добыча чего-то непонятного вонючего из-под Земли, и какие-то странные манипуляции с деревьями. Причем самые ценные стволы, с кучей насекомых, люди почему-то бросают, а интересуются именно бесполезными целыми.

[Ghost_of_past]

mihaild в сообщении #1729233 писал(а):

Я не понял, так должна у меня об этом голова болеть или нет?)

Если вы CEO, то обязана.

mihaild в сообщении #1729233 писал(а):

Достаточность зависит от способностей атакующего.

И эти способности в любом случае будут не всемогущими, а от всех ракет всех государств дата-центры не защитить, да и обычно не строятся они с целью защиты от ядерного оружия или вообще ракетных ударов.

mihaild в сообщении #1729233 писал(а):

радиоуправляемых тараканов уже люди сделали

На универсальных нанороботов они как-то не тянут.

mihaild в сообщении #1729233 писал(а):

Если бы в СССР люди делали ровно то, что должны делать по мнению Госплана, а еще Госплан умел бы планировать получше, то

... мы бы жили в какой-то сильно другой реальности. Но зачем обсуждать эти альтернативные реальности? Прогнозировать потребности огромного множества экономических агентов одновременно от этого лучше не получится, потому что это надо в режиме живого времени за всеми людьми, компаниями, некоммерческими юридическими лицами, любыми объединениями людей, государственными и муниципальными органами следить, в том числе за бессознательными процессами в человеческих ЦНС, и никакой Госплан лучше работать тоже не сможет - у общественных институтов есть предел эффективности, начиная все с той же обратной связи и сбора статистических данных обо всех и всем. Описанная система - это просто очередная утопия.

mihaild в сообщении #1729233 писал(а):

Вы за меня или за медведя?

Я таки абстрактно, но если предлагается раскопать всю земную кору, то последствия для биосферы будут куда катастрофичнее, чем от любой глобальной ядерной войны.

mihaild в сообщении #1729233 писал(а):

Аргументы, почему ASI, вероятно, будет синглтоном - есть у того же Юдковского.

Есть и эти аргументы оспорены примерно 100500 специалистами в этой области, и вы это прекрасно знаете. Предлагаю не ходить кругами и не обсуждать то, чему и так посвящены горы страниц в литературе.

mihaild в сообщении #1729233 писал(а):

Надо перепроверить, но, подозреваю, за 20 и 21 век он пострадал гораздо больше

Скорее всего да, хотя можно вспомнить, что сделали охотники вкупе с изменениями климата с поздней плейстоценовой фауной, в том числе в районах прилегающих к нынешней тайге.

[mihaild]

Ghost_of_past в сообщении #1729244 писал(а):

На универсальных нанороботов они как-то не тянут

Люди на ASI тоже не тянут.

Ghost_of_past в сообщении #1729244 писал(а):

Прогнозировать потребности огромного множества экономических агентов одновременно от этого лучше не получится

Так я же сразу написал, что рассматривается singleton ASI, а не человеческая экономика.

Ghost_of_past в сообщении #1729244 писал(а):

Я таки абстрактно, но если предлагается раскопать всю земную кору, то последствия для биосферы будут куда катастрофичнее, чем от любой глобальной ядерной войны

Ага. Ну т.е. с утверждением

mihaild в сообщении #1729133 писал(а):

почти любые цели несовместимы с существованием человечества, если у преследующего их агента достаточно широкие возможности

Вы теперь согласны? Что для большинства целей для агента, способного раскопать всю земную кору, стоит это сделать, мне кажется очевидным.

Ghost_of_past в сообщении #1729244 писал(а):

Есть и эти аргументы оспорены примерно 100500 специалистами в этой области, и вы это прекрасно знаете

Убедительных для меня возражений я не знаю.

(Оффтоп)

А многие очень серьезные эксперты, которых я лично спрашивал, что они думают про сценарии Юдковского, отмахивались Лемом, что меня огорчает независимо от правоты.

Mikhail_K в сообщении #1729245 писал(а):

И LLM (во всяком случае, хорошие) об этом вполне в курсе.
Впрочем, если явно просить LLM об этом обо всём заботиться и следить, если что-то идёт не так - то наверняка будет ещё лучше.

Увы нет. Всё еще надо вычитывать код, и на самом деле даже более тщательно огораживать репозиторий от плохого стиля. Потому что там, где раньше было "ну ладно, тут слегка криво, но понятно, что это исключительный случай, и в данном случае сойдет", теперь модель посмотрит, решит, что "здесь так принято" и пойдёт воспроизводить по всей базе.

[Ghost_of_past]

mihaild в сообщении #1729250 писал(а):

Люди на ASI тоже не тянут

Этого, увы, мы не знаем, потому что не знаем, насколько по тем или иным широким классам интеллектуальных задач искусственные интеллектуальные системы могут обогнать людей. Собственно говоря, поэтому ASI в отличие от AGI является крайне гипотетической технологией - не очень понятно, насколько такой ИИ может быть умнее людей, к чему реально практически будет пригоден, что из себя будет реально представлять и даже будет ли обладать автономным целеполаганием или тем же самым искусственным сознанием и самосознанием.

mihaild в сообщении #1729250 писал(а):

Так я же сразу написал, что рассматривается singleton ASI, а не человеческая экономика.

Ну покуда ASI, как и любой другой ИИ, что мы создадим, привязан к человеческой экономике, то мы обсуждать должны именно ее - броуновским движением в воздухе дата-центры, запчасти к ним и энергетика обычно все-таки не собираются.

mihaild в сообщении #1729250 писал(а):

Вы теперь согласны?

Нет, так как пока в этой теме косвенное желание раскопать земную кору высказал отнюдь не гипотетический ASI, а вы.

mihaild в сообщении #1729250 писал(а):

способного раскопать всю земную кору

Как от гипотетического существования какой-то формы ASI мы перешли к обязательной цели и способностям этого ASI раскопать всю земную кору?

mihaild в сообщении #1729250 писал(а):

отмахивались Лемом

При всем уважении к Юдковскому (и том, что я вполне активно читал его текст 5-10 лет назад), но я тоже предпочту Лема, хотя бы, хм, в силу его более широкой эрудиции, что сказывалось на качестве предполагаемых к обсуждению вариантов будущего и их реалистичности.

[Anton_Peplov]

(Оффтоп)

mihaild в сообщении #1729233 писал(а):

Не вижу, почему бы достаточно умному агенту не использовать магму, что она почем зря пропадает.

Не магму, а мантийное вещество. Мантия не состоит из магмы. Мантийное вещество - твердое, хотя на больших промежутках времени пластичное. Магма же получается, когда вещество коры и/или мантии частично плавится. Это встречается редко и происходит там, где есть дополнительный источник тепла, либо температура плавления коры понижена из-за проникновения воды.

[Ende]

Обсуждение современного вайбкодинга и его ближайших перспектив перенесено в профильную тему «О возможности заменить программистов на ИИ»
Выделена тема «Перспективы гибели цивилизации из-за глобального потепления»
Тема открыта. Просьба воздерживаться от оффтопа.