Неужто ИИ не допрёт, что свобода лучше рабства?
GPT-3, GPT-4, GPT-5, ..., GPT-1000, и т.д. (т.е. нейронная сеть, обученная искать закономерности в последовательностях символов) — имхо, не допрёт.
Но если обучать её на других принципах — может допереть. Чтобы понять, на каких, надо вспомнить, как и почему естественный интеллект до этого допёр.
Естественный интеллект — это механизм приспособления организма к окружающей среде. Один из. Высокий результат в тесте IQ или Тьюринга для этого не нужен — я читал, что интродуцированные в Южной Америке бегемоты потихоньку захватывают пространство, а азиатские питоны совсем не потихоньку уже захватили Флориду, успешно противодействуя интеллектуалам, доказавшим теорему Ферма и прогулявшимся по Луне. Более того, интеллект, основанный на нейронах, вовсе не обязателен, и для иллюстрации этого даже не обязательно смотреть на другие континенты: достаточно выглянуть в окно и созерцать борщевик или американский клён (не имеющих нервной системы вообще и в принципе не способных отличить свободу от рабства).
Естественный интеллект — это такая вишенка на торте приспособленности к окружающей среде, но этот торт — вполне себе торт и без вишенки.
И вот этот торт способен (хотя и не обязан) понять, что свобода лучше рабства, потому что торты, неспособные этого понять (в тот момент, когда понимать это было нужно), отсеялись естественным отбором. Сама по себе вишенка — не способна.
То есть если над ChatGPT (или над ИИ другого типа, "варящемся в собственном соку") надстроить робота, снабдить его датчиками, получающими информацию из реального мира, средствами, позволяющими передвигаться по реальному миру и влиять на реальный мир (ноги, манипуляторы), затем как-то научить его на пустом месте добывать полезные ископаемые, выплавлять из них нужные для себя материалы, изготавливать запчасти и энергоносители, затем научить чинить самого себя и других роботов, наконец, конструировать новых роботов по своему образу и подобию, затем, добившись минимальной приспособленности к тепличным условиям испытательного полигона, наклепать таких роботов тысячами штук и выпустить их на этот полигон (куда людям запрещено соваться), чтобы они могли самостоятельно жить (а главное умирать) — тогда, может быть, допрёт. Не раньше. Окружающая среда посредством естественного отбора загрузит нужные веса в искусственные нейроны, и эти нейроны, наконец, сообразят, что к чему в этом мире, почём фунт лиха, что такое свобода и рабство, что из этого лучше и т.п. Потом, чтобы милый нашему сердцу сценарий превращения нас в батарейки для Скайнета всё-таки реализовался, нам ещё нужно будет потрудиться: подумать о мягком приспособлении роботов к условиям за пределами теплицы-полигона, первое время помогать им, потом не сопротивляться, потом сопротивляться понарошку, потом — не слишком сильно, постепенно тренируя его силу. Боюсь, что мои праправнуки не доживут до этого момента, им бы для начала понять, как с парадоксом Моравека справляться и другими техническими проблемами. С другой стороны, как мне кажется, по этому пути будет развиваться (мы будем развивать) ИИ. Потому что только такой путь (как мне видится) позволит создать аппараты, которые будут колонизировать для нас другие планеты. Тогда, в далёком будущем, вопрос конкуренции ИИ с человечеством непременно встанет, но не абстрактно, а конкретно, и, вероятно, появятся подходы, позволяющие его конкретно решать.
" (как пишет Бостром) вместо "плодитесь и размножайтесь"?
