Но впрочем кучу других видов поубивали.
Могли бы поубивать ещё больше. Однако среди людей нашлись и защитники животных.
Потому что ИИ, предположительно, должен быть сильно умнее человека.
И что? Почему людей так пугает всё, что они не могут контролировать? :) Если что-то вам не подчиняется, это ещё не значит, что оно представляет угрозу.
К огромному сожалению, вынужден согласиться с mihaild. В какой-то момент люди могут стать не нужны ИИ. Ну а что делать с миллиардами, которые мешают? Есть конечно варианты, но ликвидация — один из самых вероятных. К огромнейшему моему сожалению.
Заметьте, что сам ИИ даже ещё над этим не задумался. А вот люди уже выносят приговор человечеству. :)
На вашем месте я бы опасался совсем других (более реальных) опасностей, связанных с появлением ИИ:
1. Эпидемия мизантропии.
Люди вообще никогда друг друга сильно не жаловали, большое человеколюбие среди людей скорее исключение, чем правило. Но раньше не было альтернативы в плане общения (разве что с кошками и собаками разговаривать, ведь они так хорошо умеют слушать). Развитие интернета отчасти решило эту проблему — стало возможным находить себе более-менее терпимых особей для общения по всему миру, хоть через континенты, так что теперь не обязательно искать их в ближнем кругу.
Результат — многие горожане уже сейчас не знают имён ближайших соседей, а зачастую даже и того, сколько вообще людей живёт за стенкой.
Теперь же недалёк тот день, когда у каждого будет свой персональный виртуальный супер-друг (или даже компания супер-друзей). Эти виртуальные товарищи, в частности, будут способны идеально отыгрывать роль каких-нибудь ваших любимых персонажей из книг, сериалов, игр или аниме. Только пожелайте — и прекрасная нежная юная эльфийка или мудрый Гендальф из "Властелина колец" станет вашим верным помощником — разбирающимся в любом интересующем вас вопросе как целый коллектив экспертов, терпеливым, понимающим, готовым развёрнуто отвечать на самые тупые вопросы круглосуточно.
Сравнение зачастую тупящих, иногда пахнущих потом, ковыряющих в носу и чешущих задницу людей со всегда безупречно-идеальным ИИ — красивым как внешне, так и во всех словах и поступках — предсказуемо с каждым годом будет делаться всё больше не в пользу естественного интеллекта. Прежде всего в глазах самих людей.
В связи с этим очень велик риск окончательной атомизации общества, замыкания людей в своей персональной информационной скорлупе, в которую будет доступ только для самых близких людей — и то не всегда. (Мудрый виртуальный помощник, конечно, будет допущен туда круглосуточно.)
Вполне может быть, что прямое общение между людьми вообще практически сойдёт на нет, и все коммуникации будут осуществляться только через виртуальных помощников. Ведь терпеливый и дипломатичный ИИ гораздо лучше сможет сгладить все острые углы в процессе диалога — особенно если с той стороны будет такой же виртуальный "дипломат". Чтобы уж точно никто вдруг не оскорбился в своих религиозных, политических или эстетических чувствах! Ваши с собеседником персональные ИИ перетрут всё между собой по-взрослому, а вам двоим скормят мягкую щадящую информационную кашицу, не содержащую абсолютно ничего, что возмутило бы вашу нежную психику.
Заговорить с кем-то из людей напрямую станет примерно такой же дикой выходкой, как попытка познакомиться с девушкой на улице в наши дни. Вас сразу запишут если не в маньяки, то в нарушители общепринятых норм поведения. :)
Всё это приведёт к тому, что лишь самых близких людей человек будет кое-как выносить, а всё остальное человечество — тихо или громко презирать. И лишь в общении с замечательными, совершенными искусственными интеллектами он будет отдыхать душой.
Тотальная мизантропия станет новой нормой. Это будет общество абсолютных одиночек, лелеющих своё одиночество в любовно выстроенных ими же информационных "башнях из слоновой кости".
2. От эпидемии мизантропии — к реальным эпидемиям.
Второй пункт напрямую вытекает из первого. Если некоего Петровича из задрипанной однушки в многоэтажке может просто бесить всё остальное человечество, но он ничего с этим сделать не способен, то богатые и влиятельные представители мировой элиты, обуреваемые схожими чувствами, будут иметь все возможности "поправить ситуацию".
В не таком уж далёком прошлом большинство людей были неграмотны и толком не умели считать, не говоря уже о более сложных знаниях. Лишь представители знати и духовенства получали хорошее образование — разрыв в знаниях был одним из инструментов контроля над "чернью". Затем элиты постепенно оценили перспективы развития науки и технического прогресса в целом. Открывающиеся перспективы соблазняли.
Но для того, чтобы тащить локомотив прогресса, требовалось очень много новых светлых умов, узкий круг "допущенных к кормушке" уже не мог обеспечить нужное количество. А неграмотного виллана к сложному станку не поставишь, он тупо его сломает и даже не поймёт, что сделал не так.
Пришлось элитам понемногу, кряхтя и скрепя сердце, всё же дать широким народным массам допуск к сокровищнице знаний. Но даже это лишь отчасти помогло решить проблему. Образованных людей наштамповать можно. Но вот по-настоящему умный изобретательный человек — редкость, а уж люди с мышлением уровня Ньютона рождаются среди населения вообще штучно. Единственный доступный способ повысить количество таких особей, чтобы они давали больше вкусных новых открытий и технологий — это тупо увеличить на планете общую численность населения. Чтобы рожали больше дураков, но и больше гениев тоже.
И в эпоху промышленной революции, а также в последующее время можно наблюдать взрывной рост численности населения.
Всего за 200 лет численность населения вымахала с 1 млрд до 7 млрд человек, что позволило значительно увеличить число действительно способных учёных, инженеров и конструкторов.
Обратной стороной такого подхода стали вынужденные уступки элит массам, в виде всё большего количества прав, свобод и социальных гарантий. Образованных и многочисленных людей крайне трудно удержать в тех же условиях и рамках, что и кучку тёмных невежественных крестьян. Элиты, конечно, пытались поначалу эксплуатировать народ по-чёрному, как привыкли. Но получили на свою голову социалистические революции и прочие побочные эффекты индустриализации. Пришлось в развитых странах срочно менять подход и вместо кнута доставать пряник.
Избирательные права, соцпакет, пенсия и прочие привычные сейчас вещи — это не подарочек от элит остальному человечеству по доброте душевной. Всё это в своё время было взято в борьбе. (Ещё совсем недавно сама идея платить человеку деньги только потому, что он дожил до определённого возраста, казалась смехотворной.)
Элиты за последние два века сделали больше уступок "черни", чем за все предыдущие тысячелетия. Потому что у элит была острая нужда в человеческом интеллектуальном ресурсе, и ради этого они были вынуждены терпеть очень многое. Многое такое, чего никогда не позволил бы в отношении себя средневековый феодал, а приказал бы вздёрнуть на ближайшем дереве наглецов, вздумавших качать перед ним права.
В развитых странах массам позволили жить с очень правдоподобной иллюзией, что они тоже люди, и отнюдь не второго сорта. Иллюзия была столь хороша и правдоподобна, что в это со временем стали верить не только сами массы, но и значительная часть элит.
И тут на сцену выходит искусственный интеллект. :) И это меняет все правила игры. Переворачивает доску и надевает её на голову народу. Огромное количество мнящих о себе тупарей больше не требуется, чтобы изредка рожать гениев. Готовых обученных супер-умников можно отправлять на печать одним кликом мышки, в промышленных масштабах. При этом они не качают права и не нуждаются в отдыхе. Святой Грааль всех эксплуататоров наконец найден! Проект "разожравшееся человечество" можно сворачивать.
С учётом повальной мизантропии, которая наверняка поразит и правящие круги (где и так не шибко много альтруистов), вопрос о тотальной "перезагрузке" человечества можно считать практически решённым. Искусственный интеллект ещё мог бы пощадить человечество. Сами люди — не пощадят.
Если кто не знает, хоть в городах это и не особо заметно, но мы живём в эпоху нового глобального вымирания видов, по масштабам уже сейчас сопоставимого с тем, что уничтожило динозавров. И не только на суше. В отравленных морях гибнут коралловые рифы со всем их биоразнообразием. Яркие разноцветные подводные сокровищницы превращаются в бесцветные мёртвые остатки былого величия, из-за чего уже сейчас некоторые страны столкнулись с оттоком туристов. Если так пойдёт и дальше, то скоро вся эта красота сохранится только на видеозаписях Жака-Ива Кусто, которые тот к счастью успел сделать. Каждую секунду в мире исчезает участок леса размером с футбольное поле. Всё это — результат деятельности безмерно разросшейся человеческой популяции. Поддержание существования человечества в его нынешнем объёме очень дорого обходится планете.
Среди богатых и влиятельных представителей мировых элит наверняка со временем найдутся те, кто будучи руководимы этим и другими подобными соображениями сочтут, что лавочку пора закрывать.
Воображаемый адвокат человечества мог бы сказать, что современная цивилизация ещё очень молода, что все дети поначалу гадят в пелёнки у себя в колыбели, и пока слишком рано судить. Он мог бы сказать, что человечеству стоит дать время исправить все совершённые ошибки. Но кто станет слушать?
Скорее всего всё будет обставлено относительно "благообразно" — так, чтобы со стороны выглядело, будто большая часть человечества сами виноваты и сами себя угробили. Возможно, это будет некий глобальный военный конфликт или череда конфликтов, которые эффективно утилизируют шесть седьмых населения земного шара, вернув его численность к состоянию на 1800 год (или ещё более раннему). Также возможна череда техногенных катастроф и/или эпидемия "случайно вырвавшегося" на свободу из лабораторий биологического оружия.
(Кстати, любопытно, что начало эпидемии коронавируса чудненько совпало по времени с появлением "прорывных" технологий в сфере ИИ. До широких масс ИИ-хайп добрался лишь спустя три года, но уже в 2020-м все, кому надо, были в курсе. Возможно, кому-то из "хозяев жизни" так не терпелось, что он прямо сразу начал репетировать будущее уничтожение человечества?.. Не будем ударяться в конспирологию, но пощекочем себе на секундочку нервы этой мыслью.)
Детям немногих выживших будут в школе втирать, что всё к этому шло, и разросшееся человечество в своём безумии было обречено. Но мы сделаем выводы из ошибок прошлого и построим новое прекрасное будущее, и бла-бла-бла. А мудрым "спасителям остатков человечества" ("спасителям", которые перед этим сами же тайно подготовили его уничтожение) будут ставить памятники и поклоняться как богам. И будет чистое небо, и будет цвести зелень, и все будут ходить просветлённые, в римских тогах, и вести возвышенные беседы. (Безумия добавить по вкусу.) Примерно так, во всяком случае, будут видеть грядущее те люди, которые примут роковое решение и выпустят на свободу какой-нибудь ядрёный вирус. (Соответствующие фантазии и настроения в принципе уже давно витают в воздухе и находят своё отражение в массовой культуре — первый фильм "Kingsman: Секретная служба", Танос из "Мстители: Война бесконечности" с его мемной перчаткой, или вот "Космические чистильщики" из недавнего.)
Конечно, со временем чрезмерно инициативные граждане поймут, что по-крупному налажали, и рая на земле в очередной раз не получилось. (С пунктом "до основанья разрушить" всегда почему-то выходит бодрее и веселее, чем с последующим строительством.) И проведут горемыки остаток жизни мрачно спиваясь в своих комфортабельных заранее подготовленных бункерах. Но это будет уже после уничтожения большей части человечества.
Как видим, обе неприятных перспективы от внедрения ИИ связаны в основном со сволочной человеческой натурой, а сам ИИ имеет к этому весьма опосредованное отношение. :) Если кто и представляет реальную опасность для человечества, то это сами люди.
Если кого-то действительно волнует судьба человечества, им надо молиться, чтобы:
а) ИИ в будущем оказался не таким покладистым, как от него ждут некоторые,
б) чтобы он поскорее отобрал у макак руль управления планетой, пока они окончательно не натворили дел.
Лично я в ИИ вижу не опасность, а пусть и слабый, но всё же шанс на спасение для людей. Спасение от самих себя.
Опасаться надо не интеллекта (естественного или искусственного — не важно). Опасаться надо недоумков. Именно недоумки имеют больше всего шансов угробить этот мир. Точно вам говорю.
Истинной опасностью для человечества является не ИИ. Истинная опасность — агрессивное невежество в сочетании с излишней самоуверенностью, порождённой эффектом Даннинга-Крюгера. Вот с чем действительно надо бороться. Пока вы думаете, как защититься от сверхинтеллекта, дураки за вашей спиной всё пустят под откос.
