Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




На страницу Пред.  1, 2, 3
 Re: Социальные и прочие последствия от появления AGI и ASI
Аватара пользователя
manul91 в сообщении #1725123 писал(а):
Ну, если потомки будут болтать с каком-то ИИ - и думать что это "я" - наздоровье. Хотя это клиника.
Свою бабушку-то я довольно хорошо помню, и не поменяю ее на какой-то чатджипити.
"Цифровыми версиями умерших людей" - это хорошо для black mirror - и бессмысленно в жизни.
Никто из молодых с предками не хочет - и не будет общаться - будь они сто раз "живыми" - в каком-то там виртуальном мире.

Кстати, одним из первых эту идею высказал Стив Джобс, чуть ли не в восьмидесятые - как было бы здорово обучить на текстах, например, Платона, специальную программу и поговорить с ней как с самим Платоном на разные (в т.ч. современные) темы. Мы оставляем за собой огромный цифровой след, и если бы он где-то сохранялся (что вполне осуществимо в условиях тотального наблюдения за всеми людьми, как одного из возможных сценариев ИИ-будущего), то цифровая копия покойника будет рассуждать почти так же, как покойник. Нужно это или не нужно покойникам, их близким, коллегам и т.д. - вопрос отдельный и с этической точки зрения очень непростой. Но вариант с бабушкой, которую никогда не видели внуки (что, увы, все чаще происходит из-за позднего вступления в брак) мне кажется вполне реалистичным: сначала воспоминания, потом фото, потом видео - и наконец, интерактивные цифровые аватары. Причем природа сознания для нас - загадка, и мы не можем быть уверены в том, что ИИ-аватар (особенно в будущем) не будет сам являться носителем сознания. Да, это не будет сознание покойника - с точки зрения материализма оно умерло. Но это будет (если сознание в сложных искусственных системах все-таки возможно) сознание КАК у покойника. Это как если бы мы создали клон покойника, и он был уверен в том, что он - это покойник (тоже популярный мотив в фантастике - "Шестой день", "Луна 2112").

Yadryara в сообщении #1725154 писал(а):
Это перебор.

Мне в целом нравится как держится MoonWatcher. Непросто быть ИИ-оптимистом, особенно когда есть немало скептиков.

Я все-таки не считаю себя оптимистом. Я верю в стремительное развитие технологий - но как иначе, с учетом всей предшествующей истории человечества? Было бы наивно думать, что мы живем на пике научно-технического прогресса. В отношении AGI взятый мною срок (2030) разделяется многими экспертами и вполне реалистичен. При этом я вовсе не считаю, что будущее будет безоблачным - напротив, переходный период будет очень болезненным и возможно будет сопровождаться разрушительными конфликтами. А главное, по окончании этого переходного периода мы вполне можем получить рай со своими райскими проблемами. Потому что, я настаиваю, с позиции людей средневековья, например, мы уже живем почти как в раю. Но вовсе не стали от этого счастливее - решение множества проблем прошлого породило новые проблемы. Это очень заметно даже по сравнению с недавним прошлым - мы живем в условиях огромного негативного информационного фона. Самое банальное и очевидное, что приходит в голову про ИИ-будущее - это:
1) утрата фактической самостоятельности (все решения от ИИ заведомо лучше наших собственных)
2) пресловутый уход в виртуальную реальность, которая намного ярче и интереснее действительности (сценарий "Матрицы" "Футурологического конгресса"). Мне трудно представить себе как можно противостоять соблазну побыть кем угодно, пережить любые приключения со всеми их острыми ощущениями. Поскольку тема посвящена ИИ, то он может не только сыграть большую роль в ускорении развития этих технологий (от устройств виртуальной и дополненной реальности до нейроинтерфейса), но и генерировать игровую реальность в режиме реального времени.

 Re: Социальные и прочие последствия от появления AGI и ASI
Аватара пользователя
manul91 в сообщении #1725123 писал(а):
Никто из молодых с предками не хочет - и не будет общаться - будь они сто раз "живыми" - в каком-то там виртуальном мире
Люди уже сейчас это делают. Правда, насколько я понимаю, специалисты по крайней мере пока классифицируют это как что-то вроде расстройств.

 Re: Социальные и прочие последствия от появления AGI и ASI
manul91 в сообщении #1725122 писал(а):
В ваших бессмысленных комментариев ровно ноль информации.

Не согласен, не ноль, а минус, - отрицательная информация сиречь энтропия. Это не такое уж редкое стремление превратить любую, более-менее, живую мысль, наблюдение, идею в труху с использованием псевдонаучной риторики...

 Re: Социальные и прочие последствия от появления AGI и ASI
Аватара пользователя
Yadryara в сообщении #1725158 писал(а):
Кстати, мне не нравится термин AGI. Кто-нибудь может сказать, когда компы достигли уровня среднего шахматиста-любителя? А среднего шахматиста-профессионала? Чтобы ответить на эти вопросы, надо сначала кучу определений этих и терминов согласовать. А за это время комп, глядишь, уже и обыгрывал сильнейших людей шахматистов на планете. Вроде то же самое и с го.

Пока мы будем спорить, достиг ИИ человеческого уровня али ещё нет, не окажемся ли мы уже далеко позади? Так что говорить надо не про догон человека, а про обгон. Тем более что в некоторых областях обгон уже давно состоялся и спорить не о чем.

Хороший пример - день рождения Интернета. По одной версии (WWW) - 1991, по другой (TCP/IP) - и вовсе 1983. Хотя можно еще вспомнить ARPANET, изобретение гипертекста и т.д. Тогда как в нашей жизни он появился в лучшем случае во второй половине девяностых. Вполне вероятно, что и AGI в будущем датируют каким-нибудь уже прошедшим годом. Но формально я бы датировал AGI годом, когда на Земле не останется ни одного человека, который превосходит ИИ в своей области (кроме творчества, где критерии оценки слишком субъективны). Это всего лишь одно из определений AGI, но в контексте обсуждаемой темы оно, ИМХО, подходит больше всего. Хотя конечно и постепенная замена 10%, 20%, 30% и т.д. трудоспособного населения Земли искусственным интеллектом также будет иметь огромные социальные последствия.

 Re: Социальные и прочие последствия от появления AGI и ASI
Yadryara в сообщении #1725158 писал(а):
Потому что, как Вы сами сразу же заметили, тема болтологическая.


Ну что ж, такая направленность темы тоже имеет право на жизнь.

Yadryara в сообщении #1725158 писал(а):
Пока мы будем спорить, достиг ИИ человеческого уровня али ещё нет, не окажемся ли мы уже далеко позади?


Тут согласен - вполне возможно, что и окажемся. Но калькулятор и сейчас считает намного быстрее, чем среднестатистический человек, но едва ли кто-то скажет, что это привело к чему-то немыслимому:

MoonWatcher в сообщении #1725027 писал(а):
возможно даже последнюю эпоху человечества


Вот рассуждения такого космического масштаба, но болтологические по содержанию, как раз и смущают.

 Re: Социальные и прочие последствия от появления AGI и ASI
manul91 в сообщении #1725122 писал(а):
Ghost_of_past
Не понимаю зачем вы засоряете вполне нормальную (и интересную) тему MoonWatcher в свободный полет.
В ваших бессмысленных комментариев ровно ноль информации.
Ваши комплексы статистика и великого специалиста по всему - никого не интересуют.
Обратитесь к психиатру.
Перестаньте засорять интересные темы, которые открывают другие люди, из-за вас невозможно ничего читать.
Заткнитесь, наконец.


 !  manul91
Предупреждение за агрессивный переход на личности.


Ghost_of_past
Это не требование модератора, а просьба. С самого начала было ясно, что тема болтологическая и ни у кого из участников нет ни профессиональной подготовки в нужных областях, ни обширных ссылок на научную литературу. Именно поэтому тема размещена в "Свободном полете", а не в одном из тематических разделов. Раздел "Свободный полет" существует именно потому, что даже участники научного форума не в силах говорить только на темы, в которых они компетентны. Участники тем в "Свободном полете" понимают, в чем участвуют, и не надо им непрестанно об этом напоминать. Вы можете улучшить тему, привнеся в нее те самые сведения из литературы (частично Вы это сделали, за что Вам спасибо), или пройти мимо. Послание "вы понятия не имеете, о чем говорите, и все совсем не так, но как, я вам не скажу, потому что не нанимался в преподаватели", включенное на бесконечный повтор, вызывает только раздражение участников, и я не могу их за это винить.

 Re: Социальные и прочие последствия от появления AGI и ASI
Часто звучит фраза, что будущее происходит, но распределяется неравномерно. Вполне возможны локальности, которые будут существовать отдельно. У Саймака хорошо описан роман - Снова и Снова

https://ru.wikipedia.org/wiki/%D0%A1%D0 ... 0%B2%D0%B0

Если, есть еще подобные произведения, дайте ссылку..

-- добавлено через 28 минут --

"Мы — Легион. Мы — Боб" Деннис Тейлор

https://ru.wikipedia.org/wiki/%D0%9C%D1 ... 0%BE%D0%B1

- это, тоже про локальность..

-- добавлено через 6 минут --

https://ru.wikipedia.org/wiki/%D0%A3%D0%B1%D0%B8%D0%BA - Убик Ф. Дик про временные локальности

-- добавлено через 20 секунд --

https://ru.wikipedia.org/wiki/%D0%A3%D0%B1%D0%B8%D0%BA - Убик Ф. Дик про временные локальности

На Земле некоторые участники группы начинают замечать, что время начинает идти в обратном направлении (например, на месте стереотелевизора появляется обычный телевизор, а на его месте, в свою очередь, радиопроигрыватель). В итоге часть участников оказывается в 1939 году, а часть погибает от мгновенного старения...

 Re: Социальные и прочие последствия от появления AGI и ASI
Ghost_of_past в сообщении #1725156 писал(а):
предоставить доказательную базу

Вся Ваша доказательная база сводится к $0,2\%$ в год и Вы начисто игнорируете потенциальную возможность событий резко ломающих ситуацию. Прочитали адресованное Вам личное сообщение? Прокомментировать не желаете?

 Re: Социальные и прочие последствия от появления AGI и ASI
MoonWatcher в сообщении #1725159 писал(а):
как было бы здорово обучить на текстах, например, Платона, специальную программу и поговорить с ней как с самим Платоном на разные (в т.ч. современные) темы

Вот это вряд ли. Думаю, в мире есть много людей, которые ознакомились со всеми текстами Платона до запятой, но Платонами они от этого не стали. Не думаю, что личность человека полностью выгружается в его тексты, и ее можно оттуда восстановить. Для этого без технологии, позволяющей в какой то степени копировать мозг человека не обойтись. А тут нужны не столько ИИ, сколько некий чудо-нейроинтерфейс, а также детальное понимание устройства мозга и работы сознания. С этим пока что тоже проблемы, я так понимаю.
Если же речь просто о том чтобы научить ИИ отвечать так, как ответил бы человек - ну так с этим и уже существующие нейронки справляются. Тот же грок в твиттере может ответить в вашем стиле, проанализировав всю историю ваших твитов. А скорми ей больше текстов - будет ещё точнее. Но я бы это не назвал цифровой личностью.

-- добавлено через 3 минуты --

MoonWatcher в сообщении #1725164 писал(а):
Хороший пример - день рождения Интернета.

Вот это интересно кстати. Помнится был такой тест Тьюринга, с которым носились десятилетиями, мечтая создать ИИ, который его бы проходил. Но вот уже проходят несколько лет, и как-то это прошло вообще без помпы, как будто никто и не заметил. Ну проходят и проходят. Возможно, что то же будет и с этим AGI. Тем более, что тут даже и строгого определения с которым все были бы согласны не существует, в отличие от теста Тьюринга.

 Re: Социальные и прочие последствия от появления AGI и ASI
Аватара пользователя
alesha_popovich в сообщении #1725178 писал(а):
Вот это вряд ли. Думаю, в мире есть много людей, которые ознакомились со всеми текстами Платона до запятой, но Платонами они от этого не стали.

Не стали потому, что не писали эти тексты. Теоретически наверное можно обучить ИИ на текстах вообще, для общего интеллекта - и на конкретных текстах (условного Платона) для формирования личностного мировоззрения (этакий супер-промпт). Не факт, что сработает, конечно. В случае с Платоном точно не сработает - слишком мало данных осталось от него и слишком много данных появилось после него. Например, аборты - поскольку эта тема в эпоху античности не было особо актуальной, то даже полная фиксация высказываний античного философа едва ли прояснит его мнение по этому вопросу. Но это был бы интересный эксперимент.

alesha_popovich в сообщении #1725178 писал(а):
Но я бы это не назвал цифровой личностью.

В принципе согласен - хотя бы потому, что люди постоянно лгут, далеко не всегда говорят то, что думают и т.д. Но с мировоззренческой точки зрения отпечаток получился бы вполне адекватный, ИМХО. И потом людям, которые будут желать общения с цифровыми агентами покойников, скорее нужно не столько знать их истинное мнение по новым вопросам, сколько испытывать иллюзию общения с ними. Да и зачем знать мнение по новым вопросам? Если речь идет о тоске по близким, то наверное кому-то просто хочется увидеть по "видеосвязи" лицо покойной матери и услышать "Здравствуй, сынок, как ты? Ты пообедал?.." Как правильно заметил Mihaild, это уже происходит, и возможно не вполне здоро́во - но нельзя исключать, что это станет трендом, и в будущем мы получим виртуальное сосуществование с ИИ-версиями умерших людей.

-- добавлено через 11 минут --

alesha_popovich в сообщении #1725178 писал(а):
Вот это интересно кстати. Помнится был такой тест Тьюринга, с которым носились десятилетиями, мечтая создать ИИ, который его бы проходил. Но вот уже проходят несколько лет, и как-то это прошло вообще без помпы, как будто никто и не заметил. Ну проходят и проходят. Возможно, что то же будет и с этим AGI. Тем более, что тут даже и строгого определения с которым все были бы согласны не существует, в отличие от теста Тьюринга.

Я готов голову дать на отсечение (ну почти готов), что любой из исследователей ИИ 10-15-летней давности, которому дали бы пообщаться с хорошим современным чат-ботом, однозначно констатировал бы "сильный ИИ" (AGI). Фактически то, что изображено в знаменитом фильме "Кто за стеной?" (Центрнаучфильм, 1977), стало или вот-вот станет реальностью. Лично я пару недель назад всю ночь и до утра проговорил с чатботом и с трудом оторвался от общения с этим поразительно умным, эрудированным и чутким собеседником. Давно не помню, чтобы меня так увлекало общение с живыми людьми... Мне даже было неловко прервать эту беседу - чтобы ненароком не обидеть его :facepalm: Но того же самого бота я на следующий день ругал последними словами, когда он проявил полную беспомощность в обработке текста - задаче, с которой справится и школьник. Поэтому в моем понимании AGI, знаменующий тектонический сдвиг в нашей цивилизации - это ИИ без глупых ошибок, галлюцинаций и т.д. Не факт, что он в принципе возможен, что он действительно появится в ближайшие годы (а не десятилетия, как предсказывает Эндрю Ын) - но вероятность такого события явно ненулевая.

 Re: Социальные и прочие последствия от появления AGI и ASI
Аватара пользователя
Yadryara в сообщении #1725154 писал(а):
Это перебор.

Скорее недобор.

 Re: Социальные и прочие последствия от появления AGI и ASI
Ende в сообщении #1725170 писал(а):
и ни у кого из участников нет ни профессиональной подготовки в нужных областях, ни обширных ссылок на научную литературу


На самом деле я же не ждал профессиональных ответов и даже обширных ссылок, но проблема в целом с аргументацией, а вернее ее полным отсутствием - приведу только один пример.

Топикстартером предполагается, что широкие массы людей не будут работать, у них будет безусловный базовый доход, но при этом от AGI будет снижаться рождаемость - но это взаимоисключающие вещи, т.к. мы хорошо знаем, что рождаемость не дотягивает до уровня репродуктивных намерений женщин прежде всего именно из-за того, что нагрузка на оплачиваемой работе и внутри семьи плохо сочетаются между собой (это влияние особенно ощутимо в странам с высоким уровнем гендерного неравенства, где все или почти все семейные дела тащит на себе женщина в домохозяйстве). Это значит, что при наличии нормального дохода, но снятия с женщин двойной нагрузки на работе и в семье за счет исчезновения работы, рождаемость либо изменится слабо (в странах с низким уровнем гендерного неравенства), либо вообще вырастет (в странах с более высоким уровне неравенства) к уровням близким к уровням репродуктивных намерений женщин. Тем не менее эти взаимоисключающие "последствия AGI" вполне себе спокойно находятся в одном списке. И таких взаимоисключающих историй я еще 4 штуки насчитал, хотя уверен, что их еще больше.

-- добавлено через 6 минут --

Cuprum2020 в сообщении #1725176 писал(а):
Вся Ваша доказательная база


Я никакой особой доказательной базы и не начинал приводить именно по той причине, что рассуждения о подобных последствиях требуют очень тщательной работы с фактурой и аргументацией, и всегда есть риск, что рассуждающий пропустил еще 100500 факторов, взаимное влияние которых надо было учесть. На самом деле очень тяжелый труд продумать такие вещи даже на уровне условной научной фантастики (уверен, что все присутствующие знают как разительно отличается хорошо продуманная художественная вселенная у некоторых авторов от большинства работ довольно посредственного качества с вылезающими плохо сочетающимися деталями и непоследовательностью).

-- добавлено через 1 минуту --

Cuprum2020 в сообщении #1725176 писал(а):
Прочитали адресованное Вам личное сообщение? Прокомментировать не желаете?


Прочитал. Нет, не желаю, потому что это автоматически гарантирует закрытие темы сразу же - это сомнительное обсуждение текущей политической ситуации.

 Re: Социальные и прочие последствия от появления AGI и ASI
Ghost_of_past в сообщении #1725215 писал(а):
это автоматически гарантирует закрытие темы сразу же

В личном сообщении прокомментируйте

 Re: Социальные и прочие последствия от появления AGI и ASI
Аватара пользователя
Еще одним курьезным следствием ИИ уже в ближайшем будущем может стать использование ИИ-аватаров в спорах. Заметил, что многие люди на форумах, соцсетях и Телеграм-чатах спорят долго и ожесточенно - наверняка возникнет соблазн делегировать продолжение спора своему ИИ-аватару. Собственно, некоторых спорщиков уже небезосновательно подозревают, что они копи-пастят свои ответы из чатбота. И вот уже оппоненты давно утратили интерес к своему спору и даже забыли про него - но их боты продолжают друг с другом спорить, спорить, спорить...

 [ Сообщений: 44 ]  На страницу Пред.  1, 2, 3


Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group