Интелектуальные машины и неолуддизм

[Rasool]

На Хабре выложили статью Станут ли роботы причиной глобальной безработицы? в которой предрекается, что массовое внедрение роботов приведет потере работы у многих людей, в частности, интеллектуальных профессий. В курсе же лекций Питера Тиля "Стартап" говорится, что пока ИИ и человек дополняют друг друга, нет повода для пессимизма. Но как только ИИ превзойдет человека и когда человек потеряет контроль над ИИ, то появляются поводы для неолуддитских настроений.
Я сам думаю (по оптимистическому сценарию), что в обществе будущего машины полностью возьмут на себя все человеческие производительные функции, как производство товаров народного потребления, так и и их распределение (торговлю). Люди, которым не нужно будет работать, будут получать вэлферы, на которые они будут покупать товары, произведенные машинами. Соответственно смогут заняться тем, что душе пожелает (разумеется, кроме нанесения вреда другим людям и машинам). Само общество будет напоминать зоопарк, где роль шимпанзе будут играть люди, а роль смотрителей - интеллектуальные роботы.
А Вы что думаете?

[rockclimber]

Рекомендую к прочтению "Осмотр на месте" Лема. Поводов для оптимизма не останется

[Konstantin!]

А вы задумайтесь, будут ли вообще нужны сильным мира сего потребители пусть и утешительных, но ресурсов? Достаточно иметь подле себя малую свиту физически совершенных недолюдей с плоским мозгом. Страшное будущее: одинокий король Земли, вовремя подсуетившийся и истребивший нафн всех естественных конкурентов, каково, а?

[Rasool]

Кстати, научной работой в будущем тоже смогут заняться роботы. Это оказалось не под силу компьютерам на архитектуре фон Неймана (см. например, Чень Ч., Ли Р. "Математическая логика и автоматическое доказательство теорем"), может быть, это смогут сделать машины с нейронными сетями, подобными человеческому мозгу? Тогда научные работники окажутся не у дел и ученые степени, звания и награды (типа Нобелевки или медали Филдса) окажутся ненужными.

[olenellus]

   "Звёздные дневники Ийона Тихого. Путешествие двадцать четвёртое." С. Лем.
   А по делу: когда машины смогут заниматься наукой лучше людей (настоящей, а не рутинной наукой, ведь большинство учёных-людей большую часть времени занимаются именно рутиной и комбинаторикой), тогда можно будет утверждать, что человек, как вид, выполнил своё эволюционное предназначение и может тем или иным образом уйти на эволюционный покой. Предпочтительнее, конечно, самим стать машинами. Но это не единственный вариант.

Rasool в сообщении #911669 писал(а):

Само общество будет напоминать зоопарк, где роль шимпанзе будут играть люди, а роль смотрителей - интеллектуальные роботы.

   Не зоопарк. Правильнее это рассматривать как сведение жизнеобеспечения общества (производства, то есть) до уровня физиологии. Это как съесть еду и не думать, как она там дальше переваривается и разносится по клеткам организма, вкючая нейроны, и как продукты обмена собираются и выводятся из организма.

[Legioner93]

olenellus в сообщении #911706 писал(а):

"Звёздные дневники Ийона Тихого. Путешествие двадцать четвёртое." С. Лем.
А по делу: когда машины смогут заниматься наукой лучше людей (настоящей, а не рутинной наукой, ведь большинство учёных-людей большую часть времени занимаются именно рутиной и комбинаторикой), тогда можно будет утверждать, что человек, как вид, выполнил своё эволюционное предназначение и может тем или иным образом уйти на эволюционный покой.

Хочется добавить, что данные и множество других тезисов прекрасно освещены в книге того же писателя "Сумма Технологии". Рекомендую всем, кто интересуется. Хотя и не взахлёб читается, в отличие от тех же "Дневников".

[itmanager85]

Rasool в сообщении #911669 писал(а):

Я сам думаю (по оптимистическому сценарию), что в обществе будущего машины полностью возьмут на себя все человеческие производительные функции, как производство товаров народного потребления, так и и их распределение (торговлю). Люди, которым не нужно будет работать, будут получать вэлферы, на которые они будут покупать товары, произведенные машинами. Соответственно смогут заняться тем, что душе пожелает (разумеется, кроме нанесения вреда другим людям и машинам). Само общество будет напоминать зоопарк, где роль шимпанзе будут играть люди, а роль смотрителей - интеллектуальные роботы.
А Вы что думаете?

чё то западная европа пока на шимпанзе не очень похожа , хотя там в 100 (!!) раз больше (промышленных) роботов на человека (чем в россии).. кстати, вспомните когда человек больше всего был похож на шимпанзе - как раз когда у него не было технологий , промышленных товаров и роботов ..

[ratay]

Не стоит так мрачно. Это не конец человечества, а лишь очередной кризис, через который оно пройдет. А логическое доказательство теорем - это если и научная работа, то своего рода техническая, нижнего уровня. А настоящая - это поставить задачу, определить исходные понятия, связи между ними и т.д. Этого машины (по крайней мере в нынешнем виде) не могут.

[epros]

ratay в сообщении #911752 писал(а):

А настоящая - это поставить задачу, определить исходные понятия, связи между ними и т.д. Этого машины (по крайней мере в нынешнем виде) не могут.

Это вскоре будет исправлено.

Полагаю, что человеков как отдельных белковых организмов не будет. Содержимое мозгов будет перезагружено на электронное оборудование. Это — оптимистический сценарий.

[Sonic86]

Rasool в сообщении #911683 писал(а):

Это оказалось не под силу компьютерам на архитектуре фон Неймана

С чего вдруг? А с тезисом Тьюринга что будем делать?

Rasool в сообщении #911683 писал(а):

см. например, Чень Ч., Ли Р. "Математическая логика и автоматическое доказательство теорем"

где конкретно?

Rasool в сообщении #911683 писал(а):

может быть, это смогут сделать машины с нейронными сетями, подобными человеческому мозгу?

А какая разница вообще, если одно спокойно моделируется на другом?

А вот наличие луддизма будет зависеть от социальной организации. Изменится ли она по сравнению с текущей?

olenellus в сообщении #911706 писал(а):

когда машины смогут заниматься наукой лучше людей (настоящей, а не рутинной наукой, ведь большинство учёных-людей большую часть времени занимаются именно рутиной и комбинаторикой), тогда можно будет утверждать, что человек, как вид, выполнил своё эволюционное предназначение и может тем или иным образом уйти на эволюционный покой.

Впечатляющий манифест

[Rasool]

Sonic86 в сообщении #911789 писал(а):

Rasool в сообщении #911683 писал(а):

Это оказалось не под силу компьютерам на архитектуре фон Неймана

С чего вдруг?

Ну, пока математические теоремы доказываются живыми математиками, а не компьютерными программами (исключение может составить проблема "четырех красок").
Вики дает следующее определение тезиса Тьюринга:

Цитата:

сильный тезис Чёрча — Тьюринга (тезис Чёрча — Тьюринга — Дойча): любой конечный физический процесс, не использующий аппарат, связанный с непрерывностью и бесконечностью, может быть вычислен физическим устройством.

[Sonic86]

Rasool в сообщении #911914 писал(а):

Sonic86 в сообщении #911789 писал(а):

Rasool в сообщении #911683 писал(а):

Это оказалось не под силу компьютерам на архитектуре фон Неймана

С чего вдруг?

Ну, пока математические теоремы доказываются живыми математиками, а не компьютерными программами (исключение может составить проблема "четырех красок").

Ничего подобного. Погуглите хотя бы "автоматическое доказательство теорем". Нетривиальных доказательств пока нет, ну это дело времени. Из последнего я помню использование компьютера для проверки доказательства классификации простых конечных групп - комп нашел в каких-то нужных леммах ошибку.

Rasool в сообщении #911914 писал(а):

Вики дает следующее определение тезиса Тьюринга:

Цитата:

сильный тезис Чёрча — Тьюринга (тезис Чёрча — Тьюринга — Дойча): любой конечный физический процесс, не использующий аппарат, связанный с непрерывностью и бесконечностью, может быть вычислен физическим устройством.

Мдя...

Мальцев Алгоритмы и рекурсивные функции писал(а):

Понятие частично рекурсивной функции - одно из главных понятий теории алгоритмов. ... С одной стороны, каждая стандартно заданная, например, посредством указанного выше операторного терма частично рекурсивная функция вычислима путем определенной процедуры механического характера, которая несомненно отвечает нашему интуитивному представлению об алгоритмах. С другой стороны, какие бы классы точно очерченных "алгоритмов" до сих пор фактически не строились, во всех случаях неизменно оказывалось, что числовые функции, вычислимые посредством алгоритмов этих классов, были частично рекурсивными. Поэтому ныне общепринятой является следующая естественнонаучная гипотеза, обычно формулируемая как
Тезис Черча. Класс алгоритмически вычислимых частичных числовых функций совпадает с классом всех частично рекурсивных функций

И при чем тут какая-то непрерывность?
Упрощенно говоря, тезис состоит в том, что все, что Вы думаете - это применение каких-то частично рекурсивных функций к каким-то данным в Вашей голове. Надо лишь эти функции выявить и все.
Ну и большое количество мыслительных элементов уже выявлено: запоминание - сохранение в память, забывание - стирание из памяти, логические рассуждения, память, индукция, дедукция, обобщение, конкретизация и т.п.

[Rasool]

Я сделал такую попытку сделать прогноз по появлению возможностей моделирования человеческого мозга:

Rasool в сообщении #887138 писал(а):

В 2013-м году суперкомпьютеру потребовалось 40 минут, чтобы сымитировать 1 секунду работы человеческого мозга. При этом суперкомпьютер имитировал работу 1,73 млрд виртуальных нервных клеток с 10,4 трлн виртуальных синапсов.

Цитата:

Маркус Дисман из Института неврологии и медицины в Германии, подытоживает: «Итак, если мы знаем, на что способны машины вроде „K Computer“, можно рассчитать, что вычислительные мощности, необходимые для имитации работы всего мозга, станут доступны примерно после 2020-го года». Однако, по словам некоторых учёных, Маркус чересчур оптимистичен в своих прогнозах.

Я попробовал рассчитать такой прогноз, исходя из закона Мура, согласно которому производительность компьютеров удваивается через каждые 18 месяцев (1.5 года). Имеем: 40 * 60 секунд * 100 (примерно доля имитируемого мозга) = 240 000 раз. Логарифм от 240000 по основанию 2 примерно равен 18. 18 * 1.5 года = 27 лет. Т.е. имитацию всего мозга в реальном времени следует ожидать к 2013 (год проведения эксперимента) + 27 = 2040 году. У некоторых форумчан есть шансы дожить до этого времени.

[itmanager85]

Rasool
судя по всему , в 2028 на 2 nm упрутся в потолок на кремнии. так что дожить вы точно доживёте .

"чип мозг 2 nm"
http://www.russianelectronics.ru/review/doc/63583/

останется графен и квантовые процессоры

[ratay]

Sonic86: когда вы говорите про логику, почаще вспоминайте Гегеля, который говорил о том, что любое логическое рассуждение по сути бессодержательно, поскольку все неявно содержится в исходных понятиях (применительно к математике - в тех же системах аксиом). А уж он в логике разбирался. Логические функции машины применяют (или осуществляют - как хотите) уже давно, а мыслить не научились.