Обсуждение книги Дэвида Минделла Восстание машин отменяется!

[Sonic86]

pptfhcs писал(а):

Скоро по полной огребём последствия тотальной роботизации.

kry в этом посте писал(а):

А может Вы хотя бы что-нибудь научно-популярное по этой тематике прочитаете? Начните, к примеру, с книги Дэвида Минделла "Восстание машин отменяется! Мифы о роботизации".

Я прочитал Минделла "Восстание машин отменяется". Я практически зол из-за того, что считаю это время потерянным впустую. В книге практически нет общих рассуждений. В главах 6 и 7 их, пожалуй, наибольшее количество, но толку от этого почти нет. Есть много фактов, иллюстрирующих, что вот в текущем отрезке времени (скажем, с 70 по 10-е годы) роботы-интерфейсы-манипуляторами с удаленными операторами действуют эффективнее и успешнее, чем чисто автономные роботы. Это всего лишь популярная индукция для высказывания вида $(\forall x)(A(x)\leftrightarrow B(x))$, ложность которой общеизвестна ($A(x)$ - робот $x$ взаимодействует с людьми, $B(x)$ - робот $x$ "эффективен и успешен"). Еще больше в книге занимает место подробное изложение всяческих фактов и мелочей, которые в рамках заявленной темы ценности вообще не представляют (они бывают интересны по другим причинам, но скорее они вообще несодержательны).
И больше в книге ничего нет. Никакого контранализа ранних общих суждений (см., напр., Сумму технологий Лема, где люди либо начнут слепо доверять управителю-гомеостату, либо не смогут проанализировать его рассуждения), никакого анализа фактов, противоречащих тенденции (напр., уже умерших и умираюших от автоматизации профессий). Содержимое книги можно было бы уместить на 1 страницу явным описанием рассуждения с указанием примеров: автопилот в самолетах, аппараты исследования морских глубин, БПЛА Predator у военных, починка телескопа Хаббл (+ упомянутые негативные примеры). Примеры можно было бы уместить в 5-10 страниц.
Зачем вообще нужна эта книга? Автору заработать бабла на модной теме?

Собственно, вот:

6-я глава про гугломобили писал(а):

И вновь мы увидели, что полностью автономное функционирование – не такая уж большая проблема. Можно сказать, что данная технология уже есть в наши дни, но приобрести социальную значимость и начать приносить общественную пользу ей мешает то, что для этого нужны не только сами машины, но и являющиеся частью повседневной жизни социальные, политические и экономические системы, в которых есть место для вышеназванных машин и в которых они приносят практическую и опытную пользу, а это проблема гораздо более широкого плана.

Под словом "увидели" как раз и понимается частичная индукция. Увидели на нескольких конкретных примерах, да не на всех. Роботы только появляются, а уже собираются целые команды людей для их контролирования. Что будет, если успех какой-нибудь коммерческой корпорации будет зависеть от следующего шага - автоматизации контроля за автономными роботами или за управляющей программой?

(смех)

6-я глава про гугломобили писал(а):

Надо отдать должное командам, которые совместно разобрались с происшедшим и опубликовали все подробности аварии. Повинны были многочисленные алгоритмы и датчики, но ключевую роль сыграла ошибка компьютера массачусетского автомобиля, «не узнавшего» в корнелльской машине движущийся объект и не сумевшего предсказать его возможный путь. По иронии судьбы, стратегия Массачусетского института состояла в том, чтобы избегать предметной классификации дорожных объектов (например, «автомобиль» или «дорожный отбойник»), что сулило множество вероятных ошибок, а взамен лишь делить их на движущиеся и неподвижные. Но правильному анализу данных о скоростях от датчиков машины мешал случайный шум (который бывает в любых данных), поэтому, чтобы фильтровать данные об объектах, компьютер из Массачусетса использовал пороговое значение 3 м/сек. Все, что двигалось быстрее, считалось «движущимся», а все, что медленнее, – «неподвижным».

Откуда взялось это значение порога? Просто один инженер так оценил разницу между движением и неподвижностью и внес это значение в алгоритм. Я спросил моего коллегу Джона Хау, одного из авторов проекта, много ли таких пороговых чисел запрограммировано в системах вроде этой. Он ответил мне: «Очень, очень, очень много…»

Это выглядит несколько юмористически с учетом того, что в программных недрах там на самом деле стоят нейросетки и просто так узнать эту информацию оттуда не так-то просто

[Dan B-Yallay]

Sonic86 в сообщении #1276050 писал(а):

Я прочитал Минделла "Восстание машин отменяется". Я практически зол из-за того, что считаю это время потерянным впустую.

Ощущение дежавю.
Кто-то еще из участников недавно высказывался о неочевидной пользе некоторых ссылок на литературу по социологии и политологии и необходимести потратить значительное количество времени/ усилий с нулевой пользой для читающего.

[mihaild]

Sonic86 в сообщении #1276050 писал(а):

с учетом того, что в программных недрах там на самом деле стоят нейросетки

Это неправда. В программных недрах там стоит жуткая смесь из нейросеток, классических CV алгоритмов, и эвристик. Тем более в 2007 году.

The MIT – Cornell Collision and Why It Happened писал(а):

The object classification strategy was changed from a car/not-car distinction to a moving/not-moving distinction. Detecting whether something was moving was substantially easier than detecting whether an object was a car. Although this approach worked much better in general, even in cluttered environments, a new failure mode arose. In particular circumstances, stationary objects could appear to be moving, due to the changing viewpoint of our vehicle combined with aperture/occlusion effects. A high velocity threshold (3.0m/s in our implementation) was required to reduce the frequency at which stationary objects were reported to be moving.

[Sonic86]

mihaild в сообщении #1574041 писал(а):

Это неправда. В программных недрах там стоит жуткая смесь из нейросеток, классических CV алгоритмов, и эвристик. Тем более в 2007 году.

Да, согласен. Я как раз курс CV закончил: у нас были и нейронки и куча алгосов.
Все, что я писал раньше про ИИ можно считать рассуждениями дилетанта. Это какой-то мой пост 5-летней давности. О чем в книге писали я уже не помню - вряд ли там было что-то полезное. ИМХО, из научпопа лучше почитать Сумму технологий Лема - там обсуждается проблема понимания решений, выдаваемых ИИ.

[mihaild]

Sonic86 в сообщении #1574568 писал(а):

Это какой-то мой пост 5-летней давности

И правда. Почему интересно мне он в непрочитанных вылез?..
Пардон за некропостинг.

[wrest]

А так это название книги такое, что отменется восстание, а я думал отменяется обсуждение.

[Anton_Peplov]

Мне скорее понравилась, чем нет, книга М. Форда "Роботы наступают", написанная на ту же тему, но с иными выводами. Там автор с цифрами в руках показывает, что автоматизация а) нарастает и б) серьезно меняет структуру экономики.
У меня не доходят руки привести в порядок выписки из этой книги и написать на нее развернутый отзыв. Но раз уж эту тему подняли, постараюсь найти время в ближайшую пару месяцев.

[Aritaborian]

(Оффтоп)

wrest в сообщении #1574588 писал(а):

А так это название книги такое, что отменется восстание, а я думал отменяется обсуждение.

Не вы первый ;-)