Тема старая, сегодня я её дочитал. Да, я прочитал все 66 страниц этой объёмистой темы, начав 12 ноября и закончив сегодня, 20 ноября. Даты чтения каждой страницы даже "документированы", дело в том, что всё, мне интересное, я архивирую в веб-архиве для надёжности (сайты-форумы имеют свойство пропадать-исчезать или удаляются какие-либо сообщения).
Вот эта тема постранично (и
одной страницей).
Каким-то путём выйдя на одно из сообщений
Magazanik -- нет, не в теме об оценке музыки, в которой (тоже прочитав её полностью) я тоже немного прокомментировал; в ту тему я перешёл отсюда, увидев здесь ссылку-название -- так вот, очень заинтересовавшись стилем и сутью сообщений
Magazanik, я перешёл на страницу 58 этой темы, дочитал тему до конца и стал читать сначала. Совпал и мой интерес к данной теме и интерес к стилю и сути сообщений
Magazanik. Да, я видел, что он порой немного "увлекается" (в частности, после предъявления видеороликов с "вертолётиками с шестом" и подобными), но в целом виден целостный подход к этой проблеме (обоснование "невозможности").
Сегодня я увидел новую информацию по теме, пожалуй, подтверждающую точку зрения
Magazanik.
Дам небольшую цитату из его первого сообщения в этой теме,
выделив немногое из важного.
<...>
...с одной стороны, вроде много известно о физиологии мозга, о том, как распространяется возбуждение по нервным клеткам, о химии, об электрических потенциалах, но кто назовет это возбуждение сигналом, уже соврет. Сигнал чего? Где здесь элементы сигнальной системы — обозначаемое и обозначающее? Что здесь закодировано, каким образом закодировано, как это читается, где хранится, что является единицей хранения, в какой форме записано? Ничего этого нет, мрак и неизвестность. Есть только смутные догадки, что мозг устройство не цифровое, здесь нет битов и байтов. Более широкая догадка, что здесь нет собственно сигнальных систем, сигнальная система — это слишком бедная, плоская, тривиальная модель. Даже язык не сигнальная система. Потому что здесь начинается глухое незнание с другой стороны, не со стороны нейронов и их совокупностей, а со стороны гуманитарных наук, которые разбирают продукты деятельности этих самых клеток серого вещества. Что такое смысл? Ребенку понятно, а формализации нет. Сознание работает со смыслом, а это не то же самое, что денотат в убогой науке семиотике. Это для дураков, это для машины, это как раз то, что выражается классическим афоризмом: семиотические теории языка и литературы ищут общее между романом и правилами уличного движения, а вообще изначальная цель филологии в том, чтоб найти различия между романом и правилами уличного движения.
<...>
...Понимание опережает знание, все науки были такими, и только некоторые со времен Евклида стали другими…
<...>
И кратко процитирую
перевод (Хабр) недавней
статьи Melanie Mitchell из The New York Times от 5 Nov, 2018,
выделив совпадающее с мнением
Magazanik.
Искусственный интеллект упёрся в барьер понимания писал(а):
Об авторе: Мелани Митчелл — профессор компьютерных наук в Портлендском государственном университете и приглашённый профессор в Институте Санта-Фе. Её книга «Искусственный интеллект: руководство для мыслящих людей» будет опубликована в 2019 году издательством Farrar, Straus, and Giroux.
<...>
Основатель Facebook Марк Цукерберг недавно заявил, что в течение следующих пяти-десяти лет компания будет развивать ИИ, чтобы «превысить уровень человека по всем основным чувствам: зрение, слух, язык, общее понимание». Шейн Легг, главный научный сотрудник подразделения Google DeepMind, прогнозирует, что «ИИ превзойдёт человеческий уровень в середине 2020-х годов».
Как человек, работающий в области ИИ на протяжении нескольких десятилетий, я стала свидетелем провала множества подобных предсказаний. И я уверена, что последние прогнозы тоже не оправдаются. Проблема создания человеческого интеллекта в машинах остаётся сильно недооцененной. Сегодняшним системам ИИ катастрофически не хватает сущности человеческого интеллекта: понимания ситуаций, которые мы переживаем, способности понять их смысл. Математик и философ Джан-Карло Рота задал знаменитый вопрос: «Интересно, сможет ли ИИ когда-нибудь преодолеть барьер понимания». Для меня это по-прежнему самый важный вопрос.
Отсутствие человеческого понимания в машинах подчёркивается проблемами, которые недавно появились в основах современного ИИ. Хотя современные программы гораздо более впечатляющи, чем системы 20-30-летней давности, ряд исследований показывает, что системы глубокого обучения демонстрируют ненадёжность совершенно нечеловеческими способами.
Приведу несколько примеров.
«Человеку с непокрытой головой нужна шляпа» [The bareheaded man needed a hat] — программа распознавания речи на телефоне распознаёт эту фразу как «Под руководством медведя человеку нужна шляпа» [The bear headed man needed a hat]. Фразу «Я завёл свинью в стойло» [I put the pig in the pen] Google Translate переводит на французский как «Я подложил свинью в ручку» [Je mets le cochon dans le stylo].
Программы, которые «читают» документы и отвечают на вопросы о них, легко одурачить, если к документу добавляются короткие, несущественные фрагменты текста. Точно так же и программы, которые распознают лица и объекты (прославленный триумф глубокого обучения) терпят неудачу, если хоть немного изменить входные данные с помощью определённых типов освещения, фильтрации изображений и других изменений, которые ни в малейшей степени не влияют на эффективность распознавания объектов человеком.
<...>
Ещё один частичный перевод работы (2017), затрагивающей проблему понимания. Цитировать не буду (сложно мне).
//
Адаптация очень сложный процесс, по сути, здесь мозг только часть целого. Потому то я и сказал. Что человек думает всей своей сущностью. А мозгом, он только думает, что он думает.
)
. Возможно, появлялся, и не раз, под новыми именами.