Еще раз про сильный ИИ

[mihaild]

Dicson в сообщении #1571223 писал(а):

Сложность мы не будем измерять никак. Я предлагаю такие аргументы, которые обходят количественный вопрос стороной.

Пока что вы предлагаете аргументы в пользу несформулированного тезиса. ИМХО лучше наоборот: сначала сформулировать утверждение, а потом его обосновывать.

Dicson в сообщении #1571223 писал(а):

А то, что наш ИИ всё ещё не столь сложный, как интеллект человека, мы определим так же, как определяем это сейчас.

А как мы это определяем сейчас? Лично я этого не определяю, я только смотрю, какие задачи текущие системы умеют решать, и насколько надежно.

Dicson в сообщении #1571223 писал(а):

Отчасти похожим образом нельзя экспериментально доказать, что сильный ИИ не будет построен - такой эксперимент отнимет вечность.

С байесианской точки зрения любое утверждение, которое в принципе можно опровергнуть (точнее привести свидетельство против), в принципе можно и доказать (точнее привести свидетельство за). Если бы вы сказали, какое наблюдение опровергает это ваше "сильный ИИ не будет построен", то тогда отсутствие этого наблюдения было бы подтверждением вашей точки зрения.

Energos в сообщении #1571246 писал(а):

Что это, ограниченность существующих алгоритмов или по-прежнему недостаток вычислительных мощностей?

Как минимум частично - ограниченность алгоритмов. Все "громкие" системы используют много ресурсов, потому что современные методы позволяют заметно улучшать результат добавлением ресурсов, а т.к. все хотят публиковать как можно большие значения метрик, то и используют все ресурсы, до которых дотягиваются. Но и в алгоритмах прогресс значительный - например трансформеры обычно работают и быстрее, и лучше, чем рекуррентная сеть.
Но например в языковых моделях всё еще есть проблемы большого контекста - сделать модель, которая сможет поддерживать длинный диалог, запоминая ранее сказанное, но не начинающую галлюцинировать, пока не получается, и просто увеличение ресурсов не очень помогает. Но эксперименты ведутся, и причин считать, что в ближайшие 5 лет в этой области не будет существенного прогресса, я не вижу.

[Rasool]

Ландау говорил: "Я не встречал мыслящих людей, а вы мне говорите про мыслящие машины".

[ozheredov]

Dicson в сообщении #1571223 писал(а):

способности ИИ. Думаю, ему будут доступны все алгоритмы. Впрочем, речь же о сложности. Чем алгоритм сложнее, тем хуже для ИИ.

Т.е. я правильно понимаю Ваше утверждение?

"Существует класс исполняемых мозгами человека алгоритмов, настолько сложных, что ИИ они не под силу."

Для краткости назовем их сверхсложными.

Dicson в сообщении #1571223 писал(а):

Сложность мы не будем измерять никак. Я предлагаю такие аргументы, которые обходят количественный вопрос стороной.

Дык имеете право. mihaild пытался облегчить Вам доказательство существования сверхсложных алгоритмов через схему "вводим меру сложности -> выводим предел для ИИ -> показываем, что возмтжность мозга превосходит предел". Типа, по такой же схеме доказывается, что муравей не может поднять слона, но у Вас свой путь -- ок. И да, присоединяюсь к вопросу: не могли бы Вы перечислить аргументы?

Dicson в сообщении #1571223 писал(а):

Это, естественно, сказывается на доказательности, но тем не менее, хватает.

А почему если я без доказательности скажу, что прилетели рептилоиды, этого не будет хватать, а тут хватает?

Dicson в сообщении #1571223 писал(а):

вон там в леске эксперимент поставьте. Пусть обезьяна с дерева слезет и топором каменным нам помашет.

Эволюция бактерий и вирусов в пробирке идет, как и предсказывалось. Эволюция махания топором идет миллиарды лет и для наблюдения 1-2 поколениями не доступна. Как и предсказыаалось. Предсказательная сила состоит не только в том, чтоб прогнозировать насьупление А, но и в том, чтоб гарантировать отсутствие Б. Т.эволюции на этом месте говорит, что обезьяна топором не помашет, так что с ней все в порядке )

-- 24.11.2022, 02:54 --

warlock66613 в сообщении #1571227 писал(а):

этот загадочный "интеллект человека" я судя по-всему не то что не превосхожу, но даже не догоняю.

Вы экзистентствуете насчет конечности жизни, несовершенства Бытия и ущущаете Квалию. Это искусственному интеллекту, ПФФФФ!.... не под силу.

[Dicson]

Energos в сообщении #1571246 писал(а):

А по-моему как раз очень даже имеет. Квантовые эффекты могут помочь решать некоторые задачи "в лоб".

В создании ИИ проблема прежде всего не в скорости или объёме вычислений, а в неизвестности алгоритма.

Energos в сообщении #1571246 писал(а):

Если подумать, за последние несколько лет производительность ИИ-систем выросла по меньшей мере в 10 раз, если не больше. И тем не менее, пока никакого сильного интеллекта мы до сих пор не наблюдаем. Что это, ограниченность существующих алгоритмов или по-прежнему недостаток вычислительных мощностей?

На общем масштабе - это следствие принципиальной невозможности создать такую систему. Например, один из элементов проблемы:

ИИ эволюционирует в головах людей. Потому что если не решение задачи, то хотя бы ответ всё равно оценивают они. А оценка этого ответа не может выйти за рамки опыта оценщиков, причём опыта наиболее формального, точного, ведь оценка обычно подразумевает некие конкретные формулировки. И чем сложнее система и, соответственно, чем больше её возможности, тем более будет важна точность оценки, общих и неформальных соображений будет всё менее достаточно. Потому что система с большими возможностями может и проблем много создать, если что-то упустить.

Но формальный опыт лишь малая часть всего опыта (см. например, парадокс Моравека). Таким образом, мы хотим создать систему равной себе сложности, а оценить её можем, исходя только из небольшой части своего опыта. Вследствие чего, по мере усложнения систем и задолго до приближения к сложности интеллекта человека их оценка будет становиться всё более и более неопределённой. В итоге растущие сложности в оценке систем будет тормозить их развитие. ИИ эволюционирует в головах своих создателей - и не может ни выйти за эти рамки, ни даже приблизиться к ним.

Energos в сообщении #1571246 писал(а):

Разве подобные задачи реально существуют? В 99% мозг решает вполне конкретные задачи и получает вполне конкретные, иногда вероятностные результаты.

Не только существуют, но такие задачи мозг в основном и решает. И наоборот, то, что можно точно формализовать, лишь малая часть нашего опыта (и самая простая, так как обычно линейная).

Поведение человека - это реализация глобальной и фактически бесконечной стратегии самосохранения и размножения, где все частные решения увязаны в этом общем контексте и потому не могут быть оценены однозначно ни на каком конечном промежутке времени. Например, что съесть на завтрак? Куда пойти учиться? Ремонт сделать сейчас или потом? Где даже самые, как кажется, простые задачи типа "что съесть на завтрак" могут увязываться со множеством обстоятельств, вплоть до самых глобальных (съем много - привыкну - полнота - ожирение - детям плохой пример - они внукам - весь род коту под хвост).

И так далее, включая решения управленческие или государственные на десятилетия вперёд. Человек существует на совершенно иных пространственных и временных масштабах, чем любой мыслимый сейчас ИИ. Стратегия и тактика его поведения качественно превосходят таковую у искусственных систем.

Rasool в сообщении #1571248 писал(а):

А если тупо скопировать человеческий мозг в "железо"? Сейчас технологии не позволяют это сделать, но в будущем-то (пусть и отдаленном) наверняка смогут.

Тупо можно, а так, чтобы заработало, нет. Мозг находится в постоянной динамике. Это не равновесная система, которую можно остановить, разобрать и скопировать (да и точность копирования равновесных систем относительно менее важна). Поэтому пока вы будете копировать одну какую-то часть мозга, другая за это время изменится и станет неадекватна копии. Надо копировать всё и сразу - типа рентгеновского снимка. Но даже приближение к необходимой точности такого "снимка" уже разрушит мозг. Ведь снимать надо все нейроны сразу и со всеми подробностями - к примеру, минимум до уровня ДНК, так как наследственный аппарат важная часть работы мозга. Да и вообще просто "снимок" не подойдёт - на нём направление процессов в мозге может быть не видно, то есть надо ещё и какое-то время кино делать. Поэтому ни сейчас, ни в будущем.

mihaild в сообщении #1571250 писал(а):

Пока что вы предлагаете аргументы в пользу несформулированного тезиса. ИМХО лучше наоборот: сначала сформулировать утверждение, а потом его обосновывать.

ozheredov в сообщении #1571274 писал(а):

И да, присоединяюсь к вопросу: не могли бы Вы перечислить аргументы?

В ближайшее время. Аргументы объёмные, надо из них вытащить то, что сейчас важно. Чем глобальнее проблема, тем больше проявлений в разных областях знания она имеет. А та, о которой сейчас речь, наверное, более чем глобальная.

mihaild в сообщении #1571250 писал(а):

А как мы это определяем сейчас? Лично я этого не определяю, я только смотрю, какие задачи текущие системы умеют решать, и насколько надежно.

Верно, потому что пока с ИИ и так всё понятно - слабоват. Нечего определять. Но некоторые диалоговые системы на кого-то уже могут произвести впечатление и заставить задуматься о том, как конкретно оценить степень их разумности.

mihaild в сообщении #1571250 писал(а):

С байесианской точки зрения любое утверждение, которое в принципе можно опровергнуть (точнее привести свидетельство против), в принципе можно и доказать (точнее привести свидетельство за). Если бы вы сказали, какое наблюдение опровергает это ваше "сильный ИИ не будет построен", то тогда отсутствие этого наблюдения было бы подтверждением вашей точки зрения.

Проблема в том, что этот подход лучше всего работает, если есть конкретное утверждение. А утверждение, что ИИ не сможет превзойти человека слишком не конкретное. Опровергнуть его можно тоже только "в общем", исходя из неких качественных, а не количественных, строгих соображений. Тем не менее см. ниже.

mihaild в сообщении #1571250 писал(а):

Но например в языковых моделях всё еще есть проблемы большого контекста - сделать модель, которая сможет поддерживать длинный диалог, запоминая ранее сказанное, но не начинающую галлюцинировать, пока не получается, и просто увеличение ресурсов не очень помогает. Но эксперименты ведутся, и причин считать, что в ближайшие 5 лет в этой области не будет существенного прогресса, я не вижу.

Я думаю, что не будет. Проблема, правда, в том, как оценить "существенность" и "не существенность" прогресса. Диалоговые системы - один из элементов моей аргументации, там будет видно, какие проблемы для их прогресса я имею в виду. И если на практике они разрешимы, то это будет как раз то "наблюдение", которое меня опровергнет.

[mihaild]

(Оффтоп)

ozheredov в сообщении #1571274 писал(а):

И да, присоединяюсь к вопросу: не могли бы Вы перечислить аргументы?

Может быть я пропустил, и кто-то еще просил перечислить аргументы, но ко мне вы в этом точно присоединиться не можете, потому что я этого не просил, и не собираюсь, пока не будет сформулирован тезис:)

Dicson в сообщении #1571282 писал(а):

Верно, потому что пока с ИИ и так всё понятно - слабоват. Нечего определять.

Мне непонятно.

Dicson в сообщении #1571282 писал(а):

Проблема в том, что этот подход лучше всего работает, если есть конкретное утверждение.

А если нет конкретного утверждения, то легко можно развести фейлософию на 50 страниц, из которой всё равно не будет следовать вообще ничего.

Dicson в сообщении #1571282 писал(а):

Проблема, правда, в том, как оценить "существенность" и "не существенность" прогресса.

Можно составить список текстов с вопросами, и считать, на сколько из них модель отвечает правильно, и на сколько уверенно несет бред. Или проверить, за сколько попыток мне (или для большей стабильности оценки среднему из 20 человек, работающих в области) удастся заставить модель галлюцинировать.

[Rasool]

Dicson в сообщении #1571282 писал(а):

Energos в сообщении #1571246 писал(а):

А по-моему как раз очень даже имеет. Квантовые эффекты могут помочь решать некоторые задачи "в лоб".

Rasool в сообщении #1571248 писал(а):

А если тупо скопировать человеческий мозг в "железо"? Сейчас технологии не позволяют это сделать, но в будущем-то (пусть и отдаленном) наверняка смогут.

Тупо можно, а так, чтобы заработало, нет. Мозг находится в постоянной динамике. Это не равновесная система, которую можно остановить, разобрать и скопировать (да и точность копирования равновесных систем относительно менее важна). Поэтому пока вы будете копировать одну какую-то часть мозга, другая за это время изменится и станет неадекватна копии. Надо копировать всё и сразу - типа рентгеновского снимка. Но даже приближение к необходимой точности такого "снимка" уже разрушит мозг. Ведь снимать надо все нейроны сразу и со всеми подробностями - к примеру, минимум до уровня ДНК, так как наследственный аппарат важная часть работы мозга. Да и вообще просто "снимок" не подойдёт - на нём направление процессов в мозге может быть не видно, то есть надо ещё и какое-то время кино делать. Поэтому ни сейчас, ни в будущем.

Я имел в виду следующее. Можно досконально разобраться в работе мозга, не только в его анатомии, но и в его физиологии (на это уйдут десятки лет), а потом изготовить нечто подобное, скажем, электронным путем. Тут есть одна проблема: чтобы человеческий мозг смог решать математические задачки, нужно потратить лет 20-30 (начиная с пеленок и кончая кандидатской диссертацией), а сколько лет понадобиться, чтобы обучить электронный мозг с нуля?

[ozheredov]

Dicson в сообщении #1571282 писал(а):

по мере усложнения систем и задолго до приближения к сложности интеллекта человека их оценка будет становиться всё более и более неопределённой.

Из этого следует, что мы не можем, например, достаточно определенно оценить уровень интеллекта человека, правильно?

Dicson в сообщении #1571282 писал(а):

Но формальный опыт лишь малая часть всего опыта (см. например, парадокс Моравека
).

Например, парадокс Моравека состоит в том, что основные выч.ресурсы тратятся на то, чтобы поддерживать тело в равновесии во время ходьбы, а не на то, чтобы спланировать маршрут. Роботы ходить уже умеют. И да, задача поддержания равновесия прекрасно формализуется.

Dicson в сообщении #1571282 писал(а):

Поведение человека - это реализация глобальной и фактически бесконечной стратегии самосохранения и размножения, где все частные решения увязаны в этом общем контексте и потому не могут быть оценены однозначно ни на каком конечном промежутке времени.

Тогда встроим в ИИ генератор случайных чисел и он будет принимать эти частные решения, просто подбрасывая монетку. Докажите, что такой ИИ по интеллекту не превзойдет человека. Поскольку доказать легко, приходим к противоречию.

Dicson в сообщении #1571282 писал(а):

что съесть на завтрак? Куда пойти учиться? Ремонт сделать сейчас или потом?

Это всё задачи, критерии качества решений которых для Вас неформализуемы, я правильно понял?

Dicson в сообщении #1571282 писал(а):

Чем глобальнее проблема, тем больше проявлений в разных областях знания она имеет.

By the way, простите за прямой вопрос: а дофига ли Вы проникли в разные областя знаний? Образование, область интеллектуальной деятельности?

-- 24.11.2022, 18:28 --

(mihaild)

Соряныч, думал, что к Вам.

mihaild в сообщении #1571327 писал(а):

я этого не просил, и не собираюсь, пока не будет сформулирован тезис

Тезис уже есть: Искуйственный Интеллехт не может мыслить так ярко, так ВЫПУКЛО, так чувственно и так противоречиво, как девушка чилавек.

[Legioner93]

mihaild в сообщении #1571089 писал(а):

Можете сформулировать конкретнее - какая например интеллектуальная задача, решаемая человеком, не будет решена машиной никогда? (могу даже упростить вопрос: не будет решена машиной к 2040 году?)

Прочитать новую художественную книгу и выдать сочинение на заданную тему

"Новую" в том смысле, что не было никакого следа от этого текста в обучающем корпусе

[Dicson]

mihaild в сообщении #1571327 писал(а):

Мне непонятно.

Тезис, который я обосновываю - развитие ИИ потеряет смысл задолго до его приближения к сложности интеллекта человека. Поэтому ИИ всегда будет слабее интеллекта человека.

В связи с чем, вы ранее предположили, что я всегда могу утверждать, что данный ИИ слаб, потому что я не предлагаю способа точно отличать, сильный это ИИ или ещё не совсем. И, таким образом, я получаю постоянную возможность оправдываться, в любых обстоятельствах утверждая, что мои аргументы верны, ИИ опять человека не превзошёл, и этот данный ИИ тоже не сильный, даже если он уже сильный.

Я вам ответил, что таких проблем не будет. То, что ИИ ещё слаб, будет понятно так же, как это понятно сейчас. На том же основании разных формальных и неформальных соображений. Другими словами, сейчас "очевидно", что нынешние системы до человека более чем не дотягивают. Поэтому я и написал, что сейчас "нечего определять". Более или менее точно так же "нечего определять" будет и в будущем. ИИ сильно не эволюционирует - так, чтобы прямо очень сложно было понять, сильный он или ещё нет.

Вот здесь и находится опровергающее меня "наблюдение". Это общепризнанность создания сильного ИИ в среде специалистов. Конечно, "общепризнанность" - понятие растяжимое, но даже то, что создание сильного ИИ в среде специалистов всерьёз рассматривается как, возможно, уже свершившийся факт, будет опровержением меня. Ведь как минимум это уже явное приближение к сильному ИИ, а я-то утверждаю, что усложнение ИИ остановится "задолго" до такового. Ну, или опровержение - это некие точные критерии оценки силы ИИ, если в будущем таковые появятся, но сейчас нас это не интересует.

Значительным шагом к "общепризнанности" может быть развитие диалоговых систем. Но вдаваться в подробности я пока не стану, так как без контекста остальных аргументов это нецелесообразно. И наконец непосредственно в этом обсуждении меня можно опровергнуть, только опровергнув мои аргументы, показав их слабость.

Однако пока, я так понял, вы аргументов всё-таки ещё не ждёте? Предполагая показать их слабость заочно?

mihaild в сообщении #1571327 писал(а):

А если нет конкретного утверждения, то легко можно развести фейлософию на 50 страниц, из которой всё равно не будет следовать вообще ничего.

Верно. Причём 50 страниц - это не предел, можно и больше, если шире смотреть. Проблема ограничений сложности ИИ, как я говорил в посте выше, более чем глобальная. Ведь, по сути, эта часть более общей темы о границах познания, приближение к которым будет по-своему проявлять себя везде - и в физике, и в создании ИИ. Поэтому гитик тут столько, что 50 страниц - это, так сказать, необходимый минимум. Для серьёзного человека, конечно.

Но мы уложимся намного короче. Оставим только узко практическую сторону проблемы, без вводных, обобщений, связей с другими областями знания и принципиальной стороны. По-моему, и так достаточно будет.

mihaild в сообщении #1571327 писал(а):

Можно составить список текстов с вопросами, и считать, на сколько из них модель отвечает правильно, и на сколько уверенно несет бред. Или проверить, за сколько попыток мне (или для большей стабильности оценки среднему из 20 человек, работающих в области) удастся заставить модель галлюцинировать.

Вариант с экспертами лучше. Но опять же без подробностей, ибо - см. выше - рано.

Rasool в сообщении #1571365 писал(а):

Я имел в виду следующее. Можно досконально разобраться в работе мозга, не только в его анатомии, но и в его физиологии (на это уйдут десятки лет), а потом изготовить нечто подобное, скажем, электронным путем. Тут есть одна проблема: чтобы человеческий мозг смог решать математические задачки, нужно потратить лет 20-30 (начиная с пеленок и кончая кандидатской диссертацией), а сколько лет понадобиться, чтобы обучить электронный мозг с нуля?

Здесь свои проблемы. Попытка перевести биологию в электронику потребует столько новых решений и так далеко уведёт нас от оригинала, что будет равносильна созданию полностью новой системы, разве что со слабой ориентацией на естественный интеллект. Но создание ИИ именно так сейчас и идёт.

И вообще, если уж биологию мы в будущем сможем полностью понять, как вы предполагаете, то можно подумать о том, чтобы выращивать нужные мозги в пробирке, внеся изменения в ДНК. Горой встают этические проблемы, конечно, но всё же. Однако на самом деле за чувства искусственных живых мозгов можно не волноваться: если, как я утверждаю, создание сильного ИИ невозможно, то оно невозможно никак.

ozheredov в сообщении #1571372 писал(а):

Из этого следует, что мы не можем, например, достаточно определенно оценить уровень интеллекта человека, правильно?

Правильно, не можем.

ozheredov в сообщении #1571372 писал(а):

Например, парадокс Моравека состоит в том, что основные выч.ресурсы тратятся на то, чтобы поддерживать тело в равновесии во время ходьбы, а не на то, чтобы спланировать маршрут.

Всё верно, процесс формирования знаний сложнее самих знаний. Только обратите внимание, у нас есть знания, а создать мы хотим процесс их формирования.

ozheredov в сообщении #1571372 писал(а):

Роботы ходить уже умеют. И да, задача поддержания равновесия прекрасно формализуется.

"Роботы" в принципе уже умеют всё, что умеет человек. Вопрос в уровне сложности этих умений. Он слабенький. Про превосходство роботов в отдельных "умениях" я уже написал - оно не может выйти далеко за некоторый средний уровень нынешних возможностей вычислительных систем.

ozheredov в сообщении #1571372 писал(а):

Тогда встроим в ИИ генератор случайных чисел и он будет принимать эти частные решения, просто подбрасывая монетку. Докажите, что такой ИИ по интеллекту не превзойдет человека. Поскольку доказать легко, приходим к противоречию.

К какому противоречию? Невозможность дать однозначную оценку - это её изменение в зависимости от вводных. Сейчас вопрос видится так, через минуту иначе.

ozheredov в сообщении #1571372 писал(а):

Это всё задачи, критерии качества решений которых для Вас неформализуемы, я правильно понял?

Да. На практике вы не сможете задать однозначные критерии качества их решения. Всё, что может быть важно, не учтёшь.

ozheredov в сообщении #1571372 писал(а):

By the way, простите за прямой вопрос: а дофига ли Вы проникли в разные областя знаний?

Не очень глубоко проник. До дна ещё далеко. Но вопрос ведь в соответствии знаний занимаемой должности, верно?

Далее личную тему давайте исключим. Это только остроумием мериться. Я и так не успеваю отвечать.

[ozheredov]

Dicson в сообщении #1571392 писал(а):

Правильно, не можем.

То есть для Вас и гроссмейстер, и даун одинаково умны. Или одинаково глупы. Этим вы заблокировали атаку на отсутствие конкретики в Ваших тезисах. Как могли, так и заблокировали.

Dicson в сообщении #1571392 писал(а):

Вопрос в уровне сложности этих умений. Он слабенький.

Стопэ -- вы же написали "НЕ МОЖЕМ". Каким образом Вы отличите слабенький уровень умений от сильненького?

Dicson в сообщении #1571392 писал(а):

Невозможность дать однозначную оценку - это её изменение в зависимости от вводных. Сейчас вопрос видится так, через минуту иначе.

Ну то есть просто встраиваем в ИИ генератор случайных чисел, и он выходит на новый, ранее не достижимый уровень умений, правильно?

Dicson в сообщении #1571392 писал(а):

На практике вы не сможете задать однозначные критерии качества их решения. Всё, что может быть важно, не учтёшь.

А человеческий мозг учитавает все, что важно, и всегда принимает правильное решение, так?

Dicson в сообщении #1571392 писал(а):

Однако пока, я так понял, вы аргументов всё-таки ещё не ждёте?

По-разному: кто-то ждёт, кто-то не ждёт. Лично я жду, потому что сущность Ваших утверждений (тезис), мне понятна (равно как и причина, по которой Вы это утверждаете).

[mihaild]

Legioner93 в сообщении #1571385 писал(а):

Прочитать новую художественную книгу и выдать сочинение на заданную тему

Тут стоит уточнить, что понимается под сочинением (довольно многие люди в такой постановке такую муть напишут...), но если это доопределить примерно как "большинство грамотных людей согласятся, что это действительно сочинение по этой книге, может быть не очень умное, но автор книгу явно прочитал и примерно понял сюжет" - то это вполне хорошая задача. Моя субъективная вероятность того, что эту задачу к 2040 году решат - 70%. А ваша какая?

Dicson в сообщении #1571392 писал(а):

Другими словами, сейчас "очевидно", что нынешние системы до человека более чем не дотягивают.

Это очевидно ровно потому, что есть задачи, которые человеком ощущаются как простые, и которые нынешние системы решить неспособны - даже в SuperGLUE ещё есть треки (в том числе схемы Винограда), на которых люди обходят все модели. Но вы же не предлагаете конкретную задачу, которую машины решить не смогут.

Dicson в сообщении #1571392 писал(а):

Однако пока, я так понял, вы аргументов всё-таки ещё не ждёте? Предполагая показать их слабость заочно?

Я хочу понять, какую конкретно точку зрения вы отстаиваете, прежде чем вникать в аргументы. Вдруг я с вами на самом деле уже согласен, тогда и аргументировать ничего не надо. Или вдруг ваши аргументы хороши, но не доказывают ваш тезис - как я это пойму, не зная тезиса?
Вот вы предлагаете вариант "эксперты никогда не скажут, что сильный ИИ создан" - это нормальное предсказание, и, с учетом AI effect я считаю довольно правдоподбным, что к моменту разбора всех на скрепки признать существование сильного ИИ так и не успеют.

[ozheredov]

mihaild

Что за такой загадочный "момент разбора всех на скрепки"? Это продолжение того, о чем обычно говорит Сербант?

[mihaild]

ozheredov в сообщении #1571400 писал(а):

Что за такой загадочный "момент разбора всех на скрепки"?

Это сценарий ИИ-апокалипсиса, придуманный Бостромом https://en.wikipedia.org/wiki/Instrumental_convergence. Идея в том, что почти любой достаточно мощный оптимизационный процесс почти гарантированно приводит к катастрофическим последствиям.
Себрант, насколько я знаю, считает, что большую опасность представляет более ранний этап, но я с ним тут не согласен (дискуссию между Юдковским и Хэнсоном про это даже собрали в книгу - AI Foom Debate, и я тут на стороне Юдковского, а Себрант - на стороне Хэнсона, и скорее даже больший ИИ-скептик, чем Хэнсон).

[Dicson]

ozheredov в сообщении #1571393 писал(а):

То есть для Вас и гроссмейстер, и даун одинаково умны. Или одинаково глупы. Этим вы заблокировали атаку на отсутствие конкретики в Ваших тезисах. Как могли, так и заблокировали. ... Стопэ -- вы же написали "НЕ МОЖЕМ". Каким образом Вы отличите слабенький уровень умений от сильненького?

Вы преувеличиваете. Прочитайте предыдущий пост внимательнее. Действительно, мы не можем измерить интеллект количественно точно и однозначно (потому что для этого нужно, что называется, посмотреть на интеллект со стороны, а мы в этом чрезвычайно сильно ограничены, так как очень ограниченно можем включить равное нам по сложности явление в контекст своего опыта). Но мы можем сделать это на основании "разных формальных и неформальных соображений", то есть на основании различных явных и неявных маркеров "разумного" поведения. Поэтому, хотя и не точно, но идиотов от гроссмейстеров отличаем и особых споров при этом не возникает. Конечно, за исключением тех случаев, когда идиот и гроссмейстер - это одно и то же лицо. Тогда сложнее.

ozheredov в сообщении #1571393 писал(а):

Ну то есть просто встраиваем в ИИ генератор случайных чисел, и он выходит на новый, ранее не достижимый уровень умений, правильно?

Нет, не правильно. Наши решения изменчивы не потому, что они случайны, а потому что в разных ситуациях разным факторам придаётся разный вес. То есть это как раз одно из проявлений нашего высокого интеллекта - умение тонко учитывать нюансы ситуации. Прокручивая в голове разные аргументы (виртуально моделируя поведение), мы переключаемся в контекст разных обстоятельств (аналогично тому, как мы попадаем в них в реальной жизни) и, соответственно, наши решения меняются, то есть в зависимости от условий меняется тактика стратегии самосохранения и размножения.

ozheredov в сообщении #1571393 писал(а):

А человеческий мозг учитавает все, что важно, и всегда принимает правильное решение, так?

Да, так - и всё учитывает, и всегда принимает правильное решение. Только решение "правильное" не само по себе, а "в контексте опыта и конкретной ситуации" - см. выше.

Слышали, наверное, что опыт в нейронной сети вызывается не по адресу, а по содержанию? Суть этой особенности в том, что, во-первых, опыт в нейронной сети - это сама нейронная сеть, а во-вторых, любой конкретный опыт "размазан" сразу по всей сети, различие только в концентрации разного опыта в разных областях сети. В результате конкретная конфигурация сигналов рецепторов, по-своему меняя картину торможения/возбуждения нейронов в мозге, вызывает из всей сети некий определённый опыт (важны, конечно, не только сигналы рецепторов, но и предыдущее состояние сети, то есть предыдущее "направление мысли").

Как следствие, можно сказать, что в любой реакции представлен сразу весь опыт, но с разным весом. По-другому можно сказать, что в сети вообще нет никакого определённого опыта, а есть объём всего опыта сразу, и сигналы рецепторов вызывают из этого объёма некоторый конкретный опыт, какую-то конкретную реакцию.

ozheredov в сообщении #1571393 писал(а):

По-разному: кто-то ждёт, кто-то не ждёт. Лично я жду, потому что сущность Ваших утверждений (тезис), мне понятна (равно как и причина, по которой Вы это утверждаете).

Последние скобки настораживают, честно говоря. Если там имеется в виду то, что, я думаю, там имеется в виду, то, надеюсь, вы ошибаетесь. Я не такой. Это не обо мне.

mihaild в сообщении #1571395 писал(а):

Я хочу понять, какую конкретно точку зрения вы отстаиваете, прежде чем вникать в аргументы. Вдруг я с вами на самом деле уже согласен, тогда и аргументировать ничего не надо. Или вдруг ваши аргументы хороши, но не доказывают ваш тезис - как я это пойму, не зная тезиса?

Вообще-то тезис я привёл в посте выше. Развитие ИИ потеряет смысл задолго до его приближения к сложности интеллекта человека. Поэтому ИИ всегда будет слабее интеллекта человека.

mihaild в сообщении #1571395 писал(а):

Вот вы предлагаете вариант "эксперты никогда не скажут, что сильный ИИ создан" - это нормальное предсказание, и, с учетом AI effect я считаю довольно правдоподбным, что к моменту разбора всех на скрепки признать существование сильного ИИ так и не успеют.

Да, предлагаю. И он вполне себе ничего. А главное - он единственно возможный, см. ниже. Поэтому успеют разобрать или нет, лучшего критерия не будет. Что же касается AI effec-а, то люди правы. Пока никакого особенного ИИ нет. Может быть, они что-то преуменьшают или преувеличивают, но не выходят за рамки разумного. Дайте им вменяемую Алису, и посмотрим, как они ей в любви признаваться станут. Я лично за себя не уверен.

mihaild в сообщении #1571395 писал(а):

Это очевидно ровно потому, что есть задачи, которые человеком ощущаются как простые, и которые нынешние системы решить неспособны - даже в SuperGLUE ещё есть треки (в том числе схемы Винограда), на которых люди обходят все модели. Но вы же не предлагаете конкретную задачу, которую машины решить не смогут.

Не предлагаю. Потому что такие задачи есть, но сформулировать их нельзя.

Если бы было можно, то задача принадлежала бы к формальному опыту, то есть в целом к тому знанию, которое мы можем сформулировать, выразить языком. Но если критерий оценки нам точно понятен, то он будет заведомо проще того явления, которое нам требуется оценить. Формальный опыт часть всего опыта, из-за чего все критерии, которые можно сформулировать, всегда будут неадекватны сложности мышления. Поэтому если ИИ с такой задачей/критерием/тестом справится, то это ещё не будет означать, что этот ИИ сильный. Тестов для оценки ИИ недостаточно.

На практике мы будем наблюдать, что создаваемые ИИ отвечают всем нашим тестам всё лучше и лучше, но никогда идеально. В итоге мы будем понимать, что ИИ ещё не сильный, но не сможем формализовать разницу. То есть всё так же, как сейчас, просто неопределённости с тем, стал ли ИИ сильным или ещё нет, станет немного больше.

Сказанное можно сформулировать иначе. Язык - это некоторый более простой итог более сложного процесса мышления. Говоря по-другому, язык - это некоторый частный итог мышления, так как язык - это частный элемент мышечной активности. Поэтому если мы хотим оценить весь процесс мышления, то нам нужно выйти за рамки языка. Но за рамками языка нет точных оценок. А если нельзя точно оценить, то… вкратце, будут расти проблемы по всем мыслимым составляющим создания ИИ. В итоге усложнение ИИ потеряет смысл.

Поэтому я и предлагаю критерием опровержения меня "просто мнение" специалистов о том, стал ли ИИ уже сильным или ещё нет. А не тесты. В конце концов мнение специалистов тоже возникает не просто так, в его основании и тесты, и менее формальный опыт: совокупность "разных формальных и неформальных соображений".

Кстати о тестах:

Цитата:

"Стоит отметить, что мы немного скептически относимся к различного вида тестам для определения искусственного интеллекта. Представьте себе, высокоструктурированный тест с конкретными вопросами и ответами, которые могут весьма однозначно интерпретироваться. Это большой потенциал для умной (но не думающей) программы, которая может набраться опыта, научиться на определенных шаблонах, но никогда не сможет рассуждать самостоятельно.

Тогда возникает вопрос о том, должен ли стать интеллект просто технологической системой, достаточно сложной, чтобы правильно отвечать на вопросы, которые более сложная биологическая система (мы) установила в качестве нормативов для определения наличия мышления."

Заменит ли схема Винограда тест Тьюринга?

Источник: IEEE Spectrum.

[mihaild]

Dicson в сообщении #1571408 писал(а):

Да, так - и всё учитывает, и всегда принимает правильное решение. Только решение "правильное" не само по себе, а "в контексте опыта и конкретной ситуации" - см. выше.

Я подозреваю, что, чтобы так получилось, придется определить "правильность" решения через его принятие человеком. Потому что я затрудняюсь сказать, в каком еще смысле моё решение вчера лечь спать в 3 часа ночи было "правильным":)

Dicson в сообщении #1571408 писал(а):

Вообще-то тезис я привёл в посте выше. Развитие ИИ потеряет смысл задолго до его приближения к сложности интеллекта человека.

Я не понимаю, что это значит. Это я и назвал "не знаю тезиса" (это отличается от "не знаю формулировки тезиса").

Dicson в сообщении #1571408 писал(а):

Дайте им вменяемую Алису, и посмотрим, как они ей в любви признаваться станут.

В любви признаются даже текущей версии:)

Dicson в сообщении #1571408 писал(а):

Поэтому я и предлагаю критерием опровержения меня "просто мнение" специалистов о том, стал ли ИИ уже сильным или ещё нет.

Ну вот видите - и никакие аргументы не нужны, я считаю достаточно вероятным, что мнение специалистов таким и будет, пока не станет слишком поздно.