Еще раз про сильный ИИ

[Cos(x-pi/2)]

(Оффтоп)

В школьном возрасте, в 1960-е годы, я любил читать журнал "Знание - Сила" (родители выписывали); в основном, - научную фантастику в нём. Некоторые рассказы и теперь очень нравятся. В №7 1961 г. на стр. 39-42 были опубликованы четыре рассказа (автор Г. Альтов) на тему "Может ли машина мыслить". В интернете они нашлись. Можно сравнить с сегодняшними реалиями фантазии того времени, когда ЭВМ и космонавтика только зарождались :)

(О самом сайте ничего не могу сказать, не изучал его; выбрал ту ссылку только потому, что в конце там есть те же самые маленькие иллюстрации, которые были в журнале 1961 года, и нет навязчивой рекламы, как в других местах, предложенных поисковой системой.)

[b4b5]

(1969г)

"личность есть информация, организованная определенным образом. Не только разум — личность целиком"
https://litmir.org/books/fantastika-i-f ... mirer.html
Дом скитальцев - А. Мирер

[MoonWatcher]

Dicson в сообщении #1642781 писал(а):

Прямо в том же посте. Вы с третьей попытки так и не привели пример системы, которая может на данных из видео-архива научиться делать любую физическую работу. Вот сейчас дали ссылку на какое-то видео, но о любой физической работе там, естественно, и речи нет. Полагаю, вы и сами это понимаете, а значит, совершенно сознательно подменяете аргументы флудом. Зачем?

Я сказал "вполне реальный базис" - и нагуглил для вас первый попавшийся пример выполнения отдельно взятой работы при помощи обучения на видео. Что из этого вы называете флудом?

Dicson в сообщении #1642781 писал(а):

Или вот колл-центры. Только недавно обсуждали, что пока есть галлюцинации, непонятно, какие колл-центры такому ИИ подойдут. Это же должны быть какие-то ни к чему не обязывающие беседы, а есть ли такие колл-центры? Вроде нет. И всё равно вы пишете о применении ИИ в колл-центрах, как фактически уже о реальности. Или «открытия ИИ» — то вы утверждаете, что ИИ их делает, теперь оказывается, он только инструмент. И так, собственно, во всём, поэтому сложнее привести примеры, где вы желаемое за действительное не выдаёте, чем наоборот.

Во-первых, я говорил "является (или может быть)" - что необязательно говорит "фактически уже о реальности". Во-вторых - таки да, в кол-центрах ИИ уже вовсю применяется. Правда, в России эта технология находится на уровне примерно полувековой давности Вообще у вас конечно "оригинальная" позиция: "когда будет - тогда и поговорим". Простите, но я не бухгалтер: меня мало интересует практическое применение чего-либо здесь и сейчас - меня интересуют технологии и их перспективы. Так вот мой опыт общения с чат-ботами говорит, что в принципе они могут заменить человека в кол-центрах - если не прямо сейчас, то в обозримом будущем. Не потому, что я "выдаю желаемое за действительное", а потому что я таким представляю себе это самое обозримое будущее. И эти мои представления (совпадающие с мнением некоторых крупных специалистов в области ИИ) ничем не хуже вашего мнения о принципиальной невозможности создания СИИ (НЕ совпадающего с мнением ни одного из известных мне современных специалистов в области ИИ).

Dicson в сообщении #1642781 писал(а):

Ниже слова, по-вашему, убеждённого сторонника текстов. Как из них следует, Хинтон, наоборот, начинает понимать, что текстов недостаточно. Потому что достаточность текстов он видит только в «философском» плане, то есть в принципе, вероятно, где-то там, вдали, может быть, их и достаточно, а так нет:

А меня "философский" план, т.е. принципиальная возможность создания СИИ на базе языковых моделей, и интересует (в числе прочих интересных вопросов). В практическом отношении, как я уже не раз говорил, ИИ уже вовсю мультимодальный.

Dicson в сообщении #1642781 писал(а):

Вот цитаты с его заблуждениями из того же интервью

Осталось доказать, что это заблуждение - что едва ли представляется возможным - о чем Тьюринг в одноименном тесте предупреждал три четверти века назад. Касательно всего остального - боюсь, что мы идем по очередному кругу. Вы снова и снова сравниваете объективную реальность с ИИ - при том, что никакой объективной реальности в одной отдельно взятой человеческой голове не существует. А существует в ней только ВОСПРИЯТИЕ этой реальности - от относительно адекватного (судя по практическим достижениям нашей цивилизации, построенным на восприятии реальности отдельно взятыми учеными) до феерического бреда. Эти людям не ставят диагнозы - но они идиоты, и их миллионы. Вы правда считаете, что ВОТ ЭТОТ НЕДОУМОК адекватен реальности больше, чем статистическая модель?

Dicson в сообщении #1642781 писал(а):

В общем, судя по всему, индустрию ИИ ждут перемены.

Ясень пень - но что конкретно вы имеете в виду?

Dicson в сообщении #1642781 писал(а):

Все живут в плену заблуждений. Потому что теория всего не имеет смысла. Но при этом абсолютное большинство людей адекватно окружающим их условиям. Потому что нормальный человек постоянно обучается, то есть постоянно корректирует свои взгляды. Что будет с ИИ, если он тоже будет постоянно обучаться, я уже вам объяснял. Что будет, если не будет, тоже.

Нет, не адекватно абсолютное большинство людей окружающим их условиям - в чем легко убедиться, включив телевизор. Люди относительно адекватно ходят в магазины, едят, отправляют надобности и т.д. - но не более того. И нет - нормальный человек НЕ постоянно обучается и вообще вряд ли когда-либо корректирует свои взгляды. Постоянно обучается НЕ нормальный человек, а свои взгляды корректирует человек за гранью если не гениальности, то большого ума. Разумеется, я говорю о взрослых людях - дети и молодежь другое дело, их учиться заставляют. Но повзрослев, они довольно часто отказываются от того, чему их учили, в пользу бесхитростных, не обременительных для ума конструкций. Как я уже говорил, вы постоянно путаете отдельно взятого человека (которого пока пытается заменить ИИ) человечеством вообще. Которое представляет собой некий социальный суперорганизм с элементами коллективного разума (но и коллективной глупости тоже).

stalvoron в сообщении #1642790 писал(а):

Кто элитам деньги даёт на исследования? И наконец вы сами к кому себя причисляете в этом надуманном противостоянии элит и сограждан? Вот вы флудите, маргиналом меня называете, все признаки мощнейшего остракизма налицо. Это значит, я элита? Или наоборот, вы элита? Как это понять? Как согражданам определить, где элита, которая к добру, а где кандидат на костёр, который пытается сбить с пути верного, проторенного прошлой элитой?

Еще раз - вы флудом называете мои доказательства своих слов? Понимаю, что расстроил вас - но при чем здесь флуд?

Ничего надуманного в "противостоянии" нет, как нет и противостояния. Есть развитие человечества через элиты - немногочисленную прослойку креативных в своей области людей. Ни я, ни вы к элитам не относимся, и уж тем более не надо считать признаком элитарности маргинальность в науке (а именно в современной науке, насколько я могу судить, маргинально ваше мнение о принципиальной невозможности СИИ). Напротив - это типичная черта обывателей, "сметь свое суждение иметь" по всякому вопросу вне своей компетенции. Согражданам определять элиту не надо - её определяет сама жизнь, давая дорогу идеям этой элиты. И я надеюсь вы не вкладываете в термин "элита" какую-то избранность? Элитарный в биологии первооткрыватель ДНК Джеймс Уотсон был малограмотным обывателем в вопросах за пределами своей компетенции (например, когда утверждал расовую неполноценность негров). Я этот неполиткорректный термин (не негры, а элита) употребил исключительно для того, чтобы подчеркнуть огромную разницу между человеком и человечеством, которую вы постоянно игнорируете при сравнении ЧЕЛОВЕКА с ИИ.

Деньги элитам дают разные источники - государство, филантропы, простые граждане (через специальные финансовые институты - инвестиционные банки, пенсионные фонды, страховые компании и т.д.) Но к чему этот вопрос?

Dicson в сообщении #1642781 писал(а):

См. предыдущий пост — упрощение на упрощении и так далее.

Нет никакого упрощения на упрощении - есть упрощение в том, что не важно. То, какого цвета шляпка на голове у старушки, переходящей дорогу, и пролетает ли на красный свет светофора муха, одинаково не влияют на принятие решения как человеком, так и автопилотом.

Dicson в сообщении #1642781 писал(а):

Так как оценивать поведение ИИ будет человек, то и сложность человека ИИ не превзойдёт. А больше оценивать некому. Почему не превзойдёт, см. начало нынешнего обсуждения - по мере приближения сложности поведения ИИ к сложности поведения человека время каждого нового усложнения ИИ будет всё стремительнее расти к бесконечности. А также, см. выше про невыразимость мышления никаким языком.

Вынужден повторить: это то же самое, что сказать: так как учить Ньютона будет человек, то сложность этого человек Ньютон не превзойдет... Вы снова и снова путаете человека и человечество. ИИ - замена человека. А учит этот ИИ всё человечество, все накопленные им знания - десятки миллионов книг, сотни миллионов научных статей, сотни миллионов видеороликов и фильмов, и т.д. Вы правда думаете, что все это неспособно превзойти сложность, для начала, абстрактного Васи Пупкина, которого призван заменить ИИ?

Dicson в сообщении #1642781 писал(а):

Превосходство над человеком столь простой по сравнению с мышлением системы возможно потому, что для AlphaGo игра — это весь доступный ей мир, а обучение — процесс адаптации к этому миру. Однако человек адаптируется совсем к другому миру, поэтому несравнимо более простая система может превосходить человека в способности адаптироваться к некоторым частным составляющим его мира. Иными словами, за счёт качественно более высокой сложности и богатого опыта человек способен наблюдать всю ситуацию со стороны, включив её в свой опыт, и потому создать и игру, и AlphaGo. Которая затем сможет выявить в игре некоторые частные закономерности, не замеченные человеком, и в результате сможет обыграть человека, оставаясь при этом много его проще — а сам человек сможет понять, что его обыграли, потому что для AlphaGo таких понятий не существует.

То же с любым ИИ. Он существует «внутри» нашего опыта, так как без нас не выживет, потому что его связь со средой качественно более простая, чем у нас, а адекватность знаний оценивается прежде всего по отношению к реальности. Поэтому на практике получится или создать систему, работа которой будет повторять возможности человека в целом, но воспроизведённые на очень простом уровне, или систему, которая будет, возможно, и превосходить человека, но лишь на уровне частных элементов его опыта.

См. выше - ИИ существует внутри опыта ЧЕЛОВЕЧЕСТВА, а заменить, для начала, должен ЧЕЛОВЕКА. Разумеется, в более далекой перспективе речь пойдет и о замене человечества - что, уверен, тоже неизбежно. Потому что "карлик" Ньютон существовал внутри опыта "гигантов", на плечах у которых он сидел - но тем не менее вывел из него новые знания. Примерно как дата-майнинг выводит новые знания из кассовых чеков супермаркета - просто в данном случае речь идет о более сложной и комплексной информации.

Dicson в сообщении #1642781 писал(а):

Знания есть только в головах людей. Больше его нигде нет. В книгах лишь закорючки. Поэтому пишет тексты только сам человек, один, осмысляя мир в преломлении своего опыта, врождённого и приобретённого. Где я здесь человечество пропустил, которое чего-то там пишет, по-вашему?

Нет - знания есть как раз в книгах, в виде закорючек. А условные закорючки (извилины и прочее) в мозге человека - это как раз результат обработки этих знаний. А человечество вы в очередной раз пропустили даже в этой фразе "пишет тексты только сам человек, один, осмысляя мир в преломлении своего опыта, врождённого и приобретённого". Во-первых, пишет тексты не один человек, а сотни миллионов людей (книги, статьи и т.д.) Во-вторых, если это научные тексты, то свой опыт в них вообще никак не осмысливается - осмысливается как раз книжный опыт, порожденный человечеством.

Dicson в сообщении #1642781 писал(а):

Тексты откуда берутся? Свыше нам даны? Вы понимаете, что в этой своей любви к СИИ вы уже до откровенной чуши докатились? Текстов, которые уже есть, для описания мира может быть достаточно, только если создана теория всего. Знай себе выводи из описанных в ней первооснов. Но такая теория не имеет смысла.

Могу повторить в тридесятый раз, мне на жалко: тексты пишет человечество. И в этом смысле каждому отдельно взятому человеку даны свыше - только не богом, а человечеством, книжным наследием сотен поколений.

Dicson в сообщении #1642781 писал(а):

Это ж как надо работу любить, чтоб инстинкт самосохранения на ней утрачивать. Редко, кто так может. Собственно, никто. Читайте про гомеостаз, который в основании и так далее, всё с самого начала.

Ну, если вы на работе пашете как папа Карло в страхе перед расстрелом, то могу только посочувствовать. Я только не понял зачем свой печальный опыт проецировать на остальных, если ИИ в подобной мотивации просто не нуждается. Ну боится таксист, что его расстреляют за некачественную доставку пассажира из точки А в точку Б - автопилот это сделает просто потому, что получил такое указание.

Dicson в сообщении #1642781 писал(а):

В ИИ всё можно описать. Весь ход вычислений. Он инструкция — как из входа получить выход. Ничего неописуемого в нём не может быть в принципе.

Еще раз: речь не о вычислениях, а о принятии конкретного решения.

Dicson в сообщении #1642781 писал(а):

Если контекст можно описать объективно и адекватно человеческой сложности (а речь именно об этом), то это равносильно тому, что мышление человека можно описать, а квалиа при этом не опишется. Ведь квалиа языком невыразима. Но тогда, получается, что наши ощущения сложнее мышления. А это глупость. Следовательно, на самом деле мыслит не мозг или не только мозг, и «настоящее» мышление где-то от нас скрыто и языком невыразимо. В итоге невозможность выразить словами квалиа в любом случае означает невозможность выразить словами мышление. Поэтому всё решается проще — см. начало поста.

Я не знаю что глупость: что ощущения сложнее мышления, или что мышление сложнее ощущений. Рад, что вы в этом разобрались, но мне до этого далеко. Я говорил о другом: субъективное квалиа объективно описать (выразить) невозможно.

stalvoron в сообщении #1642790 писал(а):

Вы писали об моделировании эволюции и случайных поправках, которые вносит в систему ИИ-агент. Вы, видимо, полагали, что эволюция - это случайный перебор всех сочетаний молекул, а значит, и модель эволюции тоже случайным перебором должна быть. Я вам ответил - устанете ждать. И при этом в любом случае система не выйдет за рамки того, что мы можем оценить. О чём вы пишете сейчас?

Нет, это как раз вы представляете эволюцию ИИ как нечто вроде перебора сочетаний молекул - я говорил о случайном изменении параметров модели. Случайном не хаотически, а по какому-то принципу, например. Зачем системе надо выйти за рамки того, что мы можем оценить, я не понял - речь шла о совершенствовании системы. Вы случайным образом поменяли параметры модели - и она, например, стала лучше решать какие-то задачи.

Dicson в сообщении #1642781 писал(а):

Во-первых, смотри про заблуждения в начале поста. Если неизвестны аргументы против, то почему бы не вкладывать? Потом, вкладывают в масштабирование, но прямо завтра СИИ никто не обещает. А там или ишак, или падишах. И наконец кому от этого вред? Наоборот, только польза. Наука двигается, люди при деле, многие счастливы, ждут СИИ-мессию. К тому же мультимодальность, роботы — в любом случае пригодится. Поэтому пусть не СИИ, но много полезного может появиться на бесконечном пути к нему.

Чье заблуждение - ваше или Хинтона?.. Что касается СИИ, то в OpenAI вполне открыто говорят о своих планах по его созданию, и скорее всего масштабирование в этом играет далеко не последнюю роль.

Dicson в сообщении #1642781 писал(а):

С чего бы вы взяли, что чат-боты умнее отдельных людей? Просто эти люди обучены другому. Если им нужна программа, они обратятся к программисту. Этак у вас калькулятор умнее всех вообще будет. Никто так быстро не посчитает, а уж корни и вообще не каждый знает, что такое. Я уже вам объяснял, мы знаем меньше текстов, но те, что знаем, понимаем глубже. И тем, что можно описать, наш опыт не исчерпывается — см. начало поста. Опыт человека реализован не столько в текстах, сколько в том, как их добывать — как исследовать мир, осмыслять его себе на благо и преобразовывать в слова, чтобы знания можно было хранить и передавать. ИИ на это не способен — у него нет гомеостаза, как критерия, на основании которого можно отделять истинное от ложного.

Я это взял из своего опыта общения с людьми - меня в ИИ, по сравнению с ними, впечатлили именно глубина понимания текстов (например, при обсуждении какого-нибудь рассказа). Да, по-настоящему умный и образованный человек лучше - но умны и образованны далеко не все люди. Насчет критерия "на основании которого можно отделять истинное от ложного", вы ошибаетесь - с точностью до наоборот, у ИИ он есть - текстовая статистика. Пока критерий несовершенный, может он таким и останется - но это критерий. Какой критерий у человека - вопрос неоднозначный. Если он неграмотный - это устные слухи. Ну человеку бабка на базаре достоверно сообщила, что если в кране нет воды, значит выпили ж..ды. Если грамотный, но необразованный и/или дурак - почитает тексты, необременительные для своего интеллекта. Или, хуже того, оценит вопрос с точки зрения своего опыта, как в "Письме к ученому соседу" (очень точная и не теряющая актуальности форма мышления малообразованных и/или глупых людей). Если образованный и умный - почитает качественную информацию (энциклопедия, справочник, учебник, подборка научных статей, препринты и т.д.) Во всех трех случаях имеем дело с текстами.

В очередной раз повторюсь: да, человек обрабатывает эти тексты иначе. Я выше описал свое понимание как: переводит из одной модальности в другую (например, мысленно воображает прочитанное), накладывает конкретную информацию на усвоенные паттерны и т.д. Это огромный и сложный вопрос - как человек понимает смысл прочитанного в тексте. Но в любом случае источником обучения человека текст выступает точно так же, как он выступает источником обучения языковой модели. Во-всяком случае если мы говорим о каком-нибудь интеллектуальном (как мы это обычно понимаем) занятии.

При том, что объективно охота или поиск пресной воды у бушменов занятие не менее интеллектуальное и текстового опыта задействует, возможно, немного. Я просто не в курсе какую роль в этом опыте играют рассказы стариков, а какую принцип "делай как я". Поэтому сейчас такой большой интерес к обучении на видео - от визуального опыта бушменских охотников это мало чем отличается. Но не покрывает их опыт запахов, звуков, тактильных ощущений и т.д. Насколько этот опыт будет востребован при обучении роботов - вопрос открытый.

Dicson в сообщении #1642781 писал(а):

СИИ — фантастика, причём антиутопия. Странно стремиться к самоубийству всего человечества и обсуждать, как половчее это сделать.

Коллективной естественной глупости человечества я опасаюсь куда больше, чем искусственного разума СИИ. Появление последнего наверняка будет сопровождаться большими социально-историческими потрясениями, но если человечество в них выживет, то возможно вступит в "золотой век". Но это если говорить исключительно про AGI - нечто, лишенное "свободы воли" и не слишком превосходящее интеллект человека и человечества.

[ozheredov]

MoonWatcher в сообщении #1643049 писал(а):

Вы правда считаете, что ВОТ ЭТОТ НЕДОУМОК
адекватен реальности больше, чем статистическая модель?

Этот недоумок адекватен реальности не меньше, чем девушка по вызову, ублажающая клиента-извращенца в костюме медведя. Он адекватно решил заработать адекватное его потребностям бабло, и если он пилит контент для определенной аудитории - это ещё не значит, что он в него верит.

MoonWatcher в сообщении #1643049 писал(а):

не адекватно абсолютное большинство людей окружающим их условиям - в чем легко убедиться, включив телевизор.

Вполне возможно, что в тех условиях, в которых они находятся - это поведение близко к оптимальному. Просто мы с Вами в них не попадали (и дай бог, не попадём)

-- 17.06.2024, 00:25 --

MoonWatcher в сообщении #1643049 писал(а):

десятки миллионов книг, сотни миллионов научных статей, сотни миллионов видеороликов и фильмов, и т.д. Вы правда думаете, что все это неспособно превзойти сложность, для начала, абстрактного Васи Пупкина,

Если встать на мейнстримную концепцию функционирования мозга, нейросети потребуется примерно 80 млрд. в квадрате весов , чтобы превзойти Васю Пупкина. Плюс ПО, обеспечивающее такую же степень параллельности вычислений, как у человека.

-- 17.06.2024, 00:34 --

MoonWatcher в сообщении #1643049 писал(а):

Нет - знания есть как раз в книгах, в виде закорючек. А условные закорючки (извилины и прочее) в мозге человека - это как раз результат обработки этих знаний.

Это элементарно парируется тем, что теория без практики ничто. Вы можете изучить гидродинамику Ландавшица до дыр, но когда Вы сядете за компьютер проектировать самолёт - Вы посыплетесь. Потому что упрётесь в, например, в расфокус внимания из-за неправильного направления взгляда при нажимании кнопок на клаве. Вы можете изучить учебники шахмат Дворецкого, Капабланки и Сейраванна, но на первом же турнире Вы посыплетесь. Практика - это прежде всего понимание и управление эмоциями. Возможно, у ИИ это будет не так, но тут на сцену выходит Бритва Оккама ))

[MoonWatcher]

ozheredov в сообщении #1643055 писал(а):

Этот недоумок адекватен реальности не меньше, чем девушка по вызову, ублажающая клиента-извращенца в костюме медведя. Он адекватно решил заработать адекватное его потребностям бабло, и если он пилит контент для определенной аудитории - это ещё не значит, что он в него верит.

Увы - верит. Я достаточно много общаюсь с разными людьми и знаю как много людей верят в подобный бред. Причина простая - эмоции. Главный источник вдохновения создателей шедевров - и главный источник человеческого скудоумия, мозги отключает напрочь. И вообще это только в кино есть штирлицы, притворяющиеся глупее, чем они есть - в реальной жизни мало кто на такое самоуничижение способен. Как сказал один старый аристократ в к/ф "Барри Линдон", "Я предпочитаю, чтобы меня считали скорее рогоносцем, чем глупцом, сэр!.."

ozheredov в сообщении #1643055 писал(а):

Вполне возможно, что в тех условиях, в которых они находятся - это поведение близко к оптимальному. Просто мы с Вами в них не попадали (и дай бог, не попадём)

Да, когда кроманьонец прёт с голыми руками на пещерного медведя, то расплата за такое не слишком оптимальное поведение будет жестокой. Но в том-то и дело, что в огромном числе случае неадекватное восприятие действительности человеку ничего не стоит.

ozheredov в сообщении #1643055 писал(а):

Если встать на мейнстримную концепцию функционирования мозга, нейросети потребуется примерно 80 млрд. в квадрате весов , чтобы превзойти Васю Пупкина. Плюс ПО, обеспечивающее такую же степень параллельности вычислений, как у человека.

Такие оценки не встречал. Если сравнивать с количеством синаптических связей (что вряд ли корректно), то параметров нужно от 100 трлн. Но даже в случае человека количество параметров - это еще не всё. У Васи Пупкина их скорее всего не меньше, ну или немногим меньше, чем у Эйнштейна - значит дело в чем-то еще.

ozheredov в сообщении #1643055 писал(а):

Это элементарно парируется тем, что теория без практики ничто. Вы можете изучить гидродинамику Ландавшица до дыр, но когда Вы сядете за компьютер проектировать самолёт - Вы посыплетесь. Потому что упрётесь в, например, в расфокус внимания из-за неправильного направления взгляда при нажимании кнопок на клаве. Вы можете изучить учебники шахмат Дворецкого, Капабланки и Сейраванна, но на первом же турнире Вы посыплетесь. Практика - это прежде всего понимание и управление эмоциями. Возможно, у ИИ это будет не так, но тут на сцену выходит Бритва Оккама ))

Эмоциональный интеллект востребован далеко не всегда, но теоретически ИИ в этом превзойдет любого человека - были бы данные. А они вроде не проблема. Что касается практики, то она бывает разная. Шахматы пример неудачный - ИИ на эмоции своего противника тьфу и растереть, он его под орех разделает. Другое дело - какая-нибудь уборка или готовка, которая обсуждалась выше. Но и там виртуальная реальность с видеоархивами скорее всего способна послужить заменой человеческого опыта.

-- 17.06.2024, 01:42 --

stalvoron в сообщении #1642790 писал(а):

А это уже двойные стандарты во всей красе. Вы значит прогнозируете, а мне нельзя? Притом, что у Вас, то "сегодня и сейчас", то когда нибудь. Если создадут ИИ не "инструмент", а "инициатора", уверяю, надо мной не посмеётся никто, смеяться будет некому и мгновенно. Да и если, ИИ, как "инструмент", кто нибудь применит слегка не рассчитав, то тоже, может быть некому. Тот кто изобретает противопехотный мины, тоже хочет, что бы всё было хорошо. ИИ в этом плане не отличается от всех других "инструментов". Смеяться можно над всем чем угодно, если есть кому.

Конечно, никто не запрещает утверждать, что ИИ никогда не выйдет за пределы понятия "инструмент" - непонятно только на чем основывается мнение, что мы живем на пике технологического прогресса. И как уже говорил, я за последнее время не встречал среди специалистов по ИИ мнения, что AGI невозможен - при том, что еще несколько лет назад такие мнения встречались.

stalvoron в сообщении #1642790 писал(а):

Что мне специалисты с такой низкой вероятностью? Да ещё на такой временной период. А Вы утверждаете, что над моим прогнозом будут смеяться. Мой прогноз 100 % ный.

Что делает его еще более сомнительным.

stalvoron в сообщении #1642790 писал(а):

Не согласен. В аспекте нашего диалога, не риторический. Машинистку принтер не заменил категорически, или Вы никогда не работали с машинисткой. Я работал. И с принтером работал. В упор их нельзя по функционалу отождествлять (опять Ваше "скользкое" "инструмент- исполнитель". Не надо). И машинистки никуда не исчезли, их переименовали весёлые ребята- менеджеры по кадрам. Принтер это симбиоз пишущей машинки и копира. Инструмент. Всего лишь. Толковая машинистка - референт, корректор , оператор пишущей машинки и собеседник, а иногда, генератор творческих идей, т.е. инициатор исполнения. Пусть редко, а принтер никогда. Ваш пример не удачен.

Вы еще запишите толковую машинистку в любовницы босса... Никто машинисток не переименовывал - они просто вымерли как профессия. Посмотрите старое кино как в большом зале сидят женщины и стучат по машинке... Они просто набирали рукописные тексты или размножали копии.

stalvoron в сообщении #1642790 писал(а):

Вы игнорируете, что эти люди не просто делали расчеты, а ещё и имели к этому мотивы т.е. были инициаторами (монастырских служек - писчиков я уважаю, но в расчёт не беру. Я про Математиков). Считали они инструментами, сами инструментами не будучи. И это критическая разница.

Мотивы конечно были - зарплата. Только при чем здесь мотивы, если ИИ в них просто не нуждается? Вы навечно записали ИИ в инструменты, противопоставив их исполнителям-людям - я вам показал на этих примерах, что сейчас куда более примитивные, чем современный ИИ, инструменты заменили некоторые профессии. И соответственно - людей-исполнителей. И таких примеров немало - по мере развития технологий вымерли тысячи профессий, их автоматизировали машины. Точно так же вымрут и другие профессии - на этот раз благодаря ИИ.

Можно ли назвать машины исполнителем, а не инструментом? Вроде как нет - ими же управляет человек. Но тогда давайте называть инструментами и людей, которыми управляют другие люди...

stalvoron в сообщении #1642790 писал(а):

Нет не делает пока ИИ того же, что и человек при решении интеллектуальной задачи. С количественной стороны люди (коль вы выбрали эту область, практически никогда не считали в "уме". т.е. без второй природы, пальцы, горошинки, ракушки, логарифмическая линейка, астролябия, О-о-о! калькулятор). Ну теперь ИИ! Просто количественно задачи были соответствующего уровня . Не делал Мендель расшифровку генома. А с качественной стороны, надо было Архимеду царю потрафить - нате вам решение интеллектуальной задачи. И без ИИ. А ИИ если его не пнуть, и за ухом не почешется. Если пнуть, то да, как разойдется. Инструментище же.

Ну вот опять - Мендель, Архимед... Да не про это пока(!) ИИ - не про научные открытия. Это - инструмент, исполнитель (никакой разницы, на самом деле - я показал это выше) решения разных задач. Которые со временем будут становиться все более сложными и "исполнительскими", по вашим критериям.

stalvoron в сообщении #1642790 писал(а):

Полностью согласен, абсолютно !!!. Название"инструмент" определяется не тем, что забивает гвоздь, просчитывает комбинации в Го, вычисляет оптимальное целеупреждение, а тем, что "Оно" делает. Наконец то мы нашли что такое ИИ.

Ну и как же вы определяете круг работы инструмента?

[MoonWatcher]

MoonWatcher в сообщении #1643058 писал(а):

Можно ли назвать машины исполнителем, а не инструментом? Вроде как нет - ими же управляет человек. Но тогда давайте называть инструментами и людей, которыми управляют другие люди...

Разница разве что в том, как управляют - в случае машин нажимают кнопки, программируют и т.д. А человеку дают поручения на естественном языке. Но в случае с ИИ это тоже могут быть поручения на естественном языке - и тогда грань с людьми окончательно стирается. Совершенствование ИИ будет выражаться в интерактивности - он будет задавать уточняющие вопросы, искать недостающую информацию, проверять качество своей работы, нанимать своих исполнителей и т.д. Т.е. вести себя не просто как исполнитель, а исполнитель инициативный и образованный.

[ozheredov]

MoonWatcher в сообщении #1643058 писал(а):

Я достаточно много общаюсь с разными людьми и знаю как много людей верят в подобный бред.

Именно для них этот фрукт и вещает. Сам он верит только в лайки и просмотры.

MoonWatcher в сообщении #1643058 писал(а):

в том-то и дело, что в огромном числе случае неадекватное восприятие действительности человеку ничего не стоит.

Тут 100% согласен - при отсутствии жёсткой коррекции поведения народ начинает вести себя так, как подсказывает внутренняя рандомная обезьяна. Поэтому и говорят, что для воспитания детей лупить нужно нещадно - в этом случае роль

MoonWatcher в сообщении #1643058 писал(а):

пещерного медведя

исполняет родной батя ))

MoonWatcher в сообщении #1643058 писал(а):

Если сравнивать с количеством синаптических связей (что вряд ли корректно), то параметров нужно от 100 трлн.

Да, я об этом. А почему некорректно? Типа как сложность проца измеряем числом транзисторов.

MoonWatcher в сообщении #1643058 писал(а):

Эмоциональный интеллект востребован далеко не всегда, но теоретически ИИ в этом превзойдет любого человека - были бы данные.

Не уверен, что что-то в человеке не прописано на чисто хардверном уровне и это что-то не невозможно расшифровать. Впрочем, это чисто моё мнение.

MoonWatcher в сообщении #1643060 писал(а):

он будет задавать уточняющие вопросы, искать недостающую информацию, проверять качество своей работы, нанимать своих исполнителей
и

отвечать в суде, если что-то пойдет не так. Очень многое упирается именно в это

[MoonWatcher]

ozheredov в сообщении #1643063 писал(а):

Именно для них этот фрукт и вещает. Сам он верит только в лайки и просмотры.

Нет - он сам такой. Отсюда миф о манипулировании населением - в этом "манипулировании" почему-то преуспевают именно дураки. По одной простой причине - у них всегда найдется большая аудитория. Глупость мнимого манипулятора входит в резонанс с глупостью мнимых манипулируемых - они просто нашли друг друга. Тогда как умный дураком манипулировать не способен - Эйнштейн хоть в лепешку расшибись, а дурак все равно предпочтет ясную и понятную ему, дураку, картину мира. И под разоблачающим современную физику видосиком такого же дурака напишет: "Спасибо за правду!".

ozheredov в сообщении #1643063 писал(а):

Тут 100% согласен - при отсутствии жёсткой коррекции поведения народ начинает вести себя так, как подсказывает внутренняя рандомная обезьяна. Поэтому и говорят, что для воспитания детей лупить нужно нещадно - в этом случае роль

Лупить надо за наглость, когда садятся на голову. Как в школах, где с отменой телесных наказаний ученики перестали бояться посылать учителей в непечатных выражениях или даже бить их. Но это тонкая грань - где хамство и наглость, а где невинная шалость, критическое мышление и т.д. Но то, о чем я говорил, индивидуальному воспитанию не поддается - отдельно взятый человек ничем не рискует за свое невежество в науках. За это расплачивается общество в целом.

ozheredov в сообщении #1643063 писал(а):

Да, я об этом. А почему некорректно? Типа как сложность проца измеряем числом транзисторов.

Некорректно по причине того, что ИНС и мозг - далеко не одно и то же. Концепция ИНС была лишь вдохновлена базовыми и очень поверхностно описанными принципами устройства мозга. Поэтому далеко не факт, что с достижением искомых 100 трлн параметров ИНС догонит мозг условного Васи Пупкина. Не говоря уже о мозге условного Эйнштейна, который при примерно таком же количестве синаптических связей работал куда лучше.

ozheredov в сообщении #1643063 писал(а):

Не уверен, что что-то в человеке не прописано на чисто хардверном уровне и это что-то не невозможно расшифровать. Впрочем, это чисто моё мнение.

Я не в курсе, но подозреваю это результат обучения. Если так, то располагая гораздо более масштабным опытом, ИИ способен превзойти человека в распознавании эмоций.

ozheredov в сообщении #1643063 писал(а):

отвечать в суде, если что-то пойдет не так. Очень многое упирается именно в это

Не думаю, что вопрос ответственности будет сдерживать развитие ИИ. Это как с машиной - она тоже может убить или покалечить. Иногда вину за это возлагают на того, кто эту машину эксплуатирует или разработал, иногда списывают на несчастный случай. Это вопрос эффективности: если тот же автопилот будет убивать 100 тыс человек в год против нынешнего 1 млн жертв ДТП (которые в абсолютном большинстве случаев происходят из-за человеческого фактора), то на ответственность просто забьют - рациональное всегда побеждает. Хотя при желании и здесь можно учредить, например, страховой фонд, куда разработчики ИИ будут отчислять на возмещение ущерба и компенсации.

[ozheredov]

MoonWatcher в сообщении #1643104 писал(а):

Эйнштейн хоть в лепешку расшибись, а дурак все равно предпочтет ясную и понятную ему, дураку, картину мира.

Если Эйнштейн нарисует ясную и понятную ему, дураку, картину мира (а он сможет это сделать лучше, чем дурак - поскольку способен лучше разобраться в психологии любого) - то дурак предпочтёт Эйнштейна. Если же Эйнштейн начнёт метать бисер перед свиньями - тогда да, внимание дурака перехватит другой дурак.

MoonWatcher в сообщении #1643104 писал(а):

И под разоблачающим современную физику видосиком такого же дурака напишет: "Спасибо за правду!".

Катющик, который разоблачает своим видосиком современную физику - безусловно дурак. Но те, кто провернул петрушку со свободой слова, выпустив Катющика на большую аудиторию - не дураки.

[stalvoron]

MoonWatcher в сообщении #1643049 писал(а):

stalvoron в сообщении #1642790

писал(а):
Кто элитам деньги даёт на исследования? И наконец вы сами к кому себя причисляете в этом надуманном противостоянии элит и сограждан? Вот вы флудите, маргиналом меня называете, все признаки мощнейшего остракизма налицо. Это значит, я элита? Или наоборот, вы элита? Как это понять? Как согражданам определить, где элита, которая к добру, а где кандидат на костёр, который пытается сбить с пути верного, проторенного прошлой элитой?
Еще раз - вы флудом называете мои доказательства своих слов? Понимаю, что расстроил вас - но при чем здесь флуд?

. Что то вы ошиблись с цитированием . Это не моё.

MoonWatcher в сообщении #1643049 писал(а):

stalvoron в сообщении #1642790

писал(а):
Вы писали об моделировании эволюции и случайных поправках, которые вносит в систему ИИ-агент. Вы, видимо, полагали, что эволюция - это случайный перебор всех сочетаний молекул, а значит, и модель эволюции тоже случайным перебором должна быть. Я вам ответил - устанете ждать. И при этом в любом случае система не выйдет за рамки того, что мы можем оценить. О чём вы пишете сейчас?
Нет, это как раз вы

Да что ж такое?Не моё.

MoonWatcher в сообщении #1643058 писал(а):

непонятно только на чем основывается мнение, что мы живем на пике технологического прогресса.

. Вы начинаете приписывать собеседнику мнения, которые он не имеет.Это либо заблуждение либо манипуляция.

MoonWatcher в сообщении #1643058 писал(а):

Что делает его еще более сомнительным.

. Что делает его равнозначным по надёжности прогнозу, который Вы представили в качестве аргумента. Не больше, не меньше.

MoonWatcher в сообщении #1643058 писал(а):

они просто вымерли как профессия.

Вы сильно передёргиваете собственные высказывания . Вы утверждали, что машинисток заменили (как профессию )принтеры (перечитайте своё высказывание).

MoonWatcher в сообщении #1643058 писал(а):

сидят женщины и стучат по машинке

. Да помню я, как наше маш бюро выглядело,но Вы то, говорили об интеллектуальной работе, а почему то, привели пример замены ручного привода пишущей машинки на электронный. Я и сказал, что пример не удачный . Не трогайте, Вы, машинисток.

MoonWatcher в сообщении #1643058 писал(а):

Мотивы конечно были - зарплата. Только при чем здесь мотивы, если ИИ в них просто не нуждается?

. Ну во первых, мотивы у Архимедов, Менделей, не только и не всегда зарплата (тщеславие, зависть, месть, страсть, мания величия...). А во вторых, я и говорю, что если ИИ не нуждается в мотивах, то он равнозначен молотку, который лежит на полке, безмотивный такой. И будет вечно лежать. Я же с Вами не спорю.

MoonWatcher в сообщении #1643058 писал(а):

Но тогда давайте называть инструментами и людей, которыми управляют другие люди...

. Конечно давайте, но мы уже опоздали. Я в передовицах советских газет читал"... - инструмент мирового империализма..."

MoonWatcher в сообщении #1643058 писал(а):

Это - инструмент, исполнитель (никакой разницы, на самом деле - я показал это выше) решения разных задач.

Вот тут я потерялся. О чём мы тогда дискутируем? Так Вы согласны что ИИ инструмент? Если да, то всё. Мир! Дружба! Май!

MoonWatcher в сообщении #1643058 писал(а):

Ну и как же вы определяете круг работы инструмента?

Да никак. Я о "круге работы инструмента" не говорил и не предполагал даже. Это, по мне, совершенно, фантастически, бессодержательный вопрос. Как определить круг работы штопора? Да как угодно. Что хочешь можно делать. Аппендицит удалить, например. Я Вас не понял. Also. Уважаемый MoonWatcher, я наверное пойду себе из темы. Спасибо, за беседу. Вы мне помогли узнать новое, в области развития ИИ. Буду с интересом следить за темой " с приставного стула", так сказать.

[ozheredov]

stalvoron в сообщении #1643116 писал(а):

Вы утверждали, что машинисток заменили (как профессию )принтеры

Принтер это не профессия. Профессия вымерла не потому, что исчезла потребность, а потому что удовлетворение этой потребности переложили с человека на машину. Переложили езду с лошади на мотоцикл => исчезла профессия "извозчик". Но потребность ездить никуда не девалась.

stalvoron в сообщении #1643116 писал(а):

А во вторых, я и говорю, что если ИИ не нуждается в мотивах, то он равнозначен молотку, который лежит на полке

А почему не стиральной машине, которой нажатием пары кнопок задали программу стирки, и она полтора часа стирает?

На самом деле, и у стиралки, и у принтера тоже есть мотивы, только в их случае это называется "команды". В точности то же самое есть и у человека - вся гормоналка это набор управляющих команд. Машинистке гормоны дают управляющий сигнал "хочу кушать икорку с маслом", после чего она выбирает между двумя своими основными профессиями (одна - машинистка, вторая - подревнее и не исчезнет никогда) и чапает на работу.

stalvoron в сообщении #1643116 писал(а):

Вы согласны что ИИ инструмент? Если да, то всё. Мир! Дружба! Май!

Вы никогда не имели дело с инструментом, наделенным сознанием - скажем, с лошадью (о наличии сознания говорит моя знакомая, владеющая двумя лошадьми). Лошадь - это инструмент, но еще она способна куснуть Вас за задницу. Если теперь промасштабировать мозг лошади с учетом размеров выделяемых под ИИ вычислительных мощностей, то такая лошадь сможет откусить задницу бОльшей части человечества.

[MoonWatcher]

stalvoron в сообщении #1643116 писал(а):

Что то вы ошиблись с цитированием . Это не моё.

stalvoron в сообщении #1643116 писал(а):

Да что ж такое?Не моё.

Наверное когда выделил текст у Dicson-а, то случайно нажал кнопку "Вставка" под вашим сообщением.

stalvoron в сообщении #1643116 писал(а):

Вы начинаете приписывать собеседнику мнения, которые он не имеет.Это либо заблуждение либо манипуляция.

Это следует из вашего ИИ никогда не выйдет за пределы понятия "инструмент", что в моем понимании означает, что прогресс в этой области остановится.

stalvoron в сообщении #1643116 писал(а):

Что делает его равнозначным по надёжности прогнозу, который Вы представили в качестве аргумента. Не больше, не меньше.

Нет, не делает - те прогнозы делали достаточно авторитетные специалисты. Разумеется они вполне могут ошибаться, и к тому же часто противоречат друг другу. Но все-таки прогнозы специалистов обычно более аргументированы - у вас я аргументов вообще не вижу. А кроме того, 100% гарантию давать слишком самонадеянно - поэтому те специалисты в основном оперируют 50% вероятностью.

stalvoron в сообщении #1643116 писал(а):

Вы сильно передёргиваете собственные высказывания . Вы утверждали, что машинисток заменили (как профессию )принтеры (перечитайте своё высказывание).

Да, так и есть - машинисток заменили принтеры, и поэтому профессия машинистки вымерла. В чем передергивание?

stalvoron в сообщении #1643116 писал(а):

Да помню я, как наше маш бюро выглядело,но Вы то, говорили об интеллектуальной работе, а почему то, привели пример замены ручного привода пишущей машинки на электронный. Я и сказал, что пример не удачный . Не трогайте, Вы, машинисток.

Всякая работа в той или иной мере интеллектуальна, и уж конечно это относится к работе машинисток. Принтеры заменили далеко не только печатные машинки, но и тех, кто на них работал. В противном случае этих машинисток посадили бы на принтеры. Не знаю что в этом примере неудачного, но если он вам так не нравится - возьмите тысячи других вымерших в результате автоматизации труда профессий.

stalvoron в сообщении #1643116 писал(а):

Ну во первых, мотивы у Архимедов, Менделей, не только и не всегда зарплата (тщеславие, зависть, месть, страсть, мания величия...). А во вторых, я и говорю, что если ИИ не нуждается в мотивах, то он равнозначен молотку, который лежит на полке, безмотивный такой. И будет вечно лежать. Я же с Вами не спорю.

Да нет же, не будет он равнозначен лежащему молотку. Ему просто будут давать команды - без всяких обещаний и угроз. Хотя забавно, что если в промпт добавить обещание дать чаевые, то ответы чат-ботов зачастую становятся лучше.

stalvoron в сообщении #1643116 писал(а):

Конечно давайте, но мы уже опоздали. Я в передовицах советских газет читал"... - инструмент мирового империализма..."

Тогда непонятно в чем смысл разделения на инструменты и исполнителей.

stalvoron в сообщении #1643116 писал(а):

Вот тут я потерялся. О чём мы тогда дискутируем? Так Вы согласны что ИИ инструмент? Если да, то всё. Мир! Дружба! Май!

Я согласен с этим настолько, насколько согласен с тем, ИИ - исполнитель. Аналогично - в отношении людей. Это надуманное разделение, обусловленное уровнем развития технологий - то, что раньше считалось исполнительской работой, сейчас выполняется тем, что считается инструментами.

stalvoron в сообщении #1643116 писал(а):

Да никак. Я о "круге работы инструмента" не говорил и не предполагал даже. Это, по мне, совершенно, фантастически, бессодержательный вопрос. Как определить круг работы штопора? Да как угодно. Что хочешь можно делать. Аппендицит удалить, например. Я Вас не понял.

Вот об этом я и говорю - вопрос бессодержательный. Но это вы сказали, что "ИИ - инструмент", я смысла в таком противопоставлении ИИ человеку не вижу.

[ozheredov]

MoonWatcher в сообщении #1643120 писал(а):

ИИ никогда не выйдет за пределы понятия "инструмент", что в моем понимании означает, что прогресс в этой области остановится.

Раб в зиндане или на плантации выходит за пределы понятия "инструмент" или нет?

[MoonWatcher]

ozheredov в сообщении #1643110 писал(а):

Если Эйнштейн нарисует ясную и понятную ему, дураку, картину мира (а он сможет это сделать лучше, чем дурак - поскольку способен лучше разобраться в психологии любого) - то дурак предпочтёт Эйнштейна. Если же Эйнштейн начнёт метать бисер перед свиньями - тогда да, внимание дурака перехватит другой дурак.

Да, но Эйнштейн такую картину не нарисует - теория относительности (не говоря уже о квантовой физике) всегда будет сложнее картины мира с плоской Землей в мировой океане на трех огромных черепахах... Пример несколько надуманный - дураки в физику как правило не лезут, слишком много мудреных формул. Но в социальных науках, где формул нет, это происходит именно так. Поэтому сколько угодно умный и знающий историк, социолог, политолог и т.д. никогда не переубедит дурака в том, что этот дурак объясняет какой-нибудь конспирологией, например. Говоря дурак, я имею в виду как живущего в плену у религиозных, этнических и прочих предрассудков дикаря, так и какого-нибудь профессора - который является профессором в какой-то другой области и считает это достаточным основанием судить о любых вопросах. Опять же речь не о званиях и регалиях, а элементарной образованности, когда прежде чем судить о подобных вопросах изучают "матчасть".

ozheredov в сообщении #1643110 писал(а):

Катющик, который разоблачает своим видосиком современную физику - безусловно дурак. Но те, кто провернул петрушку со свободой слова, выпустив Катющика на большую аудиторию - не дураки.

Только давайте без теории заговоров, которую я как раз упомянул выше Свобода слова, доступные СМИ и т.д. - это палка о двух концах, как и толерантность. Свобода позволяет говорить не только правду, но и глупости, а толерантность не только запрещает пропаганду расизма, но и в каких-то случаях препятствует научным исследованиях "на скользкие темы".

ozheredov в сообщении #1643123 писал(а):

Раб в зиндане или на плантации выходит за пределы понятия "инструмент" или нет?

Повторюсь: я не вижу никакого смысла в таком разделении. Как и в вопросе, что мотивирует на труд - зарплата или кнут надсмотрщика.

[Dicson]

(ЧТО Я НАЗЫВАЮ ФЛУДОМ)

MoonWatcher в сообщении #1643049 писал(а):

...Я сказал "вполне реальный базис" - и нагуглил для вас первый попавшийся пример выполнения отдельно взятой работы при помощи обучения на видео. Что из этого вы называете флудом?

...Во-первых, я говорил "является (или может быть)" - что необязательно говорит "фактически уже о реальности". Во-вторых - таки да, в кол-центрах ИИ уже вовсю применяется. Правда, в России эта технология находится на уровне примерно полувековой давности Вообще у вас конечно "оригинальная" позиция: "когда будет - тогда и поговорим". Простите, но я не бухгалтер: меня мало интересует практическое применение чего-либо здесь и сейчас - меня интересуют технологии и их перспективы. Так вот мой опыт общения с чат-ботами говорит, что в принципе они могут заменить человека в кол-центрах - если не прямо сейчас, то в обозримом будущем. Не потому, что я "выдаю желаемое за действительное", а потому что я таким представляю себе это самое обозримое будущее.

...И эти мои представления (совпадающие с мнением некоторых крупных специалистов в области ИИ) ничем не хуже вашего мнения о принципиальной невозможности создания СИИ (НЕ совпадающего с мнением ни одного из известных мне современных специалистов в области ИИ).

...А меня "философский" план, т.е. принципиальная возможность создания СИИ на базе языковых моделей, и интересует (в числе прочих интересных вопросов). В практическом отношении, как я уже не раз говорил, ИИ уже вовсю мультимодальный.

...Осталось доказать, что это заблуждение - что едва ли представляется возможным - о чем Тьюринг в одноименном тесте предупреждал три четверти века назад. Касательно всего остального - боюсь, что мы идем по очередному кругу. Вы снова и снова сравниваете объективную реальность с ИИ - при том, что никакой объективной реальности в одной отдельно взятой человеческой голове не существует. А существует в ней только ВОСПРИЯТИЕ этой реальности - от относительно адекватного (судя по практическим достижениям нашей цивилизации, построенным на восприятии реальности отдельно взятыми учеными) до феерического бреда. Эти людям не ставят диагнозы - но они идиоты, и их миллионы. Вы правда считаете, что ВОТ ЭТОТ НЕДОУМОК адекватен реальности больше, чем статистическая модель?

...Нет, не адекватно абсолютное большинство людей окружающим их условиям - в чем легко убедиться, включив телевизор. Люди относительно адекватно ходят в магазины, едят, отправляют надобности и т.д. - но не более того. И нет - нормальный человек НЕ постоянно обучается и вообще вряд ли когда-либо корректирует свои взгляды. Постоянно обучается НЕ нормальный человек, а свои взгляды корректирует человек за гранью если не гениальности, то большого ума. Разумеется, я говорю о взрослых людях - дети и молодежь другое дело, их учиться заставляют. Но повзрослев, они довольно часто отказываются от того, чему их учили, в пользу бесхитростных, не обременительных для ума конструкций. Как я уже говорил, вы постоянно путаете отдельно взятого человека (которого пока пытается заменить ИИ) человечеством вообще. Которое представляет собой некий социальный суперорганизм с элементами коллективного разума (но и коллективной глупости тоже).

...Еще раз - вы флудом называете мои доказательства своих слов? Понимаю, что расстроил вас - но при чем здесь флуд?

Ничего надуманного в "противостоянии" нет, как нет и противостояния. Есть развитие человечества через элиты - немногочисленную прослойку креативных в своей области людей. Ни я, ни вы к элитам не относимся, и уж тем более не надо считать признаком элитарности маргинальность в науке (а именно в современной науке, насколько я могу судить, маргинально ваше мнение о принципиальной невозможности СИИ). Напротив - это типичная черта обывателей, "сметь свое суждение иметь" по всякому вопросу вне своей компетенции. Согражданам определять элиту не надо - её определяет сама жизнь, давая дорогу идеям этой элиты. И я надеюсь вы не вкладываете в термин "элита" какую-то избранность? Элитарный в биологии первооткрыватель ДНК Джеймс Уотсон был малограмотным обывателем в вопросах за пределами своей компетенции (например, когда утверждал расовую неполноценность негров). Я этот неполиткорректный термин (не негры, а элита) употребил исключительно для того, чтобы подчеркнуть огромную разницу между человеком и человечеством, которую вы постоянно игнорируете при сравнении ЧЕЛОВЕКА с ИИ.

...Деньги элитам дают разные источники - государство, филантропы, простые граждане (через специальные финансовые институты - инвестиционные банки, пенсионные фонды, страховые компании и т.д.) Но к чему этот вопрос?

...Вынужден повторить: это то же самое, что сказать: так как учить Ньютона будет человек, то сложность этого человек Ньютон не превзойдет... Вы снова и снова путаете человека и человечество. ИИ - замена человека. А учит этот ИИ всё человечество, все накопленные им знания - десятки миллионов книг, сотни миллионов научных статей, сотни миллионов видеороликов и фильмов, и т.д. Вы правда думаете, что все это неспособно превзойти сложность, для начала, абстрактного Васи Пупкина, которого призван заменить ИИ?

...См. выше - ИИ существует внутри опыта ЧЕЛОВЕЧЕСТВА, а заменить, для начала, должен ЧЕЛОВЕКА. Разумеется, в более далекой перспективе речь пойдет и о замене человечества - что, уверен, тоже неизбежно. Потому что "карлик" Ньютон существовал внутри опыта "гигантов", на плечах у которых он сидел - но тем не менее вывел из него новые знания. Примерно как дата-майнинг выводит новые знания из кассовых чеков супермаркета - просто в данном случае речь идет о более сложной и комплексной информации.

...Нет - знания есть как раз в книгах, в виде закорючек. А условные закорючки (извилины и прочее) в мозге человека - это как раз результат обработки этих знаний. А человечество вы в очередной раз пропустили даже в этой фразе "пишет тексты только сам человек, один, осмысляя мир в преломлении своего опыта, врождённого и приобретённого". Во-первых, пишет тексты не один человек, а сотни миллионов людей (книги, статьи и т.д.) Во-вторых, если это научные тексты, то свой опыт в них вообще никак не осмысливается - осмысливается как раз книжный опыт, порожденный человечеством.

...Могу повторить в тридесятый раз, мне на жалко: тексты пишет человечество. И в этом смысле каждому отдельно взятому человеку даны свыше - только не богом, а человечеством, книжным наследием сотен поколений.

...Ну, если вы на работе пашете как папа Карло в страхе перед расстрелом, то могу только посочувствовать. Я только не понял зачем свой печальный опыт проецировать на остальных, если ИИ в подобной мотивации просто не нуждается. Ну боится таксист, что его расстреляют за некачественную доставку пассажира из точки А в точку Б - автопилот это сделает просто потому, что получил такое указание.

...Я не знаю что глупость: что ощущения сложнее мышления, или что мышление сложнее ощущений. Рад, что вы в этом разобрались, но мне до этого далеко. Я говорил о другом: субъективное квалиа объективно описать (выразить) невозможно.

...Нет, это как раз вы представляете эволюцию ИИ как нечто вроде перебора сочетаний молекул - я говорил о случайном изменении параметров модели. Случайном не хаотически, а по какому-то принципу, например. Зачем системе надо выйти за рамки того, что мы можем оценить, я не понял - речь шла о совершенствовании системы. Вы случайным образом поменяли параметры модели - и она, например, стала лучше решать какие-то задачи.

Потому что всё это или передёргивание — вы как бы забываете, о чём вас спрашивали, что было написано в предыдущих постах, какие аргументы вам были приведены. Или это просто мура — например, ваши рассуждения об элитах, недоумках и т. д.. Откуда ноги растут у вашего отношения к людям, мне не интересно, а вот что касается ИИ, то корень проблем явно в этом:

MoonWatcher в сообщении #1643049 писал(а):

Еще раз: речь не о вычислениях, а о принятии конкретного решения.

Ваша уверенность, что в ИИ должно быть что-то загадочное и непредсказуемое, говорит о том, что вы не понимаете, о чём рассуждаете. Естественно, что в таком случае легко приписывать ИИ те свойства нашего интеллекта, которые, как вам кажется, тоже являются загадочными — качественные переходы, сознание и т. д.. Особенно, если очень хочется, чтобы что-то загадочное в ИИ было, потому что как тогда спасителем людей ИИ представлять? Не может же наш спаситель проще нас самих быть. Но что понятно, то уже не сложно, следовательно СИИ должен как минимум быть столь же непонятным, как сам человек.

Однако, оказывается, что ничего загадочного в ИИ нет и быть не может, и качественные переходы тоже вполне понятное физическое явление, причём такое, что в ИИ ему взяться неоткуда. Да и про сознание тоже многое понятно — как минимум то, что с ИИ оно несовместимо. И всё это в целом говорит о том, что ИИ качественно проще нас. Взлелеянная идея СИИ-спасителя трещит по швам. Вот отсюда и флуд, полагаю. Поэтому на всякий случай ещё раз подчеркну: в ИИ всё вычислимо и предсказуемо, и принятие «конкретных решений» ничем не выделяется. Берёте ручку, бумагу, всё расписываете, какой вход, какое обучение, — и будет вам ваше «конкретное решение».

Что в ИИ непонятно, к данному обсуждению отношения не имеет. Вкратце: не мы придумали ИИ, а природа, когда придумала нейронную сеть мозга, а мы только упростили её до ИНС. Однако от природы в ИНС осталась нейросетевая структура алгоритма и множество однотипных операций в рамках этой структуры, смысл которых можно понять, только если посмотреть на всю структуру вычислений в целом как на объём одновременных и взаимозависимых процессов, а не последовательность. Потому что мозг — это упорядоченный объём веществ и химических реакций, он работает как одно целое, и модель его тоже надо рассматривать таким же образом.

А мы так смотреть не умеем, наше внимание перемещается последовательно — от одного шага алгоритма к другому. Мозг управляет мышцами, перемещаться одновременно в разные стороны невозможно, и внимание отражает нынешнюю цель поведения (нейронный коррелят внимания — это синхронизация ансамблей нейронов на самой высокой частоте ритмов мозга, этот процесс, как аттрактор, притягивает к себе фазовые траектории других нейронов, тем самым выстраивая активность всех мышц в одном направлении). В результате смысл вычислений нейронной сети в значительной степени ускользает от нашего понимания. Поэтому мы создаём нейронные сети более или менее наугад, а смысл вычислений становится ясен только на выходе сети по активности её выходных нейронов.
***


Теперь, когда, надеюсь, вы осознали принципиальную простоту ИИ, давайте ещё раз вернёмся к нашим баранам — к отличию человека от ИИ, и что из этого следует.

Вы понимаете, что смысл слов лежит за рамками слов, что слова сами по себе ничего ни о чём не говорят? А если так, то только из текстов никаких знаний ни о чём взять нельзя. Поэтому смысл слов возникает только в контексте всего остального опыта человека, а сам опыт, таким образом, целиком словами невыразим. Поэтому вопрос с текстами закрыт — обучаясь только на текстах, понимать их смысл так, как человек, ИИ научиться не сможет, как бы вы ни хотели обратного или чего бы на это счёт ни думал кто-либо. А отсюда и галлюцинации, ведь кроме того смысла, который в слова вложил человек, никакого другого смысла у слов нет.

Если этот аргумент от вас ускользает, то вот менее абстрактно. Мы постоянно обучаемся — запоминаем происходящее, анализируем его, корректируем поведение. При этом опыт в пространстве нейронной сети не имеет строгого деления по отделам и зонам, и только текстами и речью опыт не ограничивается. А это значит, что в процессе обучения в сети всё влияет на всё — наблюдения окружающего мира постоянно влияют на то, что мы говорим и пишем, а то, что мы слышим и читаем, постоянно влияет на наши представления о мире. Таким образом, и с этой точки зрения никакие наши знания не могут выводиться только из текстов. Это к вопросу о том, откуда брал свои идеи Ньютон, и почему любой наш опыт так или иначе связан с окружающим миром, а не конь в вакууме.

Может быть, мультимодальность поможет стать сетям «как Ньютон»? Воспринимая мир более полно, умея оперировать объектами, у ИИ появится опыт, который поможет совместить тексты непосредственно с тем, что они описывают, и тем самым понять их «человеческий» смысл. Очевидно, так и есть. Вопрос только в том, насколько близко можно приблизиться к сложности опыта человека, если опыт целиком словами невыразим?

Вы понимаете, что слова — это высокоуровневые абстракции (частные признаки условий) от опыта более общего характера (общие признаки условий)? То же другими словами: вы согласны, что речь, письмо — это корковая надстройка над движениями более общего характера, построением которых занимаются более низкие уровни нейронной сети мозга? На входе нейронная сеть мозга воспринимает всё происходящее во внутренней и внешней среде целиком, а по мере прохождения рецепторных сигналов по сети от входа к выходу происходит распознавание условий от общих к частным и такое же по смыслу построение движений — от тонуса, вегетативных функций, изменений позы, рефлекторных и циклических движений к движениям пространственного поля, предметным и интеллектуальным движениям. В свою очередь, за счёт обратных связей, которые есть в нейронной сети мозга, выявленные корой частные признаки условий могут влиять на формирование движений общего характера. Например, распознавая в условиях врача и фразу «не дышите», «мы» можем «заставить себя волевым усилием» не дышать, вопреки первоначальному позыву.

Вы согласны, что самый общий план поведения любой диссипативной структуры — это гомеостаз? Мы диссипативные структуры, поэтому всё наше поведение тоже гомеостаз. Любое наше поведение находится «внутри» гомеостаза, то есть «внутри» стремления к самосохранению, являясь проявлением этого стремления на уровне тех или иных систем организма. Таким образом, гомеостаз — это и все наши стремления, потому что все они являются производными от самосохранения, и наша постоянная активность в реализации этих стремлений, потому что диссипативные структуры по своей природе активные и необратимые, и это наша способность отделять вредное от полезного, истинное от ложного, потому что эта способность является производной от стремления к самосохранению. Находясь в основании всего нашего поведения, задачи гомеостаза находятся и в основании смысла слов. Однако именно гомеостаз, как, получается, наиболее «далёкий» от слов контекст нашего опыта, менее всего выразим словами.

Но алгоритм — это, наоборот, язык, слова. Поэтому, являясь алгоритмом и потому не имея гомеостаза, ИИ не будет иметь ни активности, ни стремлений, он не сможет на том же уровне, как мы, отделять ни вредное от полезного, ни истинное от ложного. А значит, без нас ИИ ни существовать, ни познавать мир не сможет. Он по своей физической природе может быть адекватен только нашему опыту, а не среде, которой по своей физической природе стремимся быть адекватными мы.

В свою очередь, мы сами не сможем развивать то, что нам непонятно. В результате, не имея возможности существовать самостоятельно, сложность поведения ИИ не выйдет за рамки того, что мы сможем в его поведении более или менее быстро оценить, более или менее легко понять. Естественно, что оценивать ИИ будет не один человек, это дело всех, кто использует или создаёт ИИ, — каждый оценит ИИ в той области, в которой разбирается.

Однако, сколько бы библиотек текстов ни знал ИИ, в каком бы количестве областей знания ИИ ни разбирался, он всё равно не достигнет сложности человека, так как он алгоритм, а любой алгоритм сам по себе качественно проще нас. Потому что алгоритм язык, а наше мышление языком невыразимо.

Например, если сложность — это длина описания, то множество слов, необходимых для нашего описания, будет «более чем несчётно», потому что счётность/несчётность — это количество, а наше описание вообще не имеет никакого выражения в количестве слов, так как не имеет адекватного выражения ни в каком мыслимом языке. И действительно, вспомните о квалиа — словами выразить нельзя, но при этом квалиа непосредственно отражает сложность нашего мышления/поведения. Причём именно так и должно быть. Иначе как бы мы смогли придумать несчётное множество, надо же быть много сложнее того, что придумывается, наблюдается, оценивается. Ну а множество слов алгоритма — счётное. Разница в сложности налицо.

В то же время наш интеллект специализирован, он управляет мышцами, приспособлен к нашему организму и его возможностям и окружающей природной среде. Поэтому за рамками этой специализации несравнимо более простая система нас может и превзойти. Как нас превзошли экскаваторы, калькуляторы или АльфаГо. Или чат-боты, которые знают много текстов, и могут намного быстрее нас обобщать их в тот или иной вывод, решение той или иной задачи.

В итоге, чем более частная задача, тем более явным в её решении может быть преимущество ИИ, а на практике ограничивать сложность систем будет понимание нами их поведения, так как непонятное мы развивать не сможем. И наоборот, по мере того, как возможности системы будут приближаться к богатству наших возможностей, тем быстрее к бесконечности будет расти время каждого нового этапа приближения. ИИ может быть «умнее» нас, но узкоспециализированным, или его поведение будет в целом похоже на наше (распознавание условий и построение действий), но оно будет намного более простым.

Cos(x-pi/2) в сообщении #1642956 писал(а):

В №7 1961 г. на стр. 39-42 были опубликованы четыре рассказа (автор Г. Альтов) на тему "Может ли машина мыслить". В интернете они нашлись. Можно сравнить с сегодняшними реалиями фантазии того времени, когда ЭВМ и космонавтика только зарождались :)

И статистика, и галлюцинации — оказывается, всё уже тогда предвидели:

Цитата:

– Нет, нет, тут нужно разобраться, – возразила девушка. – Пусть автоматы считались неудачными, негодными. Но теперь... теперь они спорят о футболе. Разве это не свидетельствует, что машина может мыслить, как человек? То есть почти как человек.

Директор покачал головой.

– Мой юный друг, – ехидно сказал он. – Это работают блоки анализаторов вероятности. И только. Как можно утверждать, что автоматы мыслят, когда один из них твердит о команде «Крылья Советов», а другой – о «Динамо»?! Ребёнку же ясно: первенство возьмёт «Спартак». Вы когда-нибудь бываете на стадионах?..

И это тоже:

Цитата:

ОТ РЕДАКЦИИ: … Нужно, однако, твёрдо помнить: любая электронная машина выполняет программу, заложенную в неё человеком. Даже так называемые вероятностные, «беспрограммные» устройства способны искать решения лишь в узкой области, в той, для которой их предназначает создатель-человек. Различие между мозгом человека и самой совершенной электронной машиной, разумеется, не только в количестве «ячеек». И современная наука не даёт оснований надеяться, что будет построена машина, способная размышлять, любить, ненавидеть, радоваться, огорчаться, свободно творить. Всё это вместе свойственно только человеческой личности.

Может ли машина мыслить?