Свидетели AGI атакуют.

[MoonWatcher]

Не понимаю как можно оспаривать способность обучения этике AGI, у которого нет самосознания и чей интеллект находится примерно на человеческом уровне. Он по определению способен к этому - иначе какой это AGI? Он как умный, исполнительный и безэмоциональный человек, начисто лишенный тщеславия, самолюбия и даже самоуважения. AGI ничем, кроме разностороннего интеллекта, не отличается от АльфаГо с автопилотом - как его обучат, так он и будет действовать. Понятно, что первое время будут ошибки и шероховатости - как они были у всех ранних версий ИИ. Но доработают, куда он денется. Не надо автоматически приписывать AGI все мыслимые и немыслимые риски с угрозами - надо разобраться с их причинами. Интеллект - не причина, а необходимое условие, без которого нечего обсуждать.

[Mihaylo]

mihaild в сообщении #1595976 писал(а):

Как там ваш "образованный интеллект", число слов в предложении считать уже научился? (спойлер: нет)

Под спойлером ложь. Только что проверил на you.com/chat

mihaild в сообщении #1595976 писал(а):

an LM is a system for haphazardly stitching together sequences of linguistic forms it has observed in its vast training data, according to probabilistic information about how they combine, but without any reference to meaning: a stochastic parrot(жирный шрифт мой - mihaild).

Проблема в том, что человек также является стохастическим попугаем. Это не мешает решать интеллектуальные задачи.
Нет иного практического способа обучения кроме как статическое повторение миллиардов-триллионов бит информации.

Вам это не понятно? (Ко всем обращаюсь.)

-- 08.06.2023, 10:14 --

Итак, предположим, что существует иной способ обучения нежели "статистическая обработка". Думаю надо копать в направлении "озарение/эврика". Эвристический способ обучения, да?
То есть мы додумываем какую-то часть информации (гипотетическая часть информации), суммируем с очевидной информацией и, вуаля, складывается верифицированная версия ответа.
Проблема в том, что "статистическое обучение" именно так и происходит. При "статистическом обучении" не просто рассматриваются распределения вероятностей, там посложнее... Обобщающая способность (генерализация) - вот термины, которые раскрывают реальность стохастического попугая.

Найдите 10 отличий между моим предупреждением

Mihaylo в сообщении #1595909 писал(а):

Я не буду оспаривать слово "гораздо", но отмечу, что всякие там оценки типа "без всякой претензии на", "не имеет ничего общего с" уже как-то приелись.

и тем, что пишут первооткрыватели стохастического попугая (цитировал mihaild):

mihaild в сообщении #1595976 писал(а):

but without any reference to meaning

[mihaild]

Mihaylo в сообщении #1596902 писал(а):

Под спойлером ложь. Только что проверил на you.com/chat

you.com писал(а):

How many words does the phrase "to be or not to be" have?
The phrase "to be or not to be" has five words.

Mihaylo в сообщении #1596902 писал(а):

Нет иного практического способа обучения кроме как статическое повторение миллиардов-триллионов бит информации.

Вообще-то есть - объяснение. Я не знаю, пробовал ли кто-нибудь учить людей брать интегралы, просто показывая кучу примеров, без объяснения правил, но, думаю, результат был бы сильно хуже, чем при стандартном способе обучения.

[Mihaylo]

mihaild в сообщении #1596924 писал(а):

пробовал ли кто-нибудь учить людей брать интегралы, просто показывая кучу примеров, без объяснения правил, но, думаю, результат был бы сильно хуже, чем при стандартном способе обучения.

Нету никаких стандартных или нестандартных способов обучения.
Обучение с объяснением правил взятия интегралов - это такое же обучение, которое требует показывание примеров. Никто с нуля не умеет обучаться по объяснению правил.

[mihaild]

Mihaylo в сообщении #1596929 писал(а):

Обучение с объяснением правил взятия интегралов - это такое же обучение, которое требует показывание примеров

Обучение с объяснением не является обучением чисто на примерах.

[Mikhail_K]

mihaild в сообщении #1596932 писал(а):

Обучение с объяснением не является обучением чисто на примерах.

Я бы сказал, что обучение с объяснением возможно благодаря предварительному обучению понимания объяснений - на примерах. То есть сначала человек должен выслушать много разных объяснений, с возможностью обратной связи насколько хорошо усвоено каждое из них, и только потом обучение с объяснением становится эффективным. И то - только для объяснений примерно такого же характера и уровня сложности, какие были в примерах.

[Mihaylo]

Mikhail_K
Да, вы уточнили мою мысль.
Иными словами, нужно не просто взять некоторые простые X и Y, и начать аппроксимировать решающую функцию. Есть возможность произвольно выбирать X и Y. И это будут входы-выходы некоторой нейронной подсети (если так можно выразиться), части общей нейросети. Обучение вроде переходит на другой уровень, но принцип тот же.

[Mihaylo]

Разверну свою мысль шире: одна из простейших иллюстраций моих суждений - структура RNN - нейросетевая, но с хитрой формулировкой X/Y.
Современные языковые модели преобразуют текст в текст, но нейросеть там занимается лишь преобразованием текста в слово (токен).

Например, вы сообщаете правило: $\sin^2 x+\cos^2 x = 1$. Вы думаете, ученик 7-го класса сразу понял и далее встроил это новое знание себе для применения на практике? Пройдет ещё несколько лет осознания, что существуют правила, которые безотказно работают, а применение всех этих правил требует тренинга (обучения). Для простоты можно считать, что X - это правило, Y - токен, и эту решающую функцию можно тренировать.
Я могу быть неточным и даже ошибочным, но, выражаясь терминологией биолога С. Савельева, в качестве входа и выхода X и Y можно выбирать понятия/представления, которыми оперирует мозг. Это некоторые промежуточные эмбеддинги (?), которые непосредственно внешне не проявляются.
Правила можно представить как эти самые внутренние эмбеддинги, которые можно запоминать (X - текст, Y - эмбеддинг) и применять на практике (X - эмбеддинг, Y - токен).

[mihaild]

Mikhail_K в сообщении #1596933 писал(а):

Я бы сказал, что обучение с объяснением возможно благодаря предварительному обучению понимания объяснений - на примерах.

Вы про то, что людей сначала на примерах учат понимать язык, а потом на этом языке объясняют?
Это, конечно, так. Но мы такого эффекта на нейронках воспроизводить не умеем. У нейронки есть отдельные режимы обучения и применения, причем при обучении она ничего не предсказывает, а при применении ничего надолго не запоминает.
Mihaylo, я не понимаю ни какой тезис Вы доказываете, ни что за $X$ и $Y$ у вас возникли, ни как Вы собираетесь пилить нейронку на части, ни что Вы понимаете под правилами.

[Mihaylo]

mihaild в сообщении #1597004 писал(а):

Mihaylo, я не понимаю ни какой тезис Вы доказываете, ни что за $X$ и $Y$ у вас возникли, ни как Вы собираетесь пилить нейронку на части, ни что Вы понимаете под правилами.

1. Трудно назвать доказательством мои доводы о том, что любое обучение базируется на изучении примеров и только на них.
2. $X$ и $Y$ - это типовой интерфейс между датасайентистом и нейронной сетью, при программировании на Пайтоне.
3. Я не собирался рассказывать как пилить нейронку конкретно, но привел примеры, RNN, например.
4. Правила - это в альтернативном способе обучения форма представления информации (знаний). Типа обучил правилам, значит примеры не нужны.

[Mihaylo]

Так как продолжения в общении никакого не следует, я тихо продолжу...

Итак, мы хотим, чтобы ИИ усвоил не просто пример, а целое правило. С примерами датасайентисты балуются еще с 1940-х годов, тут все понятно.

Правило же - это информация, которая скрывает в себе ряд примеров сразу, а иногда даже бесконечное количество примеров. Например, правило ПДД "Посмотри налево, затем направо, переходи пешеходный переход". Не требуется приводить кучу примеров, когда учитель переходит дорогу, крутя голову налево и направо.

Но проблема в том, что для понимания того правила ПДД нужно уметь понимать связь между словами и реальными действиями при переходе дороги. А это требует тренинга длиной в 16 лет (юридически).

И если вы говорите: "Вот человеку достаточно одного предложения, чтобы понять многое" - это заблуждение. Человеку нужны годы обучения. Эти годы обучения почему-то забываются, будто их не было. Аргументация в стиле: "Ребенку достаточно одного раза нарисовать солнышко, чтобы он его запомнил и узнавал" - это опять же заблуждение, ребенку должно быть хотя бы два-три года, иначе ложь вылазит наружу.

-- 10.06.2023, 23:19 --

В целом скептики ИИ допускают три вида ошибок:
1. Не учитывают длительность и сложность обучения человека (забывают про 16 лет учения).
2. Путают человека с человечеством ("Ньютон же сумел открыть закон Ньютона"). На самом деле закон Ньютона открыло человечество, а не Ньютон. Ньютона просто научили другие.
3. Разработчики обучают нейронные сети конкретным задачам, а не общим. Если вы научили нейросетку распознавать цифры MNIST, то как бы нехрен требовать от нее большего. Тут есть проблема разработчика, ему реально трудно сформулировать задачу настолько обще и дать примеры общего характера. Это проблема практическая, но не теоретическая. Но в наше время мы являемся свидетелями, когда все-таки наука доперла до того, чтобы нейросеть начала решать задачи общего характера. Пусть и с косяками.

-- 10.06.2023, 23:23 --

А еще совсем упоротые привлекают термин "эволюция" к интеллекту, хотя за 100 лет жизни организма никакая эволюция никакому мозгу ничего хорошего и плохого не сделала.

В общем, это мои выводы многолетнего исследования фриков в области ИИ.

-- 10.06.2023, 23:29 --

Ну и не забываем раскрывать подлые сущности, когда слышим слова "без всякой претензии на", "не имеет ничего общего", "без какого-либо отношения к". Это такая лакмусовая бумажка. Я четко чувствую переход этой грани.

[talash]

mihaild в сообщении #1596924 писал(а):

you.com писал(а):

How many words does the phrase "to be or not to be" have?
The phrase "to be or not to be" has five words.

GPT4 пишет правильно 6 слов. https://poe.com/GPT-4

[Ende]

Выделена тема «Доступ к GPT-4»

[talash]

Mihaylo в сообщении #1597181 писал(а):

В целом скептики ИИ допускают три вида ошибок:
1. Не учитывают длительность и сложность обучения человека (забывают про 16 лет учения).
2. Путают человека с человечеством ("Ньютон же сумел открыть закон Ньютона"). На самом деле закон Ньютона открыло человечество, а не Ньютон. Ньютона просто научили другие.
3. Разработчики обучают нейронные сети конкретным задачам, а не общим. Если вы научили нейросетку распознавать цифры MNIST, то как бы нехрен требовать от нее большего. Тут есть проблема разработчика, ему реально трудно сформулировать задачу настолько обще и дать примеры общего характера. Это проблема практическая, но не теоретическая. Но в наше время мы являемся свидетелями, когда все-таки наука доперла до того, чтобы нейросеть начала решать задачи общего характера. Пусть и с косяками.

А можно цитаты пользователей, кто эти ошибающиеся? А то похоже никто не воспринял Вашу критику в свой адрес.

[Mihaylo]

talash
Это долго - выискивать. Пускай уж сам каждый себя проверит.