О возможности создания сверхчеловеческого ИИ

[Mihaylo]

mihaild в сообщении #1686365 писал(а):

А что мы тут вообще обсуждаем? Что не бывает системы, которая из ничего выведет, сколько надо брать водки? Да, не существует.

Несмотря на то, что вам показалась никчемной идея о законе сохранения информации, она очень важна для популяризации науки и для борьбы с мракобесием. На самом деле, люди не понимают этого.

Люди считают, что:
1. Существуют усилители мозга.
2. Можно создать супер-интеллект.
3. Можно подсчитать, сколько нужно взять водки, не выводя это из ничего.
4. Интеллект - это вам не подсчёт вероятности токена, а нечто бОльшее (на данный момент наука хз, что это на самом деле, но это намного сильнее, чем "вот это").
5. Выводить информацию из избыточного объёма данных - это низко для интеллекта. Интеллект - это когда посмотрел несколько примеров и готово.

На самом деле, я уже говорил, интеллект - это то, что требует большого объёма данных для обучения и от него нельзя требовать высокой точности качества решения. Любой естественный или искусственный интеллект обучается на гигабайтах данных, никаких двух-трёх примеров нет. Это ложь. Два-три примера - это один день биологической жизни, это фиаско. И эти простые вещи людям непонятны, странно...

[mihaild]

(Оффтоп)

Mihaylo в сообщении #1687670 писал(а):

Несмотря на то, что вам показалась никчемной идея о законе сохранения информации, она очень важна для популяризации науки и для борьбы с мракобесием

Я думаю, что не существует никакой одной конкретной "очень важной" идеи.

Mihaylo в сообщении #1687670 писал(а):

Люди

А эти люди они сейчас с нами в одной комнате?

Mihaylo в сообщении #1687670 писал(а):

интеллект - это то, что требует большого объёма данных для обучения и от него нельзя требовать высокой точности качества решения

Можно требовать хоть от мышек стать ежиками.
Нам (мне) нужна система, способная решить (в смысле доказать, опровергнуть, или доказать независимость с какой-то из популярных теорий множеств) гипотезу Римана. Я очень сильно сомневаюсь, что у Вас получится доказать, что такой системы существовать не может, не доказав заодно неверное утверждение, что не может существовать системы, способной доказать великую теорему Ферма.

Очевидно, что нельзя извлечь информацию, которой нет в данных. Менее очевидно, но несложно доказывается, что система, извлекающая из данных всю информацию, на практике существовать не может (потому что её знания должны быть дедуктивно замкнуты). Но из этого никакой конкретной нижней оценки в битах ни на какую конкретную задачу не следует.
Вы можете дать нижнюю оценку на размер обучающей выборки для системы, чтобы она смогла доказать гипотезу Римана? Если нет - то к чему всё это рукомашство?

[Mihaylo]

mihaild в сообщении #1687672 писал(а):

Вы можете дать нижнюю оценку на размер обучающей выборки для системы, чтобы она смогла доказать гипотезу Римана?

Я (без доказательства) утверждаю более общие вещи, ваша гипотеза Римана - это просто баловство))). Ответ такой - надо больше данных, мало - не годится.

Вы же согласны, что доказательства теорем доступно только математикам? Ну тем, кто качественно поучился хотя бы 15 лет.

[mihaild]

Mihaylo в сообщении #1687675 писал(а):

утверждаю более общие вещи

А из них что-нибудь конкретное следует? "Общих вещей" без доказательства современные LLM сгенерируют сколько угодно по тысяче за доллар.

Mihaylo в сообщении #1687675 писал(а):

Вы же согласны, что доказательства теорем доступно только математикам? Ну тем, кто качественно поучился хотя бы 15 лет

Нет, так же как и с тем что трава синяя. Достаточно умные первоклассники, которые точно не учились 15 лет, справляются с доказательством некоторых простых теорем.

Ну ок, я считаю крайне маловероятным, что гипотезу Римана докажет человек, не изучивший курс анализа. Какое это отношение имеет к теме?
Повторяю вопрос.

mihaild в сообщении #1686365 писал(а):

А что мы тут вообще обсуждаем?

Очевидно, что какие-то ограничения есть. Не менее очевидно, что "общими рассуждениями" мы никаких конкретных ограничений не получим.

[EminentVictorians]

Mihaylo в сообщении #1687675 писал(а):

Вы же согласны, что доказательства теорем доступно только математикам? Ну тем, кто качественно поучился хотя бы 15 лет.

Круто вы обнулили все школьные доказательства

[dsge]

Mihaylo в сообщении #1687675 писал(а):

mihaild в сообщении #1687672 писал(а):

Вы можете дать нижнюю оценку на размер обучающей выборки для системы, чтобы она смогла доказать гипотезу Римана?

Я (без доказательства) утверждаю более общие вещи, ваша гипотеза Римана - это просто баловство))). Ответ такой - надо больше данных, мало - не годится.

Выборка очевидна. Скормить стохастического попугая Vixra, пургаторием dxdy, в ArXiv'e также достаточно такого мусора. После недолгого обучения он выдаст "доказательство" гипотезы Римана, которое устроит всех фриков.

[Oleksandr Rybakov]

Железяка уже умнее, чё вы спорите. Выучила все языки мира все книги и весь интернет. Любой вопрос по любой книге. о3 интегралы решает какие вам в страшном сне не снились.

[Anton_Peplov]

Oleksandr Rybakov
Есть разные умственные способности, например:
1. Объём памяти.
2. Скорость работы.
3. Понимание естественного языка.
4. Умение не допускать логических ошибок.
5. Умение делать выводы из данных, анализировать, обобщать, выдвигать и проверять гипотезы.

Основное обсуждение в этой теме идет вокруг п. 5.
По пп. 1-2 компьютеры превзошли человека давным-давно. По п. 3 нейросети приблизились к человеку на наших глазах, что в сочетании с пп. 1-2 даёт те результаты, о которых Вы говорите. По п. 4 генеративные сети все еще проигрывают тренированному человеку, в том числе потому, что их не натаскивают именно на минимизацию логических ошибок. Но, думаю, это устранимо - возможно, по генеративно-состязательной схеме (одну сеть натаскивают делать текст, другую искать логические ошибки, и заставляют соревноваться).

[Oleksandr Rybakov]

Anton_Peplov
Проигрыш по п. 4 закончится когда к ИИ прикрутят быстрый НЕ НЕЙРОСЕТЕВОЙ логический движок. Их навалом. Пока играют - а можно ли логику на нейросетях? Да можно. Задача XOR в любом учебнике.

[Ende]

Выделена тема «Нейросеть + логический движок для математических доказательств»

[Mihaylo]

Anton_Peplov в сообщении #1687692 писал(а):

нейросети приблизились к человеку на наших глазах

Нет, они превосходят. Много ли полиглотов в мире, которые знают 120-160 языков + сколько-то языков программирования да ещё с огромнейшим тезаурусом.

[Anton_Peplov]

Mihaylo в сообщении #1687785 писал(а):

Нет, они превосходят. Много ли полиглотов в мире, которые знают 120-160 языков + сколько-то языков программирования да ещё с огромнейшим тезаурусом.

Из контекста не выдергивайте, пожалуйста. П. 3, понимание естественного языка - это способность понимать хотя бы один естественный язык. После этого знание остальных языков обеспечивается за счет пп. 1-2, т.е. объема памяти и скорости работы.

[Mihaylo]

Даже если один язык, то тезаурус всё равно отличный, лучше чем у среднего человека ("с подворотни").

Я бы оценивал хотя бы несколько языков, так как у человека - нередко два (точнее полтора). Отделение языков - это как ножом по живому, не отделяются.

В итоге сравнивать лучше всего LLM друг с другом, а не LLM с человеком. LLM и человек надолго останутся непобеждёнными каждый в чём-то. И для этого есть причина - разные органы чувств, так сказать. Отсутствие потока определённой информации - это сказывается на обучении.

[Mihaylo]

Как вам нравится такая мысль, что сравнение LLM и человека - это про рисование кругов, которые пересекаются? Пересечение - это области знаний, в которых LLM и человек примерно одинаково сильны.
Хотя, с другой стороны, я говорил, что интеллект - это то, что решает задачи в основном примерно. Например, задача - оглядеться и обойти дом (найти тропинку из точки А в точку Б). Мы ставим оценку не за затраченный путь, время или энергию, а просто за выполнение задачи. Поэтому ряд последовательных действий мы попросту никак не оцениваем, просто важен результат - целевая точка Б. В итоге решение задач - это выбор последовательных действий, которые приводят к успеху. И многие из этих задач решаются успешно, а некоторые - нет.

А кто судьи? Откуда все эти цели? Кто решает, что такое хорошо и что такое плохо?
Ответ: да мы же и решаем. Мы - это интеллекты. Мы можем прочитать формулировку задачи и сказать: "О, нет, это долго и тяжело...". Или наоборот: "Да что тут такого, вообще без проблем!". Мы умеем строить планы, формулировать цели, корректировать задачи, чтобы они были попроще. Мы лихо уходим от ответа, когда дают сложный вопрос, ибо это проблема имиджа. Мы боимся сложностей, и поэтому мы учимся с детства оценивать сложность задач.

Давайте возьмём одну единственную задачу - обойти мой дом. Вы приедете ко мне в город, я приведу вас с закрытыми глазами в точку А, вы откроете глаза и я попрошу обойти дом (это будет обычная пятиэтажка) и найти и взять в руки красный воздушный шарик. Разве это нерешаемая задача?

А теперь другой вариант. Давайте устроим чемпионат по поиску красных шариков на скорость или на затраченную энергию. В чём здесь проблема? Такие задачи нужно решить оптимально, а не примерно. И заметьте, практическая ценность способности решать такие задачи - низкая.

Итоговый вывод такой: нужно тестировать интеллекты не на любых задачах, а на тех, которые имеют практическую значимость. Просто найти красный шарик - это практичная задача, когда ты вышел из дома и нашёл свою кошку, которая выпала из окна. Да, надо это сделать быстро. А есть задачи, которые никак непрактичные.

И вот важное утверждение: на решение задач мы тратим ресурсы - это такие невосполняемые вещи (время, деньги, энергию и т.д.), в обмен на затраченные ресурсы (при достижении цели задачи) мы получаем другой ресурс - более ценный. Практичные задачи - это именно такие. В некоторых случаях ценность полученного ресурса намного больше затраченных ресурсов, поэтому есть некоторая поблажка при поиске решений. Интеллектам позволено решать задачи примерно, и они это делают чаще всего именно так, и, более того, есть пределы/ограничения для поиска оптимизированных решений.

[Mihaylo]

В общем все эти утверждения - моё определение интеллектуальных задач и закон сохранения информации - это против любителей максимализма. Нет, не ожидайте ничего сверхъестественного - универсальный интеллект, усилители мозга, исключительности, бесконечности, трансцендентности (на пустом месте). Хотя да, что-то прикольное будет...
Отдельный салют в сторону антагонистов - "самолюбов" (антропоцентристов). Они думают, что мозг человека - это штука такая сама в себе, гениальное создание природы, самоцелеполагающий монстр. Но извините, вы как оцениваете интеллект??? Он не может то, он не может сё. Разве это что-то такое особое? Нет!

Даже Anton_Peplov не может трезво оценить возможности LLM и человека. Нельзя просто взять отдельный естественный язык и сказать - вот так и сяк. В итоге LLM вроде как крутые, но так как пункты 3-5 завалены, то в топку их! Да и пункты оценены косвенно как-то... Скорее всего, всякое достижение в пп.3-5 будет сводиться к пп.1-2, то есть обесцениваться.