Свидетели AGI атакуют.

[Rasool]

talash в сообщении #1595801 писал(а):

Да, мне интересно то же, что и Вам. ИИ обгоняет людей во всё большем количестве относительно простых интеллектуальных задач, но определённый тип задач я думаю ему неподвластен. Чат GPT похож на отличника-зубрилу. Знает очень много и может делать простые рассуждения на основе запомненного. А не может он решать задачи на понимание. Человек, если не знает ответа на задачу, но хорошо понимает предмет, то он может логически вывести ответ. ИИ так не может и я думаю это принципиальная проблема для существующих технологий.

Я уже писал, что ChatGPT умеет в семантику (понимание текста на естественном языке), но еще не умеет в логику.

[epros]

Rasool в сообщении #1595815 писал(а):

Я уже писал, что ChatGPT умеет в семантику (понимание текста на естественном языке), но еще не умеет в логику.

Семантика - это часть логики. Собственно, оставшаяся её часть - это синтаксис.

[mihaild]

Yadryara в сообщении #1595739 писал(а):

Вам интересно, сколько у компа 3300 или 3500? Мне почти всё равно. Кстати, может уже есть выше 4000.

Насколько я понимаю, рейтинг Эло кроме случая когда вероятность победы правда логистическая функция от разности скрытой переменной (и например если вероятность что А выиграет у Б равна $\frac{1}{11}$, и вероятность что Б выиграет у В тоже равна $\frac{1}{11}$, то вероятность что А выиграет у В равна $\frac{1}{101}$), то его значение сильно зависит от популяции. А поскольку боты играют в первую очередь друг с другом, то рейтинг получается зависящим от того, как мы группируем программы - если мы сделаем 100 копий предпоследней версии stockfish и объявим их разными игроками, то рейтинг последней вырастет.

talash в сообщении #1595801 писал(а):

ИИ так не может и я думаю это принципиальная проблема для существующих технологий.

Как всегда: приведите, пожалуйста, минимально впечатляющий (Вас) пример задачи, про которую Вы на 90% уверены, что модели через 5 лет не смогут её решить.

(Оффтоп)

Mihaylo в сообщении #1595814 писал(а):

Как это не может? Вам же кучу примеров привели, может!

Подозреваю что пони из этих примеров по мнению talash неправильные.

[Mihaylo]

talash в сообщении #1595801 писал(а):

Чат GPT похож на отличника-зубрилу.

Человек тоже похож на зубрилу. Давайте раскручивать тему, что человек - это не просто зубрила, а что-то большее. Но учитывая, что вы сами не знаете, что значит "зубрила" и "незубрила", то что-то конструктивное вам представить не удастся.

[Mihaylo]

ivanchuk в сообщении #1595897 писал(а):

Гипотезу Римана вряд ли модель через 5 лет докажет.

Ну вы же сами сказали, что задачи должны быть решены людьми. И тут вдруг гипотеза Римана...
Одни люди видят в интеллекте отличника-зубрилу, другие верят в волшебника-многоходовочника...

Надо плясать от задач. Типовые задачи - это когда дано много избыточной информации, есть невысокие требования к ответу и задача сама по себе достаточно проста. Пример - написать программу для компьютера.
Нетиповые задачи - это:
1. в первую очередь, это когда требования к ответу высойчашие, вплоть до того, что только единственный вариант ответа - верный. К таким задачам относится доказательство гипотезы Римана, например. Или разгадка ребуса, игры слов из соседней темы.
2. Отсутствие достаточного количества информации. Например, задача раскрытия убийства Кеннеди.
И вы думаете, что получив некий усилитель интеллекта, то вы начнёте успешно решать нетиповые задачи???

[talash]

Mihaylo в сообщении #1595814 писал(а):

talash в сообщении #1595801 писал(а):

А не может он решать задачи на понимание.

Как это не может? Вам же кучу примеров привели, может!

Простые может, а чем сложнее, тем хуже и предел технологии будет гораздо ниже человеческих возможностей. Таково моё мнение.

[Mihaylo]

talash в сообщении #1595907 писал(а):

предел технологии

Предел технологии на данный момент.
Я не буду оспаривать слово "гораздо", но отмечу, что всякие там оценки типа "без всякой претензии на", "не имеет ничего общего с" уже как-то приелись.

[talash]

mihaild в сообщении #1595832 писал(а):

talash в сообщении #1595801 писал(а):

ИИ так не может и я думаю это принципиальная проблема для существующих технологий.

Как всегда: приведите, пожалуйста, минимально впечатляющий (Вас) пример задачи, про которую Вы на 90% уверены, что модели через 5 лет не смогут её решить.

ИИ можно обучить решать любую конкретную задачу и если заранее задать задачи для него, то его обучат их решать. Поэтому, нет смысла придумывать задачи наперёд, даже если он их решит, это ничего не докажет.

-- 30.05.2023, 23:13 --

Mihaylo в сообщении #1595909 писал(а):

Предел технологии на данный момент.
Я не буду оспаривать слово "гораздо", но отмечу, что всякие там оценки типа "без всякой претензии на", "не имеет ничего общего с" уже как-то приелись.

А оценки в другую сторону на тех же шатких основаниях Вам почему-то не приелись.

[mihaild]

talash в сообщении #1595910 писал(а):

Поэтому, нет смысла придумывать задачи наперёд, даже если он их решит, это ничего не докажет.

А что может что-то доказать?

[Mihaylo]

talash в сообщении #1595910 писал(а):

на тех же шатких основаниях

Для вас лично нейросетка может написать программу по заказу. Какие тут "шаткие основания"?

[talash]

mihaild в сообщении #1595911 писал(а):

talash в сообщении #1595910 писал(а):

Поэтому, нет смысла придумывать задачи наперёд, даже если он их решит, это ничего не докажет.

А что может что-то доказать?

talash в сообщении #1595262 писал(а):

Наука изучает объективные природные закономерности. Если мы придумаем принципы тестирования нервной системы, которые оценивают интеллект от низших животных до человека в плане решения не конкретных, а общих(с варьирующимися условиями) задач, а затем по этим же тестам будем тестировать AI, тогда это будет объективная оценка насколько наш AI общий(general).

-- 31.05.2023, 10:11 --

Mihaylo в сообщении #1595919 писал(а):

talash в сообщении #1595910 писал(а):

на тех же шатких основаниях

Для вас лично нейросетка может написать программу по заказу. Какие тут "шаткие основания"?

Калькулятор лично для меня считает быстрее и точнее чем я. Наверное это тоже AGI и скоро калькуляторы в любых интеллектуальных задачах опередят человека.

Есть хороший термин LLM. Просто говорим по факту, LLM научили решать такие-то и такие-то задачи. Если включаем бездоказательные фантазии и начинаем придумывать некий общий ИИ, который якобы думает как человек и его везде опередит, то не надо требовать от сторонников противоположного мнения достоверных доказательств, что этого не случится.

[mihaild]

talash в сообщении #1595262 писал(а):

Если мы придумаем принципы тестирования нервной системы, которые оценивают интеллект от низших животных до человека в плане решения не конкретных, а общих(с варьирующимися условиями) задач, а затем по этим же тестам будем тестировать AI, тогда это будет объективная оценка насколько наш AI общий(general).

Я придумал отличный принцип: спросить у mihaild. Это совершенно объективный способ, потому что я обещаю всем спрашивающим давать один и тот же ответ.

talash в сообщении #1595928 писал(а):

Есть хороший термин LLM. Просто говорим по факту, LLM научили решать такие-то и такие-то задачи

Это хороший подход (и лет 10 назад термин "ИИ" в серьезных кругах не употреблялся, и я не понимаю, когда это сломалось).

talash в сообщении #1595928 писал(а):

некий общий ИИ, который якобы думает как человек и его везде опередит

Первое ("думает как человек") оставьте философам, потому что всем остальным очевидно, что процессы думания у моделей в кремнии и в углероде разные. Где-то между ними можно при желании найти сходство, но непонятно, зачем.
А вот второе - другой вопрос. Если система может успешно решить задачу "вот тебе доступ в интернет, сгенерируй последовательность токенов, чтобы сделать скрепку" - то можно спорить о том, опережает она человека или нет до хрипоты, но, скорее всего, спор придется прекратить по техническим причинам довольно быстро.

[talash]

mihaild в сообщении #1595930 писал(а):

скорее всего, спор придется прекратить по техническим причинам довольно быстро.

Или не придётся, а технология упрётся в некий предел, далёкий от возможностей человеческого интеллекта

[Mihaylo]

talash в сообщении #1595928 писал(а):

Калькулятор лично для меня считает быстрее и точнее чем я. Наверное это тоже AGI и скоро калькуляторы в любых интеллектуальных задачах опередят человека.

Нейросетка - это далеко не калькулятор, здесь заложена творческо-интуитиционная основа. Нейросетка выдает результаты, которые никогда никогда не видела в обучающих примерах.
Из соседней темы: кибитка удалая взрывает бразды:


-- 31.05.2023, 14:51 --

talash в сообщении #1595931 писал(а):

упрётся в некий предел, далёкий от

Ещё не упёрлись, а уже близко. Хуже ведь технология не станет?

[mihaild]

talash в сообщении #1595931 писал(а):

Или не придётся, а технология упрётся в некий предел, далёкий от возможностей человеческого интеллекта

Я готов довольно много поставить на то, что система, способная выполнять подобные задания, ни во что практически значимое для нас уже не упрется.

Mihaylo в сообщении #1595936 писал(а):

Нейросетка выдает результаты, которые никогда никогда не видела в обучающих примерах.

Калькулятор тоже.