Будущие перспективы ИИ (возможно, 4-я волна ИИ)

[Rasool]

Mihaylo в сообщении #1665284 писал(а):

Один из специалистов OpenAI высказался (ссылки не будет), что AGI уже существуют. По определению en.wikipedia:

Цитата:

Artificial general intelligence (AGI) is a type of artificial intelligence (AI) that matches or surpasses human cognitive capabilities across a wide range of cognitive tasks.

Во многих сферах, связанных с генерацией текста, изображений, управления автомобилем, управление предприятием и др. чат-боты достигли и превосходят человека (какого человека?). Достаточно ли wide range? А как быть с видами деятельности, которые присущи только человеку? Например, игра в футбол с использованием... эээ... стандартных человеческих тел?
Недостаток определения AGI из википедии - его размытость, отсутствие адекватного критерия.
Тот профи из OpenAI дал более точную метрику и утвердил, что AGI существует.

Что касается ASI, то это просто фантастическая гипотеза а-ля Jarvis из комиксов.

Цитата:

A superintelligence is a hypothetical agent that possesses intelligence surpassing that of the brightest and most gifted human minds.

Опять непонятно: скорость анализа и генерации - это элемент превосходства? А что с чисто человеческими видами деятельности типа мотания головой и болтания ногой?

Ну вот задачи тысячелетия искусственный разум пока решить не может. А человек по крайней мере одну из них уже сумел решить (теорему Пуанкаре).

[Mihaylo]

Rasool в сообщении #1665359 писал(а):

пока решить не может

Вы что-то знаете о попытках решения? Так изложите здесь, накидайте ссылок.

[vicvolf]

Mihaylo в сообщении #1665505 писал(а):

Вы что-то знаете о попытках решения? Так изложите здесь, накидайте ссылок.

Я давал ИИ попытку решения открытой проблемы. В ответ ИИ сначала немного анализировал эту попытку, а потом делал вывод, что эта попытка не решает проблему, так как по его информации она до сих пор не решена.

[Mihaylo]

Логично. Попытка была, результата нет. Насколько известно.

[vicvolf]

Mihaylo в сообщении #1665835 писал(а):

Логично. Попытка была, результата нет. Насколько известно.

Нелогично. ИИ принимает решение не на основании анализа материалов, а на основании ранее имевшихся у него данных.

[Sender]

Ну так убедите его, что его информация неактуальна, т.к., возможно, именно анализируемая попытка окажется решающей.

[mihaild]

vicvolf в сообщении #1665845 писал(а):

ИИ принимает решение не на основании анализа материалов, а на основании ранее имевшихся у него данных

А в чем разница?

[Rasool]

Sender в сообщении #1665849 писал(а):

Ну так убедите его, что его информация неактуальна, т.к., возможно, именно анализируемая попытка окажется решающей.

(Оффтоп)

Заодно можно будет заработать миллионы долларов за решение этих задач тысячелетия.

[vicvolf]

mihaild в сообщении #1665881 писал(а):

vicvolf в сообщении #1665845 писал(а):

ИИ принимает решение не на основании анализа материалов, а на основании ранее имевшихся у него данных

А в чем разница?

ИИ не принимает решения на основании анализа представленной ему в данный момент материалов. Он смотрит в свою память и пишет, что у него нет информации, что эта задача решена. Притом информация у него подчас устаревшая.

[mihaild]

vicvolf в сообщении #1665931 писал(а):

ИИ не принимает решения на основании анализа представленной ему в данный момент материалов

Что это значит?
Модель на вопросы "ты кто по жизни" и "который час" дает разные ответы. Значит ее ответы зависят от предоставленных материалов.

[Mihaylo]

vicvolf
Вы просто ожидаете ответ с супердлинной цепочкой рассуждения, в конце которого правильный ответ (решение задачи тысячелетия).

Да, это было бы прикольно. Но не забывайте, ответ "у меня нет данных для успешного решения задачи" - это тоже допустимый вариант ответа, разумный с точки зрения имеющегося багажа знаний.

То есть, несмотря на то, что теорему Ферма можно доказать очень долгим перебором (брутфорсом), ответ должен быть такой: "я не могу это сделать за разумное время". Знание брутфорс-алгоритма не означает осведомлённости в том, как решать задачу за разумное время.

[Rasool]

В связи с появлением ChatGPT o3 видно, что прогресс в области ИИ действительно разительный. Поэтому дальнейшее развитие ИИ можно видеть в уменьшении объема хранимых данных и алгоритмов и объема обучающих данных, что должно привести к уменьшению физических размеров вычислительных устройств, которые обеспечивают работу ИИ. В самом деле, биологический интеллект уменьшается в черепной коробке человека, при этом способен решать задачи тысячелетия (пример Г. Я. Перельмана), выполнять сложную научную работу. Вот к этому надо стремиться в перспективе при развитии ИИ. Или я слишком оптимистичен?

[Mihaylo]

Погодите, оставьте свои прогнозы, потому что будут ещё "в связи с появлением o119".

[MoonWatcher]

Rasool в сообщении #1666986 писал(а):

Вот к этому надо стремиться в перспективе при развитии ИИ.

Стремиться будут к AGI, потом к ASI, потом к решению с их помощью актуальных задач (прежде всего научных). Что конечно не отменяет дальнейшей оптимизации в части уменьшения требуемых для обучения и инференса производительности, объема обучающих данных и т.д. А первоочередная задача следующего года, ИМХО - разработка адекватных AGI-бенчмарков.

[b4b5]

Проблема не в бенчмарках (хотя и там всё довольно неверно), проблема в правильной архитектуре AGI.