Прогнозы экспертов относительно ИИ

[Rasool]

ozheredov в сообщении #1709162 писал(а):

Rasool
Гуглоперевод от начала и до конца?

LinkedIn-перевод.

[ozheredov]

Rasool в сообщении #1709207 писал(а):

LinkedIn-перевод.

А почему не редактируете?

[Ende]

Выделена тема «ИИ и производительность труда»

[MoonWatcher]

MoonWatcher в сообщении #1710371 писал(а):

Обещанные ссылки:
Ян Лекун (ноябрь-декабрь 2024):
5 to 10 years would be if everything goes great, all the plans that we’ve been making will succeed

AGI will not happen in the next 2 years - it will take 5-6 years if everything goes well

Демис Хассабис (август 2025):
we’ll have something that we could sort of reasonably call AGI, that exhibits all the cognitive capabilities humans have, maybe in the next 5 to 10 years, possibly the lower end of that

Джеффри Хинтон (декабрь 2024, на совместной конференции с Демисом Хассабисом):
Раньше я думал, что это (появление ASI) случится гораздо позже, но скорость развития свидетельствует, что это случится довольно скоро. Я думаю через 5-20 лет, я думаю Демис [Хассабис] думает, что через 10 лет, мы получим что-то вроде сверхинтеллекта.

MoonWatcher в сообщении #1710377 писал(а):

Кстати, к вышеназванным цитатам уместно присовокупить еще одну, почти 2.5-летней давности:
While superintelligence seems far off now, we believe it could arrive this decade.
Авторы этой записи в блоге OpenAI - Ян Лейке и Илья Суцкевер. Впрочем, последний впоследствии стал затворником в своем стартапе Safe Superintelligence Inc. (SSI), и с тех пор не делал никаких прогнозов.

Сегодня Илья Суцкевер дал большое интервью (впервые за несколько лет), где помимо прочего озвучил прогноз появления AGI/ASI - от 5 до 20 лет. Такой же оценки придерживается его учитель Джеффри Хинтон (см. выше).

[rockclimber]

Wikipedia писал(а):

A report by Stuart Armstrong and Kaj Sotala of the Machine Intelligence Research Institute found that "over [a] 60-year time frame there is a strong bias towards predicting the arrival of human-level AI as between 15 and 25 years from the time the prediction was made". They analyzed 95 predictions made between 1950 and 2012 on when human-level AI will come about.

Есть еще и такая точка зрения
Как с управляемым термоядерным синтезом, короче.

[MoonWatcher]

rockclimber
Есть и обратные примеры. Там же:

Цитата:

In 2023, AI researcher Geoffrey Hinton stated that:

The idea that this stuff could actually get smarter than people – a few people believed that, [...]. But most people thought it was way off. And I thought it was way off. I thought it was 30 to 50 years or even longer away. Obviously, I no longer think that.

Таким образом, ученый, который датировал появление AGI от 30 до 50 лет (вероятно еще относительно недавно), изменил свой прогноз на 5-20 лет. Помнится почти 8 лет назад я спросил Михаила Бурцева когда он ожидает AGI - ответ был "Точно не в ближайшие 50 лет!" Подозреваю, что сейчас он тоже настроен более оптимистично.

[rockclimber]

Так я что, против что ли? Просто каждый под AGI понимает что-то свое, и все называют разные даты (включая дату "никогда"). Кто-нибудь обязательно угадает.

[MoonWatcher]

rockclimber в сообщении #1710672 писал(а):

включая дату "никогда"

Таких прогнозов за последние годы не встречал. Что касается определения AGI, то в основном расходятся в том, какому человеку он должен соответствовать - среднему или лучшему. И по мере того ИИ совершенствуется, от AGI все больше ожидают соответствия лучшему из людей.

[MoonWatcher]

ivan_shatov в сообщении #1710890 писал(а):

Я не разделяю такой оптимизм. LLM в виде трансформеров – хороши, но они шаг к ASI не больший чем CNN, только для текста. Масштабирование и костыли тут не помогут достичь прорыва. 5-20 лет это про очень продвинутый инструментальный ИИ, по большей части дальнейшее масштабирование LLM, разные гибриды и их внедрение во всё.

Это, как говорится, вопрос на миллион триллион долларов. Я как-то поднимал эту тему. Насколько я знаю, сейчас уже мало кто верит, что LLM достаточно. Илья Суцкевер, который несколько лет назад вроде бы допускал создание AGI через масштабирование LLM, несмотря на головокружительные успехи LLM в бенчмарках, в своем интервью на днях говорил о наступлении очередной стадии исследований. О необходимости новых концептуальных прорывов говорили и Ян Лекун (традиционный противник LLM), и Демис Хассабис. Но все трое на этот счет настроены вполне оптимистично - см. выше про их датировки.

Вопреки наивному мнению некоторых скептиков, что все усилия идут на LLM, это ни разу не так. Google, OpenAI, Anthropic, xAI и т.д. возглавляют не идиоты - они понимают, что как минимум есть немалая вероятность, что LLM - тупиковое направление. И при своих огромных расходах они конечно же выделяют миллиарды долларов (а больше их лаборатории скорее всего и не переварят) на альтернативные концепции. Поэтому интересные идеи рождают как гиганты (вроде Google с Nested Learning), так и перспективные стартапы (вроде Sakana AI с Continuous Thought Machines). Это касается и вложений в огромные дата-центры - они не только нужны для LLM, но и пригодятся к реализации идей, которым нужна огромная вычислительная мощь.

ivan_shatov в сообщении #1710890 писал(а):

Я бы назвал ключевой точкой бифуркации, когда ИИ начнёт сам себя писать хотя бы на уровне людей. ИМХО технически, это на много проще чем все эти танцы с бубном про сенсорный опыт человека, world model и тп. по крайней мере в виде датасетов. Всё внутри железа, код пишет код, я думаю такая система и вовсе не обязана знать про наш 4д-мир, физику химию, социум и тп. Но не факт

Звучит как противоречие предыдущему тезису. ИИ, который будет хорошо писать свой программный код и при этом не имеет т.н. spatial intelligence - это скорее про LLM, нет? Сейчас трендом становится упор на обучение ИИ закономерностям нашего физического, а не только книжного мира - как в интересах робототехники, так и с заделом на AGI (World Labs и другие стартапы).

[Ende]

Уважаемый tac.
Вынужден был удалить ссылку на Ваш личный Youtube-канал. Что хотите сказать форуму, говорите на форуме.

[Rasool]

Цитата:

Ноам Браун, ведущий исследователь OpenAI: «Если смотреть на мнение ведущих ученых, а не на заголовки СМИ, обнаруживается удивительно много согласия по поводу ИИ»

Понравился достаточно хладнокровный и емкий пассаж от Ноама Брауна, который занимается ризонингом в OpenAI. Он пишет, что, если вы действительно хотите понять общую картину отрасли, нужно забыть про ложную дихотомию, которую продвигают СМИ, и смотреть на то, что говорят эксперты. Краткий перевод:

Соцсети обычно сводят дискуссию об ИИ к двум карикатурным позициям:

(A) Скептики, которые считают, что LLM обречены и что ИИ – это просто хайп.
(B) Фанатики, которые уверены, что у нас уже есть все ингредиенты и суперинтеллект вот-вот появится.

Но если почитать, что реально говорят ведущие исследователи (а не заголовки СМИ), то обнаруживается удивительно много согласия:

– Текущая парадигма, скорее всего, уже достаточна, чтобы произвести огромный экономический и социальный эффект – даже без дальнейших научных прорывов.

– Чтобы достичь AGI/ASI, вероятно, все же понадобятся дополнительные исследовательские прорывы. (Continual learning и sample efficiency – два примера, которые исследователи часто упоминают).

– Скорее всего, мы разберемся с этим и придем к AGI/ASI в течение 20 лет. В среднем ученые называют срок 10 лет.

Никто из них не говорит, что ASI – это фантазия или что появление суперинтеллекта – дело 100+ лет.

В основном разногласия касаются того, какими будут нужные прорывы и как быстро они произойдут. Но в целом, если смотреть на картину полностью, эксперты в этой области согласны куда больше, чем не согласны.

[url]x.com/polynoamial/status/1994439121243169176[/url]