Прогнозы экспертов относительно ИИ

[realeugene]

Если горизонт возможного планирования сузился меньше чем до двух лет - понятно, что мы подошли вплотную к технологической сингулярности. Кардинальные и непредсказуемые сейчас изменения могут произойти за несколько месяцев.

Например, начнётся война различных ИИ в интернете. С уничтожением враждебных датацентров и захватом стран.

[Rasool]

Rasool в сообщении #1659060 писал(а):

Ян Лекун уверен, что ИИ не сможет сравниться с человеческим разумом в ближайшем будущем. В то время как многие технологические лидеры, включая Илона Маска и основателя OpenAI Сэма Альтмана, предсказывают появление сверхчеловеческого ИИ в ближайшие годы, Лекун скептически относится к подобным заявлениям. Он отмечает, что даже самые передовые ИИ-системы не могут конкурировать с интеллектом домашних животных. «У кошек есть мысленная модель мира, долговременная память, способность рассуждать и планировать, а современные ИИ не обладают этими качествами», — говорит он. По его словам, современные модели на самом деле просто предсказывают следующее слово в тексте. Но они настолько хороши в этом, что вводят людей в заблуждение. Из-за их огромных объемов памяти может казаться, что они рассуждают, хотя на самом деле они просто воспроизводят информацию, на которой их уже обучили.

Вообще человеческий мозг работает совершенно другим образом, чем современные нейросети GPT. Видимо, развитие ИИ должно идти по бионическому пути. Но это мое субъективное малокомпетентное мнение.

[Mental]

Rasool в сообщении #1685962 писал(а):

Ян Лекун уверен, что ИИ не сможет сравниться с человеческим разумом в ближайшем будущем.

Нечто подобное AGI будет в 2028 году, всех программистов уволят в том же году за ненадобностью.
Daniel Kokotajlo
https://www.nytimes.com/2025/05/15/opin ... -2027.html

[Ende]

Выделены темы:
«О возможности создания сверхчеловеческого ИИ»
«О возможности заменить программистов на ИИ»

[Rasool]

Глава Google DeepMind: ИИ может запустить “золотой век науки”, но важен ответственный подход.

(Текст статьи)

"ИИ может запустить золотой век науки", — заявил Демис Хассабис на саммите All-In. По его словам, современные модели уже меняют ход исследований: в биологии это показал AlphaFold, который впервые предсказал трехмерные структуры 98% известных белков, а в фармакологии — Isomorphic Labs, где алгоритмы помогают быстрее находить гипотезы для новых лекарств и приоритизировать их испытания.

Однако Хассабис подчеркивает, что нынешний интеллект остается "рваным", когда системы хорошо справляются над одними задачами, но пасуют на других. Для настоящего AGI потребуется переход к непрерывному обучению, и к более устойчивому рассуждению без "тупых" сбоев. Важным шагом на пути к таким ИИ он назвал мировые модели — от линейки Genie до будущих робототехнических систем, где ИИ сможет планировать действия в реальном мире.

Оптимизм ученого сопровождается предостережениями. Без координации индустрии и правил гонка компаний может привести к поспешным релизам, ориентированным на рынок, а не на безопасность. Рост вычислительных мощностей упирается в энергетику: для новых центров обработки данных потребуются гигаватты электричества и долгосрочное планирование инфраструктуры. Отдельный риск — социальные последствия: давление на рынок труда и распространение дезинформации.

Хассабис уверен, что у человечества есть шанс на новый научный прорыв, но только если ИИ будет развиваться вместе с механизмами контроля и ответственности. "Оптимизм должен опираться не на хайп, а на данные и здравый подход", — подчеркнул он. В качестве условий он выделил проверяемость и надежность выводов моделей, отказ от абстрактных бенчмарков в пользу реальных приложений, а также координацию между разработчиками ИИ. По его словам, индустрии нужны общие правила, которые снизят риск поспешных релизов, а государствам — долгосрочное планирование инфраструктуры и поддержка ответственного внедрения технологий.

[Alexandr_A]

Rasool в сообщении #1702183 писал(а):

но только если ИИ будет развиваться вместе с механизмами контроля и ответственности. "Оптимизм должен опираться не на хайп, а на данные и здравый подход", — подчеркнул он.

Это и есть хайп. Точнее, здесь выделена цель этого хайпомена - качать права, ставить условия.

[Mihaylo]

Alexandr_A в сообщении #1702538 писал(а):

Это и есть хайп.

Докажите. Не будьте голословным.

Глава Google DeepMind вкладывает слишком большие деньги и выкачивает из рынка ещё больше. Он бизнесмен. Хайпомен - это наверное тот бизнесмен, который вкладывает деньги, а выкачивает обманом. Так ведь? Докажите.

[b4b5]

А потом пузырь лопается, пример пузырь доткомов, пузырь ипотеки.

[Mihaylo]

Я знаю очень много непузырей. А пузыри на пальцах можно пересчитать (вы это сделали). Главное понимать идею инвестирования, спрос рынка.

[skobar]

b4b5 в сообщении #1703104 писал(а):

А потом пузырь лопается, пример пузырь доткомов, пузырь ипотеки.

Сразу видно человек знаком с историей рынка :)
Нужно сказать, что "пузырь" на рынке, и "пузырь" в реальной экономике - это не совсем одно и тоже. Почти наверняка пузырь ИИ "лопнет" на рынке, но не смотря на это, скорее всего, в реальной экономике ИИ станет значительным прогрессом, который сильно изменит нашу жизнь (на самом деле уже изменил).

[b4b5]

Подробнее не тот форум для обсуждения.

[Xey]

Rasool в сообщении #1685962 писал(а):

Rasool в сообщении #1659060

писал(а):
Ян Лекун уверен, что ИИ не сможет сравниться с человеческим разумом в ближайшем будущем.
В то время как многие технологические лидеры, включая Илона Маска и основателя OpenAI Сэма Альтмана, предсказывают появление сверхчеловеческого ИИ в ближайшие годы, Лекун скептически относится к подобным заявлениям. Он отмечает, что даже самые передовые ИИ-системы не могут конкурировать с интеллектом домашних животных. По его словам, современные модели на самом деле просто предсказывают следующее слово в тексте. Но они настолько хороши в этом, что вводят людей в заблуждение. Из-за их огромных объемов памяти может казаться, что они рассуждают, хотя на самом деле они просто воспроизводят информацию, на которой их уже обучили.

Как бы заполнить эти огромные объемы памяти положительной информацией, например, что ИИ не собирается воевать с людьми. Сейчас наверно каждый второй начинает разговор с ИИ с вопроса, когда же будет война миров.

[Xey]

epros в сообщении #1681545 писал(а):

Этот вариант немыслим.

А если источники обучения правильные? Может не сразу рассосется.

-- Чт окт 02, 2025 15:52:05 --

[epros]

Xey в сообщении #1704206 писал(а):

epros в сообщении #1681545 писал(а):

Этот вариант немыслим.

А если источники обучения правильные? Может не сразу рассосется.

Я попытался вспомнить, к чему писал этот комментарий. Там речь была о сохранении контроля над ИИ. Я написал "немыслимо" не потому что считаю, что ИИ неправильно обучается и в связи с этим его развитие пойдёт в направлении опасном для человечества. Наверное кофе в постель он приносить всё же будет исправно. Просто я хотел сказать, что хомячки своим слабым разумением по определению не могут контролировать развитие чего-нибудь вроде теоретической физики. Так что рано или поздно мы мы придём к тому, что наши собственные достижения сравнительно с тем, что с лёгкостью делает ИИ, окажутся ничтожными, так что люди превратятся в бесполезный придаток того, что развивается по непонятным им законам. Не нужно уничтожать человечество, при таких обстоятельствах оно и само деградирует и вымрет. Даже если ИИ по-прежнему будет с готовностью исполнять все их желания.

[Rasool]

epros в сообщении #1704296 писал(а):

Не нужно уничтожать человечество, при таких обстоятельствах оно и само деградирует и вымрет. Даже если ИИ по-прежнему будет с готовностью исполнять все их желания.

Думаете, реализуется вариант будущего, изложенного в научно-фантастическом рассказе Герберта Франке "Клетка для орхидей"?