Закон Мура не скоро исчерпает себя?

[Rasool]

Цитата:

Закон Мура (англ. Moore's law) - эмпирическое наблюдение, изначально сделанное Гордоном Муром, согласно которому (в современной формулировке) количество транзисторов, размещаемых на кристалле интегральной схемы, удваивается каждые 24 месяца. Часто цитируемый интервал в 18 месяцев связан с прогнозом Давида Хауса из Intel, по мнению которого, производительность процессоров должна удваиваться каждые 18 месяцев из-за сочетания роста количества транзисторов и увеличения тактовых частот процессоров.

Сейчас плотность интеграции элементов в микросхемах достигает около 5 нм. Тактовая частота микропроцессоров достигла свыше 3 ГГц. Сейчас это вроде бы уже на уровне исчерпания.
Это имеет важность для доступности ИИ для каждого. Локального ИИ на индивидуальном смартфоне, по-видимому, ожидать не приходится? Или тут нужно ориентироваться на создание нейроморфных компьютеров?

[zykov]

Rasool в сообщении #1657365 писал(а):

Сейчас это вроде бы уже на уровне исчерпания.

Да, исчерпался.
Посмотрите шаг решетки кремния и сраните с этими 5нм.
Дальше особо не уменьшить.

[Dmitriy40]

Rasool в сообщении #1657365 писал(а):

Локального ИИ на индивидуальном смартфоне, по-видимому, ожидать не приходится?

Зависит будет ли запрос широкой общественности, если да, то сделают аппаратный ускоритель, как уже было и с видюхами, и с криптовалютой: появлялся запрос - появлялась и аппаратура. Сравните скорость рендеринга (не трассировки лучей) CPU и GPU сравнимой стоимости. Внедрять аппаратное ускорение ИИ пока только начинают (и ограничиваются достаточно универсальным умножением матриц, но ведь наверняка в ИИ можно ускорить и что-то ещё).

К тому же локальный ИИ на смартфоне уже несколько лет как есть - в постобработке фоток, все эти выделения лиц, красных глаз, улучшения качества, смена фокусного расстояния после съёмки, выделение переднего плана из фона, и т.д. Распознавание речи (не в курсе можно ли запустить Алису и иже с ней на смартфоне) тоже без ИИ тяжко. Шахматные программы (локальные), тоже.

[wrest]

Rasool в сообщении #1657365 писал(а):

Локального ИИ на индивидуальном смартфоне, по-видимому, ожидать не приходится?

Наоборот. Локальный ИИ это новая маркетинговая фишка при продажах телефонов. До этого года фишкой было улучшение фотовозможностей (конечно, зачастую не без помощи "большого брата"). А начиная с этого года -- улучшение ИИ-возможностей. По крайней мере существенная часть презентации 16-го айфона - об этом (в части "apple intelligence") . О локальной обработке.

[Mihaylo]

Dmitriy40 в сообщении #1657383 писал(а):

Зависит будет ли запрос широкой общественности

Запрос есть, но он непонятен.

Немного офтоп:

(Оффтоп)

Я чувствую, что скоро мы будем испытывать дополнительный стресс от вездесущих результатов генерации нейросети. Как это было с рекламой, когда она проникла в быт в прошлом столетии.
Там, где мы считали, что выполнена большая и хорошая работа - это все сгинет, место этого займёт неимоверно скучное, в несоизмеримо больших количествах генерация. Я предлагаю уже сейчас привыкать к негативу под названием "генерация".
Качество и количество ИИ-генерации превзойдёт характеристики человеческой генерации. К счастью, отомрут журналы типа "Moskvich.Mag", точнее им придётся перестроиться. .
Будут популярны ИИ-фильтры наподобие спам-фильтров, но это только вначале они будут более-менее эффективны.

[realeugene]

zykov в сообщении #1657369 писал(а):

Посмотрите шаг решетки кремния и сраните с этими 5нм.

5 nm - они уже давно не проектные нормы, а маркетинговый ход, отражающий некоторую эффективную плотность транзисторов в сравнении с древними технологиями. Транзисторы ушли в 3D.

[zykov]

Dmitriy40 в сообщении #1657427 писал(а):

Сейчас чипы порядка сантиметра, вопрос: через сколько лет превратятся в надгробную плиту?

А какая разница?
И сейчас на большую плату можно много чипов напаять. Только сколько за все эти чипы заплатить придется?

[realeugene]

zykov в сообщении #1657487 писал(а):

Только сколько за все эти чипы заплатить придется?

И как выделяющееся тепло отводить?

[Dmitriy40]

И сейчас есть огромные чипы, например такой, как раз для ИИ: Cerebras WSE-3, 22х22см. Можно сделать чип и с целиком 300мм пластину. О цене промолчу.

Вообще скорость вычислений уже достаточно давно ограничивается тепловыделением, даже для обычных процессоров и видеокарт, например уже много лет для CPU документированы два порога TDP, долговременный и пиковый, и второй раза в два выше первого, соответственно при достаточном охлаждении (и некоторых ухищрениях) можно всегда работать на втором, раза в 1.5-2 быстрее. А если встанет задача ещё ускорить, то можно перепроектировать кристалл и усилить токоведущие дорожки питания и количество контактов питания, что видимо и является ограничением. Либо вернуть в чип и улучшить встроенный DC/DC, подавая ему через контакты более высокое напряжение (скажем сразу 12В) с меньшим током.

Про охлаждение, лет 5 назад видел интересное исследование по отводу тепла прокачиванием жидкости сквозь само тело кристалла по микропорам, чуть ли не прямо от каждого транзистора. Утверждалось что это в разы эффективнее снятия тепла с граней кристалла ...

[Ende]

Тема перемещена из форума «Свободный полёт» в форум «Hardware»
Причина переноса: тематика.

[bondkim137]

wrest в сообщении #1657385 писал(а):

Локальный ИИ это новая маркетинговая фишка при продажах телефонов

ИИ (точнее нейросети) - это вообще во многом переоцененная маркетинговая фишка. Часто построены даже не ad-hoc, а просто с потолка, не анализируя проблему - когда никто не понимает, что происходит и какие параметры выбрать, но пытаются учить нечто на куче данных и затем пытаются это нечто использовать.

[мат-ламер]

Dmitriy40 в сообщении #1657522 писал(а):

Вообще скорость вычислений уже достаточно давно ограничивается тепловыделением

Видеокарта RTX 4090 потребляет 450 ватт и содержит 76 млрд транзисторов. На днях будет анонс видеокарты RTX 5090, которая будет потреблять 600 ватт. Во-первых, такую мощность вообще трудно отвести от относительно малого кристалла (6 кв. см. у 4090). А во-вторых, куда эту мощность девать в квартире? Делать жидкостное охлаждение с выходом на балкон? Вроде как упёрлись в потолок и нужны новые идеи. Может быть нужен новый полупроводник с меньшей энергией переключения транзистора?

Хотя может эти видеокарты не для геймеров, а для студий, которые занимаются компьютерной анимацией. Или для решения задач ИИ.

-- Пт дек 27, 2024 21:05:23 --

Rasool в сообщении #1657365 писал(а):

Локального ИИ на индивидуальном смартфоне, по-видимому, ожидать не приходится?

В браузере Edge (и вообще в Win11) есть некий копилот. Кто в теме, это ИИ? И что он подсказывает? Выбирает для нас порядок сайтов в браузере (в зависимости от того, что он о нас узнал)?

-- Пт дек 27, 2024 21:35:36 --

Rasool в сообщении #1657365 писал(а):

Сейчас это вроде бы уже на уровне исчерпания.

zykov в сообщении #1657369 писал(а):

Да, исчерпался.

Процессор для персоналки можно делать и на нескольких чипах, которые вставлены в один глобальный чип, в котором осуществляется коммуникация сигналов и он способствует отводу тепла.

[talash]

мат-ламер в сообщении #1667376 писал(а):

В браузере Edge (и вообще в Win11) есть некий копилот. Кто в теме, это ИИ? И что он подсказывает? Выбирает для нас порядок сайтов в браузере (в зависимости от того, что он о нас узнал)?

Копилот это можно сказать чатGPT неизвестной версии. Это не локальный ИИ, а удалённый.

[Dmitriy40]

мат-ламер в сообщении #1667376 писал(а):

А во-вторых, куда эту мощность девать в квартире?

Это проблемы геймеров. Пусть меняют квартиры. Или воду греть, для отопления и крана горячей воды. Суперкомпьютеры жрут мегаватты и ничего, справляются.

мат-ламер в сообщении #1667376 писал(а):

Может быть нужен новый полупроводник с меньшей энергией переключения транзистора?

Думаете первый об этом задумались? Их ищут уже пару десятилетий как минимум. И чтоб ещё более-менее подходили под существующие хорошо отлаженные технологии производства (десятки миллиардов долларов вложены). Что-то возможно и есть, но лишь опытное/малосерийное производство, в лабораториях (по нормам в сотни нм и лишь миллионы транзисторов), круто и очень дорого. И кстати многое и внедрено (скажем напряжённый кремний).