Закон Мура не скоро исчерпает себя?

[Rasool]

Цитата:

Закон Мура (англ. Moore's law) - эмпирическое наблюдение, изначально сделанное Гордоном Муром, согласно которому (в современной формулировке) количество транзисторов, размещаемых на кристалле интегральной схемы, удваивается каждые 24 месяца. Часто цитируемый интервал в 18 месяцев связан с прогнозом Давида Хауса из Intel, по мнению которого, производительность процессоров должна удваиваться каждые 18 месяцев из-за сочетания роста количества транзисторов и увеличения тактовых частот процессоров.

Сейчас плотность интеграции элементов в микросхемах достигает около 5 нм. Тактовая частота микропроцессоров достигла свыше 3 ГГц. Сейчас это вроде бы уже на уровне исчерпания.
Это имеет важность для доступности ИИ для каждого. Локального ИИ на индивидуальном смартфоне, по-видимому, ожидать не приходится? Или тут нужно ориентироваться на создание нейроморфных компьютеров?

[zykov]

Rasool в сообщении #1657365 писал(а):

Сейчас это вроде бы уже на уровне исчерпания.

Да, исчерпался.
Посмотрите шаг решетки кремния и сраните с этими 5нм.
Дальше особо не уменьшить.

[Dmitriy40]

Rasool в сообщении #1657365 писал(а):

Локального ИИ на индивидуальном смартфоне, по-видимому, ожидать не приходится?

Зависит будет ли запрос широкой общественности, если да, то сделают аппаратный ускоритель, как уже было и с видюхами, и с криптовалютой: появлялся запрос - появлялась и аппаратура. Сравните скорость рендеринга (не трассировки лучей) CPU и GPU сравнимой стоимости. Внедрять аппаратное ускорение ИИ пока только начинают (и ограничиваются достаточно универсальным умножением матриц, но ведь наверняка в ИИ можно ускорить и что-то ещё).

К тому же локальный ИИ на смартфоне уже несколько лет как есть - в постобработке фоток, все эти выделения лиц, красных глаз, улучшения качества, смена фокусного расстояния после съёмки, выделение переднего плана из фона, и т.д. Распознавание речи (не в курсе можно ли запустить Алису и иже с ней на смартфоне) тоже без ИИ тяжко. Шахматные программы (локальные), тоже.

[wrest]

Rasool в сообщении #1657365 писал(а):

Локального ИИ на индивидуальном смартфоне, по-видимому, ожидать не приходится?

Наоборот. Локальный ИИ это новая маркетинговая фишка при продажах телефонов. До этого года фишкой было улучшение фотовозможностей (конечно, зачастую не без помощи "большого брата"). А начиная с этого года -- улучшение ИИ-возможностей. По крайней мере существенная часть презентации 16-го айфона - об этом (в части "apple intelligence") . О локальной обработке.

[Mihaylo]

Dmitriy40 в сообщении #1657383 писал(а):

Зависит будет ли запрос широкой общественности

Запрос есть, но он непонятен.

Немного офтоп:

(Оффтоп)

Я чувствую, что скоро мы будем испытывать дополнительный стресс от вездесущих результатов генерации нейросети. Как это было с рекламой, когда она проникла в быт в прошлом столетии.
Там, где мы считали, что выполнена большая и хорошая работа - это все сгинет, место этого займёт неимоверно скучное, в несоизмеримо больших количествах генерация. Я предлагаю уже сейчас привыкать к негативу под названием "генерация".
Качество и количество ИИ-генерации превзойдёт характеристики человеческой генерации. К счастью, отомрут журналы типа "Moskvich.Mag", точнее им придётся перестроиться. .
Будут популярны ИИ-фильтры наподобие спам-фильтров, но это только вначале они будут более-менее эффективны.

[realeugene]

zykov в сообщении #1657369 писал(а):

Посмотрите шаг решетки кремния и сраните с этими 5нм.

5 nm - они уже давно не проектные нормы, а маркетинговый ход, отражающий некоторую эффективную плотность транзисторов в сравнении с древними технологиями. Транзисторы ушли в 3D.

[zykov]

Dmitriy40 в сообщении #1657427 писал(а):

Сейчас чипы порядка сантиметра, вопрос: через сколько лет превратятся в надгробную плиту?

А какая разница?
И сейчас на большую плату можно много чипов напаять. Только сколько за все эти чипы заплатить придется?

[realeugene]

zykov в сообщении #1657487 писал(а):

Только сколько за все эти чипы заплатить придется?

И как выделяющееся тепло отводить?

[Dmitriy40]

И сейчас есть огромные чипы, например такой, как раз для ИИ: Cerebras WSE-3, 22х22см. Можно сделать чип и с целиком 300мм пластину. О цене промолчу.

Вообще скорость вычислений уже достаточно давно ограничивается тепловыделением, даже для обычных процессоров и видеокарт, например уже много лет для CPU документированы два порога TDP, долговременный и пиковый, и второй раза в два выше первого, соответственно при достаточном охлаждении (и некоторых ухищрениях) можно всегда работать на втором, раза в 1.5-2 быстрее. А если встанет задача ещё ускорить, то можно перепроектировать кристалл и усилить токоведущие дорожки питания и количество контактов питания, что видимо и является ограничением. Либо вернуть в чип и улучшить встроенный DC/DC, подавая ему через контакты более высокое напряжение (скажем сразу 12В) с меньшим током.

Про охлаждение, лет 5 назад видел интересное исследование по отводу тепла прокачиванием жидкости сквозь само тело кристалла по микропорам, чуть ли не прямо от каждого транзистора. Утверждалось что это в разы эффективнее снятия тепла с граней кристалла ...

[Ende]

Тема перемещена из форума «Свободный полёт» в форум «Hardware»
Причина переноса: тематика.

[bondkim137]

wrest в сообщении #1657385 писал(а):

Локальный ИИ это новая маркетинговая фишка при продажах телефонов

ИИ (точнее нейросети) - это вообще во многом переоцененная маркетинговая фишка. Часто построены даже не ad-hoc, а просто с потолка, не анализируя проблему - когда никто не понимает, что происходит и какие параметры выбрать, но пытаются учить нечто на куче данных и затем пытаются это нечто использовать.