Новости ИИ

[Rasool]

Нейротехнологическая компания Илона Маска Neuralink впервые вживила имплант в мозг человека. Об этом миллиардер сообщил в своей соцсети X.
Эта новость имеет отношение к ИИ, потому что с помощью имплантов можно исследовать работу мозга и использовать эти знания для совершенствования ИИ.

[Утундрий]

Не знаю, сойдут ли мои личные впечатления за новость, но вот они. Мечтают ли андроиды об электроовцах? Да, мечтают. Уже сейчас. Сам видел.

[Rasool]

ChatGPT поставил правильный диагноз там, где не справились 17 врачей.

[Dmitriy40]

Остались: универсальность и энергоэффективность. Вероятно потому что совсем универсальный ИИ особо никому на практике и не нужен, как тот Джо в анекдоте.

[Anton_Peplov]

Rasool в сообщении #1627507 писал(а):

Нейротехнологическая компания Илона Маска Neuralink впервые вживила имплант в мозг человека. Об этом миллиардер сообщил в своей соцсети X.
Эта новость имеет отношение к ИИ, потому что с помощью имплантов можно исследовать работу мозга и использовать эти знания для совершенствования ИИ.

Эта новость весьма косвенное отношение даже к исследованию мозга, не говоря уж про ИИ .

Имплантаты, в принципе, можно использовать для исследования мозга. Но ни один этический совет не даст разрешения вживить человеку под череп железку только для того, чтобы исследовать мозг. Нужны медицинские показания.

Конкретный имплантат, недавно внедренный Neuralink - это интерфейс "мозг-компьютер". Его задача помочь парализованным людям управлять техникой. Он превращает мысленные команды в движения курсора и клики.

Первая система такого рода была испытана еще в 1998 г. С тех пор было много других экспериментов. Но до стадии коммерческого продукта ни одна из этих систем не дошла. Удастся ли Neuralink создать что-то большее, чем экспериментальный образец - покажет время. В любом случае к ИИ это имеет очень мало отношения.

[Tookser]

Groq (ixbt) - ASIC для быстрого инференса LLM. Потыкать можно тут, (там Llama, Mistral, есть платное АПИ), это впечатляет скоростью.

Цитата:

При работе с моделью Mixtral 8x7B Groq LPU обеспечивает скорость 480 токенов в секунду, а это один из лучших показателей вывода в отрасли. В модели Llama 2 70B с длиной контекста 4096 токенов Groq может обслуживать 300 токенов в секунду, а в Llama 2 7B с 2048 токенами контекста — 750 токенов/с.

Также есть https://fastsdxl.ai - это быстрая генерация картинок, со скоростью ввода. Но тут скорость достигнута в том числе благодаря использованию маленькой модели SD XL Lightning, как я понял.

[Mihaylo]

Ага, сейчас важно рекламировать провайдеров ИИ, ведь их так мало...

[Rasool]

Прочитал на одном телеграм-канале:

Цитата:

NVIDIA сделал весьма смелый шаг к демократизации доступа к инструментам ИИ, и выпустила Chat with RTX. Это ПО позволит владельцам видеокарт GeForce RTX 30 и 40 запускать персонализированные чат-боты на базе ИИ непосредственно на своих ПК с Windows без необходимости подключения к интернету. 

Chat с RTX это демо-приложение, которое позволяет персонализировать большую языковую модель (LLM) GPT непосредственно на собственных данных пользователя текстовыми документами, видео и т.д.

Т.е. Chat with RTX позволяет пользователям использовать чат-бота с обучением на своих собственных данных. Это позволяет создавать уникальных полностью персонализированных чат-ботов.

Chat with RTX основан на 3 ключевых технологиях: генеративные модели ИИ (GenAI), это аналогично ChatGPT, они обучаются на больших объемах текстовых данных.

⁠Поисковая дополнительная генерация (RAG): Эта технология обеспечивает чат-боту доступ и возможность обработки информации пользователя и позволяет делать более адекватные ответы в рамках необходимого контекста.

⁠TensorRT-LLM - это библиотека, разработанная NVIDIA, обеспечивает оптимизацию моделей GenAI для эффективного выполнения на графических процессорах RTX, повышая производительность.

Важный момент - это открытый исходный код - который позволяет создавать свои собственные приложения на базе RAG и исследовать возможности чатов на базе ИИ.

⁠В настоящее время Chat with RTX доступен только для ПК под управлением Windows 11 с картами GeForce RTX 30 и 40 серий, и это ещё не полностью завершённый инструмент, что не позволяет считать его стабильным.

Ссылка на инструмент: https://www.nvidia.com/en-us/ai-on-rtx/chat-with-rtx-generative-ai/

[Rasool]

ИИ Microsoft Copilot скоро будет работать локально на компьютерах пользователей.

Цитата:

Искусственный интеллект Microsoft Copilot следующего поколения будет требовать использования нейронных процессоров с вычислительной мощностью не менее 40 триллионов операций в секунду (TOPS). Это необходимо для того, чтобы интеллектуальный помощник мог работать локально на компьютерах обычных пользователей. Об этом сообщили представители компании Intel, указав, что это превышает возможности любых современных процессоров потребительского уровня.

В текущий момент самым быстродействующим нейронным процессором становится Apple M3 с 18 TOPS. Процессоры AMD Ryzen 8040 и 7040, предназначенные для ноутбуков, обеспечивают 16 и 10 TOPS. Также 10 TOPS выдает ноутбук Intel Meteor Lake. А у Qualcomm уже есть процессор Snapdragon X Elite, предлагающий достаточное быстродействие для корректной работы Copilot.

Сейчас практически вся работа Copilot ведется в облаке. Такой подход оборачивается ощутимым задержками, которые допустимы при решении больших задач, но досадны и неуместны, когда речь идет о повседневных вещах. Если запросы Copilot будут обрабатываться непосредственно на рабочих станциях пользователей, это не только уменьшит задержки, но и улучшит конфиденциальность и повысит производительность сервиса.

Intel возлагает серьезные надежды на внедрение в ПК технологий искусственного интеллекта. При этом компания делает акцент не только на текущие потребности, но и осваивает то, что будет востребовано в новом поколении ИИ. Для этого разработчики намерены следовать уже утвержденной дорожной карте. Так, на 2025 год намечен выпуск чипов Intel Lunar Lake с утроенной скоростью нейронных вычислений и поддержкой 300 интеллектуальных функций.

[mihaild]

Цитата:

NVIDIA сделал весьма смелый шаг к демократизации доступа к инструментам ИИ

Не вижу ничего особо смелого в изготовлении графического интерфейса к давно существующим моделям.

[Djong]

Нынешний Copilot, уже очень умный, будет работать на ПК, а будет ещё в миллион раз мощнее Copilot в облаке. Коммерческая версия Copilot генерит бизнес-приложения под ключ, тут уже писали. Что айтишникам (программистам) делать? Их смерть пришла?

[manul91]

Djong в сообщении #1636819 писал(а):

Коммерческая версия Copilot генерит бизнес-приложения под ключ

Чушь. Пока AI генерит бред, ничего такого не будет.

[mihaild]

Не очень важная новость, но в порядке саморекламы: google запустил новую генерацию картинок в gemini https://blog.google/products/gemini/goo ... gust-2024/.
(и честно скажу, мне в целом нравится как получилось)

[Dmitriy40]

ИИ научили генерировать реалистичную картинку игры в Doom учитывая действия игрока - т.е. прогу игры заменили на нейросеть, причём не столь уж большую, хватает 1 TPU. Уже не просто видео по заданному сюжеты, а полностью интерактивное видео, включая и внутренние переменные типа количества патронов или уровня защиты и здоровья в зависимости от получения урона. Правда с историей сюжета швах, всего 3с, но возможно это можно прикрутить отдельно.

[Rasool]

Оказалось, что ИИ-помощники пока не решают проблемы программистов.

Цитата:

Исследование показало, что разработчики, использующие Copilot, внесли на 41% больше ошибок в свой код. Uplevel также не нашел доказательств того, что ИИ-помощник помогал предотвратить выгорание разработчиков.

Эти выводы противоречат утверждениям создателей Copilot из GitHub и других сторонников ИИ-инструментов для программирования о значительном росте продуктивности. Ранее спонсируемое GitHub исследование утверждало, что разработчики пишут код на 55% быстрее с помощью Copilot.