Новости ИИ

[Rasool]

Small Language Models: Survey, Measurements, and Insights - довольно интересная статья, в которой авторы сравнивают по различным критериям 59 малых языковых моделей с открытым исходным кодом. Анализируют такие возможности, как рассуждение, возможность к обучению, математика и кодинг, а также затраты на запуск, задержку ответов и многое другое.

[Rasool]

Сэм Альтман: «До появления сверхинтеллекта осталось несколько тысяч дней».

Цитата:

Гендиректор OpenAI Сэм Альтман представил свое видение будущего, в котором сверхразумный ИИ может появиться уже в этом десятилетии, через «несколько тысяч дней». Он называет наступающий период «Эрой интеллекта», следующей за каменным, аграрным и промышленным веками. Альтман прогнозирует, что персональные ИИ-команды станут частью повседневной жизни, революционизируя образование, медицину и другие сферы. Однако он также предупреждает о потенциальных вызовах, таких как изменения на рынке труда и необходимость масштабной инфраструктуры для доступности ИИ. По его мнению, без необходимых вычислительных мощностей ИИ станет ресурсом, за который будут вестись войны. Несмотря на это, Альтман уверен, что ИИ приведет к глобальному процветанию и решению сложных мировых проблем.

«Возможно, через несколько тысяч дней (!) у нас появится сверхразум; это может занять больше времени, но я уверен, что мы этого достигнем», — написал Альтман в своем личном блоге. Судя по всему, глава OpenAI считает, что сверхинтеллект может появиться в течение ближайшего десятилетия. Для сравнения: 2000 дней — это примерно 5,5 лет, 3000 дней — около 8,2 лет, а 4000 дней — почти 11 лет. Генеральный директор OpenAI знает о перспективных исследованиях в области искусственного интеллекта, которая недоступна общественности. Учитывая это, к его прогнозам стоит прислушиваться.

[Rasool]

Оказалось, что ИИ-помощники пока не решают проблемы программистов.

Цитата:

Исследование показало, что разработчики, использующие Copilot, внесли на 41% больше ошибок в свой код. Uplevel также не нашел доказательств того, что ИИ-помощник помогал предотвратить выгорание разработчиков.

Эти выводы противоречат утверждениям создателей Copilot из GitHub и других сторонников ИИ-инструментов для программирования о значительном росте продуктивности. Ранее спонсируемое GitHub исследование утверждало, что разработчики пишут код на 55% быстрее с помощью Copilot.

[Rasool]

Лауреатами Нобелевской премии по физике за 2024 год стали американский ученый Джон Хопфилд и британско-канадский ученый Джеффри Хинтон за "основополагающие открытия и изобретения, которые сделали возможным машинное обучение с использованием искусственных нейросетей".
Подробнее об исследованиях ученых можно узнать в официальном пресс-релизе.

[schoolboy]

Физика теперь в этот раздел переносится?

[Rasool]

schoolboy в сообщении #1658002 писал(а):

Физика теперь в этот раздел переносится?

Вообще машинное обучение показало свою силу, раз за его заслуги в области физики дают Нобелевку.

[Anton_Peplov]

Rasool в сообщении #1657996 писал(а):

Лауреатами Нобелевской премии по физике за 2024 год стали американский ученый Джон Хопфилд и британско-канадский ученый Джеффри Хинтон за "основополагающие открытия и изобретения, которые сделали возможным машинное обучение с использованием искусственных нейросетей".
Подробнее об исследованиях ученых можно узнать в официальном пресс-релизе.

Странноватое награждение, конечно.
Да, хопфилдовская сеть и машина Больцмана были разработаны благодаря идеям, позаимствованным из физики. Но разработка нейросетей это не физика.
К тому же ни той ни другой сетью, кажется, давно уже никто не пользуется.

Ощущение, что судьи решали задачу "как бы нам дать премию вроде бы за физику, но на самом деле за ИИ". В итоге получилось что и не за физику (её там нет) и не за ИИ (не тот ИИ, чтобы давать такого масштаба премии). В процессе натягивания на глобус сова порвалась.

[Rasool]

Нобелевкой по физике дело не кончилось и нобелевку по химии тоже получили машинлернеры.
Ее выдали Демису Хассабису и Джону Джамперу из Google за модель AlphaFold2 для предсказания структуры белка.

[Anton_Peplov]

Rasool в сообщении #1658050 писал(а):

Нобелевкой по физике дело не кончилось и нобелевку по химии тоже получили машинлернеры.
Ее выдали Демису Хассабису и Джону Джамперу из Google за модель AlphaFold2 для предсказания структуры белка.

Только половину премии. Вторую половину - Дэвиду Бэйкеру за дизайн белков de novo. Конечно, дизайн компьютерный, но ключевое достижение - первый белок, не имеющий прототипа в природе - был создан без нейросетей (потом в программу добавили трансформер).

К этой премии нет вопросов. Оба достижения - нобелевского уровня.

[worm2]

Про AlphaFold мне лично интересно, на каких данных эта моделька обучалась.
Потому что я немного поучаствовал в проекте распределённых вычислений Folding@Home и за 10+ лет нажёг на нём (казённого , так что я не за себя тут обижаюсь) электричества, по прикидкам, на десятки тысяч рублей.
И вот мне интересно, те громадные объёмы расчётов, которые насчитали энтузиасты Folding@Home, не они ли, случайно, легли в основу обучения AlphaFold?
Если они, то было бы неплохо об этом проекте хотя бы полусловом упомянуть в нобелевском тексте, как он там называется. А то возникает впечатление, что эта AlphaFold из воздуха появилась, и никто, кроме ограниченного круга её разработчиков, к её успехам не причастен.
Если не они (я сейчас бегло погуглил, и кажется, что нет), то всё равно интересно, откуда брались данные для обучения (или я вообще не понял, как AlphaFold работает, без обучения, что ли?).

[SergeyGubanov]

Вангую, Нобелевку по литературе дадут за Трансформеров.

[Anton_Peplov]

SergeyGubanov в сообщении #1658058 писал(а):

Вангую, Нобелевку по литературе дадут за Трансформеров.

Нобелевку по литературе дадут нейросети, которая что-то там написала. Это будет очень прогрессивно.

[Утундрий]

Нобелевку по литературе дадут за эссе ИИ "Что такое литература и почему её сейчас нет?"

[mihaild]

worm2 в сообщении #1658053 писал(а):

Про AlphaFold мне лично интересно, на каких данных эта моделька обучалась

На PDB и Uniclust30 https://www.nature.com/articles/s41586-021-03819-2.