По мотивам новости "Выходцы из Anthropic создают ИИ, который улучшает сам себя":
https://habr.com/ru/news/1051742/Цитата:
В команде 20 человек из Anthropic, xAI, Google DeepMind и OpenAI. Нейшабур семь лет занимался ИИ для науки в Google и Anthropic и возглавлял там команду, отвечавшую за научные рассуждения моделей; технический директор Харш Мехта в одиночку собрал первую версию внутренней платформы автоматизированных исследований Anthropic; Шаян Салехиан пришел из ML-команды xAI, а 23-летняя Тара Резаи — выпускница MIT и медалистка олимпиад, стажировавшаяся в OpenAI. Нейшабур и Мехта ушли из Anthropic в декабре 2025 года.
Особенно нравится мне эта золотая медалистка... Это прям так мило!
Но я серьёзно и несерьёзно одновременно. Вопрос "куда шагать в ML" неразрывно связан с проблемой самоусовершенствующегося ИИ. Ну одно дело, когда он сам самоусовершенствуется, другое дело, когда ты не знаешь, куда шагать в ML. Но те молодые ребята, видимо, знают куда шагать, кроме того ещё на метауровне!
-- добавлено через 54 минуты --Попытаюсь я на околометауровне порассуждать... На самом деле эта тема продолжает старую тему "Куда шагать в ML?", но теперь вопрос более интересен публике - все хотят самосовершенствующийся ИИ. На самом деле "куда шагать в ML" = "как усовершенствовать ИИ". А если на эти вопросы ответить предельно ясно, то можно и самосовершенствующийся ИИ создать. Это может быть неточно, но идейно так или иначе приближает нас к заветной цели.
Я рассуждал ранее про то, что бионический подход себя исчерпал, надо принять аналитический подход. Это тоже не самый общий аспект рассмотрения проблемы. Это не решает проблему перехода на метауровень рассуждений.
Я на данный момент выделяю следующие более высокоуровневые подходы исследований:
1. Imitation-driven approach - у кого-то работает, надо попробовать повторить (имитировать)
2. Vision-driven approach - у меня есть видение, надо попробовать
3. Problem-driven approach - есть проблема, надо попробовать её решить
4. Experience-driven approach - попробовать что-нибудь, вдруг получится
В конкретном случае можно обнаружить, что исследователем движет не один подход, а сразу несколько из перечисленных. Главный вопрос, на который надо ответить - "Откуда берутся данные для исследований?". И как видно, чтобы совершенствовать ИИ,
требуется знать:
1. то, как работают аналогичные системы,
2. надо знать гипотезы,
3. надо знать проблемы,
4. надо вообще экспериментировать разно.
Это в рамках моего списка, который наверняка неполный.
ИИ, который будет тщательно обращаться к вышеперечисленным источникам, может самоусовершенствоваться. Но чуется мне, что эти 200 млн. долларов инвестиций сгниют скоро.
