СИИ невозможен. AGI is Impossible.

[Alexandr_A]

Brizon в сообщении #1696614 писал(а):

То что ИИ делает сейчас, если спросить в 2016г у любого эксперта, он скажет это невозможно, не раньше чем лет через 20-50.

Самое лучшее что нам сейчас доступно для прогноза - посмотреть интервью людей которые сделали сегодняшний ИИ - Хинтон, ЛеКун, Карпатый и т.п. А не какие то непонятные околонаучные статьи...

По сути что есть сейчас: технологии научились создавать аналог микроструктуры мозга. И сегодняшний ИИ это как если у человека вырезать из головы кусок размером 1см^3, ответственный за некую прикладную задачу, типа речи, логики и т.п. ясно что такой кусок нельзя считать полноценным ИИ. Тем не менее - 90% пути уже пройдено, все что осталось - увеличить мощность и обьединить такие прикладные куски в полноценную систему. Т.е. ИИ сейчас это разобранный конструктор, и сборка полноценного ИИ может произойти в любой момент, может завтра, может через 10 лет.

Это иллюзия наличия смысла в бессмысленном тексте. Вот и вы, начинаете с утверждения, которое нельзя проверить и сразу к аналогии про вырезанный кусочек мозга и конструкторы.

[Mihaylo]

Как и почему работает интеллект

В заголовке не вопрос, это утверждение. Я выскажу свои мысли, мои познания по этой теме.

Давайте рассмотрим такую задачу:

Цитата:

Назови недостающий пятый элемент последовательности чисел 1, 2, 3, 4, ...

Это разновидность интеллектуальной задачи, то есть, если система справляется с такой задачей, то её можно считать интеллектом. Задача имеет точный и популярный ответ. Это значит, что у этого ответа очень высокая вероятность. Вспомните теорию: LLM выбирают наиболее вероятные сочетания токенов и это каким-то образом приводит к генерации осмысленных текстов.

Почему не ответ - не миллион?

Цитата:

1, 2, 3, 4, 1 000 000

Потому что это менее вероятный и соответственно менее осмысленный ответ.

Интеллект - это не понимать, а лишь эксплуатировать знание высоковероятных сочетаний. Если этих знаний нет, то интеллект безуспешно барахтается в поисках истины, зацикливается в переборе вариантов, тонет в массе нерабочих идей.

Человеческий интеллект даже не способен отдавать себе отчёт, сколько текущих задач он не может решить, он обходит сложности за семь вёрст. Вместо этого человек любит считать, что если ему дадут приложиться, то обязательно решит какую-то задачу. Однако задач возникает гораздо бОльше, чем кажется, и они многие не решаются и не считаются вовсе задачу, они как невидимое бревно в глазу.

Есть путаница: подумать - это значит вспомнить вероятности, а не какая-то магия. Если ты не умеешь плитку в ванной класть, то никакое думание не поможет, нужно прокачать вероятности - потренироваться.

Нужно сто раз встретить последовательность

Цитата:

1, 2, 3, 4, 5

и запомнить её, чтобы потом уверено дать правильный ответ "5".

Не исключено, что правильный ответ в очередной раз будет немного нестандартный:

Цитата:

1, 2, 3, 4, 6

но это уже не интеллектуальная задача. Интеллект не способен решать любую задачу, он не универсален (хотя многие считают наоборот). Это есть основная причина того, почему ASI - это бессмысленная придумка. Нельзя просто взять и как-то усилить слабость знаний. Нужно обучиться с учителем или без него, через эксперимент, и только так. Нужно измерить вероятности.

[mihaild]

Mihaylo в сообщении #1704687 писал(а):

почему ASI - это бессмысленная придумка

Почему Ваше понятие ASI - бессмысленная придумка. Это только Вы и недавно забаненный клон требуете от ASI нарушения фундаментальных законов. Стандартное определение требует всего лишь извлекать знание более эффективно, чем это делают люди.

[Mihaylo]

mihaild
Может быть, может быть. Вопрос терминологии. LLM часто более эффективен, чем человек.

-- 06.10.2025, 19:51 --

Вот, что пишут:

Цитата:

Ключевые аспекты разработки ASI включают:

- Продвинутые алгоритмы машинного обучения: Развитие нейросетей, обладающих способностью к саморегулированию и саморазвитию.
- Квантовые вычисления: Использование мощных вычислительных систем для обработки огромных объемов данных.
- Глубокое понимание человеческого разума: Изучение нейрофизиологии и когнитивных процессов для моделирования мышления.
- Эффективные механизмы обратной связи: Создание систем, которые могут учиться на своих ошибках и совершенствоваться без участия человека.
- Разработка систем безопасности: Внедрение механизмов контроля, предотвращающих выход ASI из-под человеческого управления.