AGI и пироги

[Mihaylo]

ozheredov в сообщении #1703591 писал(а):

P.S. А что за такая humanity на графике? Это человечество как целое?

Это человечество. Это важная точка, так как многие люди путают отдельно взятого индивида с собирательным человеком. Рассуждения типа "если мне дадут задачу, то я смогу придумать, спроектировать." или ещё лучше "Если бы у меня было бы много времени, то я бы открыл аксиомы Евклида, закон Архимеда, законы Ньютона и т.д.". Из-за этого красная точка поднимается высоко вверх по линии (в оценке).

А LLM как судят? "Смотрите, они не могут справиться со стаканом без дна и с перепутанными кроссовками!". К сожалению, LLM никогда не ставили кружки сушиться и не мучались с зашнуровыванием ботинков...

[ozheredov]

Mihaylo в сообщении #1703652 писал(а):

LLM никогда не ставили кружки сушиться и не мучались с зашнуровыванием ботинков...

... равно как не решал олимпиадных задач, которые ему подсовывают. Чтобы разобрать чел-овечество на скрепки (или хотя бы выкинуть его с работы) - нужно уметь экстраполировать общемировую текстовую информацию на километр. LLM пока научились интерполировать ее на миллиметр (в смысле, допустим, наименьшего расстояния до ближайшего соседа из обучающей БД).

[Mihaylo]

ozheredov в сообщении #1703657 писал(а):

экстраполировать общемировую текстовую информацию

Проблема повторения сенсомоторного опыта человека заключается в том, что неплохо бы экстраполировать аппроксимировать тактильную информацию и дать машине пятипалые руки...

[ozheredov]

Mihaylo в сообщении #1703763 писал(а):

неплохо бы экстраполировать аппроксимировать тактильную информацию и дать машине пятипалые руки

Ну дали. Это на самом деле не проблема. Проблема в том, что не умеет она пользоваться руками как это делает человек (по причине, таки да - отсутствия обучающих БД по сенсомоторному опыту). А была бы она Агой - давно бы экстраполировала учебники по физике, робототехнике и гинекологии, и выработала соответствующие паттерны.

[Mihaylo]

ozheredov в сообщении #1703772 писал(а):

была бы она Агой - давно бы

У вас есть примеры подобных успехов?

[ozheredov]

Mihaylo в сообщении #1703787 писал(а):

У вас есть примеры подобных успехов?

Нет. И вот это отсутствие примеров я и склонен считать указателем на отсутствие Аги (AGI).

[Ghost_of_past]

Mihaylo в сообщении #1703652 писал(а):

А LLM как судят?

LLM никак не судят: у них не обнаружено сознания и самосознания уровня высших животных, чтобы судить.

А вот отсутствие сенсомоторной информации действительно важно для выполнения большей части реальной работы в окружающем нас мире: максимум можно делегировать какие-то отдельные функции, но тут затык с тем, что LLM пока не могут давать ответы на уровне профессиональных знаний. Если их уровень повысится, то это конечно не приведет к массовым увольнениям, но изменит сам функционал очень многих профессий, когда работники смогут часть своих функций и задач спихнуть на LLM.

[Mihaylo]

Ghost_of_past в сообщении #1703792 писал(а):

массовым увольнениям

Я не говорил, но при создании темы этот вопрос меньше всего интересовал. То, что вытеснят - это и так понятно. Пока ещё рано говорить. Просто вместо чат-ботов требуются интегрированные системы, а они и так неинтегрированные стоят по 10000$ за одно рабочее место - всякие там среды разработки IDE, CAD, ERP. Пока это всё неподъёмно мгновенно. Надо чуть подраскрутиться экономике.

-- 29.09.2025, 21:58 --

ozheredov в сообщении #1703791 писал(а):

Нет. И вот это отсутствие примеров я и склонен считать указателем на отсутствие Аги (AGI).

Вы меня не поняли. Есть ли примеры среди искусственных и биологических систем?

-- 29.09.2025, 22:02 --

Ghost_of_past в сообщении #1703792 писал(а):

LLM никак не судят: у них не обнаружено сознания и самосознания уровня высших животных, чтобы судить.

Кажется Вы скидывали нам ссылку на научное исследование десятка разнорабочих экспертов разных специализаций? Я уже забыл, что там нарыли... Какой вывод?

-- 29.09.2025, 22:13 --

Ghost_of_past в сообщении #1703792 писал(а):

LLM никак не судят

Я на всякий случай уточню, возможно недопонимание... Я имел в виду, что люди тестируют LLM, то есть судят их. Я имел в виду оценку LLM людьми, а не наоборот.

[Ghost_of_past]

Mihaylo в сообщении #1703793 писал(а):

То, что вытеснят - это и так понятно.

И Вы конечно можете показать эту тенденцию на реальных статистических данных? Только почему-то, когда Вам и Вашему пропоненту был задан этот вопрос в прошлый раз, то ответа так дано и не было.

Mihaylo в сообщении #1703793 писал(а):

Пока это всё неподъёмно мгновенно.

Нет, все куда проще: это системы банально тупы, чтобы переложить на них функции работников. Вот когда они будут способны написать скрипт на R и применять его к реальным данным, получаемым в процессе маркетинговых исследований, а потом вычленять из данных инсайты и делать выводы, то тогда они смогут если не отобрать рабочие места, то отобрать часть функций конкретных профессий. А пока ни одна LLM мне не сумела написать даже обзор литературы на заданную тему, чтобы все источники информации в таком обзоре реально существовали.

Кстати, но вот если интенсивный прогресс в этой сфере продолжится, то тогда на горизонте в несколько десятилетий - это может быть большим благом в условиях надвигающегося стремительного сокращения рабочей силы из-за старения населения и глобальной депопуляции, которая начнется уже в 2050ые при текущей скорости спада рождаемости и смертности (а к 2070-80ым в депопуляцию войдут уже все страны мира). Автоматизация труда тогда будет жизненно необходимым условием сохранения подушевого роста экономики в условиях, когда потенциал роста человеческого капитала в мире уже будет использован.

Mihaylo в сообщении #1703793 писал(а):

Какой вывод?

Вывод, что признаков наличия сознания и самосознания у LLM пока что нет. Может у какой-нибудь ИИ системы они в будущем и появятся, - для этого принципиальных ограничений также нет, - но это явно будет не завтра и даже не послезавтра.

Mihaylo в сообщении #1703793 писал(а):

Я имел в виду, что люди тестируют LLM, то есть судят их. Я имел в виду оценку LLM людьми, а не наоборот.

Это принципиально важное уточнение. Спасибо.

[ozheredov]

Mihaylo в сообщении #1703793 писал(а):

Есть ли примеры среди искусственных и биологических систем?

Ну вот подарили дитю радиоуправляемый велтаётик. Вначале это была катастрофа. А через пару десятков неудачных попыток она (6 лет) начала управлять им вполне сносно. И никаких датасетов. Голый, тэкскэть, reinforcement learning. Причем за один вечер.

И это не самый удачный пример.

[Mihaylo]

Ghost_of_past в сообщении #1703794 писал(а):

И Вы конечно можете показать эту тенденцию на реальных статистических данных? Только почему-то, когда Вам и Вашему пропоненту был задан этот вопрос в прошлый раз, то ответа так дано и не было.

Статистика тут вообще не нужна. Просто эта штука явно сродни появлению компьютеров во времена кульманов (и ватманов). Надо просто там в этих диалогах с LLM сделать всё удобнее и перестать быть скептиком.

-- 29.09.2025, 22:32 --

ozheredov в сообщении #1703772 писал(а):

А была бы она Агой - давно бы экстраполировала учебники по физике, робототехнике и гинекологии, и выработала соответствующие паттерны.

Шестилетняя девочка изучала учебники по гинекологии? Вы в своём уме?!

[Ghost_of_past]

Mihaylo в сообщении #1703796 писал(а):

Просто эта штука явно сродни появлению компьютеров

То есть никакой массовой технологической безработицы не создаст, также как ее не создали компьютеры? Потому что с компьютерами именно так и получилось.

Mihaylo в сообщении #1703796 писал(а):

во времена кульманов (и ватманов)

Кульманы и ватманы заменились условным AutoCAD, то есть как раз изменился функционал профессий. Сами профессии от этого никуда не делись, глобальной технологической безработицы не случилось.

[Mihaylo]

Ghost_of_past в сообщении #1703798 писал(а):

То есть никакой массовой технологической безработицы не создаст, также как ее не создали компьютеры? Потому что с компьютерами именно так и получилось.

Это не в моей компетенции. Но я думаю что именно резкое увлечение работодателей искусственным интеллектом создало бы тот самый коллапс. А увлечение, думаю, медленное, поэтому беспокоиться незачем. В моей конторе увлечение было мгновенным, лицензия была приобретена за один день. Правда программист был один, и остался один.)

[Ghost_of_past]

Mihaylo в сообщении #1703799 писал(а):

Но я думаю что именно резкое увлечение работодателей

Это то увлечение, которое уже почти около года как идет на спад? Это, кстати, еще хороший звоночек - возможно, что это пузырь LLM не лопнет, а тихо сдуется. Такая ситуация позволит не затормозить существенно сам технологический прогресс в этой сфере больше, чем на несколько лет.

Mihaylo в сообщении #1703799 писал(а):

А увлечение, думаю, медленное,

Увлечение не медленное, а совсем наоборот - оно было очень быстрым и теперь идет на спад. Я это вижу даже в данных обследований работодателей, которые делаются в бельгийском филиале маркетингового исследовательского агентства, где я работаю.

Mihaylo в сообщении #1703799 писал(а):

В моей конторе увлечение было мгновенным, лицензия была приобретена за один день. Правда программист был один, и остался один.)

Вот и наше агентство приобрело все возможные лицензии. Знаете, что случилось с тех пор? Набор персонала и в бельгийском филиале, и во всей компании в целом бьет все рекорды.

[Mihaylo]

Ghost_of_past в сообщении #1703800 писал(а):

Вот и наше агентство приобрело все возможные лицензии. Знаете, что случилось с тех пор? Набор персонала и в бельгийском филиале, и во всей компании в целом бьет все рекорды.

Забавно. Может теперь стало выгодно программистов держать?

У нас же для программиста (меня) купили лицензию, чтобы он (я) выполнял больше проектов в единицу времени.

-- 29.09.2025, 22:55 --

Ghost_of_past в сообщении #1703800 писал(а):

Увлечение не медленное, а совсем наоборот - оно было очень быстрым и теперь идет на спад.

Увлечение - это реальное вложение денег, а не широко раскрытые глаза. Прошу принять уточнение.