Прогнозы экспертов относительно ИИ

[Xey]

Ну а, что тут поделаешь, если люди думают, что там есть какой-то интеллект. Хотя если бы они спросили у этих чатов LLM как они устроены то в ответ услышали бы честный ответ, что это бредо-генератор, не понимающий смысл. Он берет слова и тасует их и каждое следующее подставляет случайно. Конечно учитывая вес слова, как часто это слово встречается после первого, потом следующее и т.д. плюс алгоритмы от разработчиков корректирующие. Делает, чтоб было красиво!

-- Пт окт 03, 2025 12:43:05 --

epros в сообщении #1704296 писал(а):

Я написал "немыслимо" не потому что считаю, что ИИ неправильно обучается и в связи с этим его развитие пойдёт в направлении опасном для человечества.

Да, я об этом.
Пакет сигналов на входе преобразуется сетью в пакет на выходе. Где то надо подкрутить, чтобы на выходе было то, что надо.
Крутим по часовой , ИИ добреет , против злеет .
Ну и нужных терабайт напихать.

-- Пт окт 03, 2025 12:44:22 --

[mihaild]

(Оффтоп)

Давайте как-то стараться обсуждать отделение "прогнозов экспертов" от обсуждения самих моделей? Ну разве что кто-то из присутствующих считает себя экспертом, но тогда просьба про это написать явно.

[Mihaylo]

(Оффтоп)

Меня просто в очередной раз передёрнуло утверждение про то, что знание слов и их вероятностей - это не понимание, типа у человека нет знания вероятностей, есть только понимание (которое хрен знает что собой представляет). А это одно и то же. Просто может быть понимание получше и может быть понимание похуже. Идеальное понимание - это когда вероятность равна нулю или единице. Но это обычно недостижимый предел, но в то же время многого не требуется, достаточно предъявить один из вариантов ответов, который считается вероятным. Недостижимость предела и ослабление требования точности ответа открывает мир творчества "Я - художник, я так вижу". И такой подход годен.

Существуют однако задачи, которые требуют точного ответа, здесь всё становится сложным... Как и для человека. Это нормально.

Однако честно анализировать никто ничего не собирается. У всех в головах суперлюди и недоИИ какие-то и "если Архимед смог, то и я смогу". Однако Маугли остался без учёта.

[Утундрий]

Xey в сообщении #1704303 писал(а):

Он берет слова и тасует их и каждое следующее подставляет случайно. Конечно учитывая вес слова, как часто это слово встречается после первого, потом следующее и т.д. плюс алгоритмы от разработчиков корректирующие. Делает, чтоб было красиво!

И чем это отличается от поведения человеков?

[Sonic86]

(Утундрий)

Утундрий в сообщении #1704423 писал(а):

Xey в сообщении #1704303 писал(а):

Он берет слова и тасует их и каждое следующее подставляет случайно. Конечно учитывая вес слова, как часто это слово встречается после первого, потом следующее и т.д. плюс алгоритмы от разработчиков корректирующие. Делает, чтоб было красиво!

И чем это отличается от поведения человеков?

ИМХО, тем, что человек решает задачу.
Давайте возьмем самый основной случай. Человеку сообщают какую-то информацию и задают какой-то вопрос. Тогда человек отбрасывает ненужное, собирает из памяти нужное (сколько сможет), выражает ответ на вопрос как некую композицию неких функций и пытается ее вычислить.
(Можно поразвивать тезис, но без конкретного примера получается мутно. Нужен конкретный пример.)

[Yadryara]

Sonic86 в сообщении #1704568 писал(а):

Нужен конкретный пример.

Да уж куда конкретнее.

Тема называется "Прогнозы экспертов относительно ИИ". Если кто-то из вас эксперт, дайте прогноз по ИИ.

Но нет, поведение человеков заключается в том, что человеки начинают в этой теме обсуждать каково поведение человеков.

[Sender]

Yadryara в сообщении #1704584 писал(а):

Тема называется "Прогнозы экспертов относительно ИИ". Если кто-то из вас эксперт, дайте прогноз по ИИ.

Но нет, поведение человеков заключается в том, что человеки начинают в этой теме обсуждать каково поведение человеков.

Обсуждая поведение человеков, мы тем самым приближаемся к пониманию принципов функционирования ЕИ, ну а там уже и до ИИ рукой подать.

[Утундрий]

Sonic86 в сообщении #1704568 писал(а):

Давайте возьмем самый основной случай. Человеку сообщают какую-то информацию и задают какой-то вопрос. Тогда человек отбрасывает ненужное, собирает из памяти нужное (сколько сможет), выражает ответ на вопрос как некую композицию неких функций и пытается ее вычислить.

Очень интересно, но лично я поступаю не так. Я просто думаю над задачей 25+ минут и откуда-то возникает решение. Или не возникает.

[Mihaylo]

Этой теме уже 6 лет, какие там 25+ минут?

[Sonic86]

(Утундрий)

Утундрий в сообщении #1704595 писал(а):

Sonic86 в сообщении #1704568 писал(а):

Давайте возьмем самый основной случай. Человеку сообщают какую-то информацию и задают какой-то вопрос. Тогда человек отбрасывает ненужное, собирает из памяти нужное (сколько сможет), выражает ответ на вопрос как некую композицию неких функций и пытается ее вычислить.

Очень интересно, но лично я поступаю не так. Я просто думаю над задачей 25+ минут и откуда-то возникает решение. Или не возникает.

Так Вы просто под задачами понимаете разнообразные ДУЧП из матфизики. Более простые задачки вы не рассматриваете как неинтересные, а какие-нибудь вылазки куда-то вообще в голову не берете. Между тем, все это - задачи, просто разной степени сложности. И когда Вы берете ДУЧП из матфизики, то вы на нее бросаете весь свой интеллект, а поскольку в оперативную память человеков влазит мало объектов, то обычно туда не особо влазит еще и самонаблюдение за процессом решения. Тем более не влазит статистика процессов решений. Тем более не видны результаты ее обработки. А если Вы начнете целенаправленно наблюдать студентов / школьников систематически, как они учатся, да и в целом людей, как они живут и что они делают, как решают всевозможные жизненные проблемы, то, м.б., Вы бы и согласились.
Ваши решения ДУЧП я выразить таким образом не смогу - квалификации не хватит. И Вы сами пишете - "думаю 25+ минут" - но это же не какое-то атомарное длительное действие. Там наверняка происходят всякие детали и преобразования. Вот они и представляют из себя формулировку задачи в каких-то и попытку вычислить ее решение по каким-то правилам.