Прогнозы экспертов относительно ИИ

[Xey]

Ну а, что тут поделаешь, если люди думают, что там есть какой-то интеллект. Хотя если бы они спросили у этих чатов LLM как они устроены то в ответ услышали бы честный ответ, что это бредо-генератор, не понимающий смысл. Он берет слова и тасует их и каждое следующее подставляет случайно. Конечно учитывая вес слова, как часто это слово встречается после первого, потом следующее и т.д. плюс алгоритмы от разработчиков корректирующие. Делает, чтоб было красиво!

-- Пт окт 03, 2025 12:43:05 --

epros в сообщении #1704296 писал(а):

Я написал "немыслимо" не потому что считаю, что ИИ неправильно обучается и в связи с этим его развитие пойдёт в направлении опасном для человечества.

Да, я об этом.
Пакет сигналов на входе преобразуется сетью в пакет на выходе. Где то надо подкрутить, чтобы на выходе было то, что надо.
Крутим по часовой , ИИ добреет , против злеет .
Ну и нужных терабайт напихать.

-- Пт окт 03, 2025 12:44:22 --

[mihaild]

(Оффтоп)

Давайте как-то стараться обсуждать отделение "прогнозов экспертов" от обсуждения самих моделей? Ну разве что кто-то из присутствующих считает себя экспертом, но тогда просьба про это написать явно.

[Mihaylo]

(Оффтоп)

Меня просто в очередной раз передёрнуло утверждение про то, что знание слов и их вероятностей - это не понимание, типа у человека нет знания вероятностей, есть только понимание (которое хрен знает что собой представляет). А это одно и то же. Просто может быть понимание получше и может быть понимание похуже. Идеальное понимание - это когда вероятность равна нулю или единице. Но это обычно недостижимый предел, но в то же время многого не требуется, достаточно предъявить один из вариантов ответов, который считается вероятным. Недостижимость предела и ослабление требования точности ответа открывает мир творчества "Я - художник, я так вижу". И такой подход годен.

Существуют однако задачи, которые требуют точного ответа, здесь всё становится сложным... Как и для человека. Это нормально.

Однако честно анализировать никто ничего не собирается. У всех в головах суперлюди и недоИИ какие-то и "если Архимед смог, то и я смогу". Однако Маугли остался без учёта.

[Утундрий]

Xey в сообщении #1704303 писал(а):

Он берет слова и тасует их и каждое следующее подставляет случайно. Конечно учитывая вес слова, как часто это слово встречается после первого, потом следующее и т.д. плюс алгоритмы от разработчиков корректирующие. Делает, чтоб было красиво!

И чем это отличается от поведения человеков?

[Sonic86]

(Утундрий)

Утундрий в сообщении #1704423 писал(а):

Xey в сообщении #1704303 писал(а):

Он берет слова и тасует их и каждое следующее подставляет случайно. Конечно учитывая вес слова, как часто это слово встречается после первого, потом следующее и т.д. плюс алгоритмы от разработчиков корректирующие. Делает, чтоб было красиво!

И чем это отличается от поведения человеков?

ИМХО, тем, что человек решает задачу.
Давайте возьмем самый основной случай. Человеку сообщают какую-то информацию и задают какой-то вопрос. Тогда человек отбрасывает ненужное, собирает из памяти нужное (сколько сможет), выражает ответ на вопрос как некую композицию неких функций и пытается ее вычислить.
(Можно поразвивать тезис, но без конкретного примера получается мутно. Нужен конкретный пример.)

[Yadryara]

Sonic86 в сообщении #1704568 писал(а):

Нужен конкретный пример.

Да уж куда конкретнее.

Тема называется "Прогнозы экспертов относительно ИИ". Если кто-то из вас эксперт, дайте прогноз по ИИ.

Но нет, поведение человеков заключается в том, что человеки начинают в этой теме обсуждать каково поведение человеков.

[Sender]

Yadryara в сообщении #1704584 писал(а):

Тема называется "Прогнозы экспертов относительно ИИ". Если кто-то из вас эксперт, дайте прогноз по ИИ.

Но нет, поведение человеков заключается в том, что человеки начинают в этой теме обсуждать каково поведение человеков.

Обсуждая поведение человеков, мы тем самым приближаемся к пониманию принципов функционирования ЕИ, ну а там уже и до ИИ рукой подать.

[Утундрий]

Sonic86 в сообщении #1704568 писал(а):

Давайте возьмем самый основной случай. Человеку сообщают какую-то информацию и задают какой-то вопрос. Тогда человек отбрасывает ненужное, собирает из памяти нужное (сколько сможет), выражает ответ на вопрос как некую композицию неких функций и пытается ее вычислить.

Очень интересно, но лично я поступаю не так. Я просто думаю над задачей 25+ минут и откуда-то возникает решение. Или не возникает.

[Mihaylo]

Этой теме уже 6 лет, какие там 25+ минут?

[Sonic86]

(Утундрий)

Утундрий в сообщении #1704595 писал(а):

Sonic86 в сообщении #1704568 писал(а):

Давайте возьмем самый основной случай. Человеку сообщают какую-то информацию и задают какой-то вопрос. Тогда человек отбрасывает ненужное, собирает из памяти нужное (сколько сможет), выражает ответ на вопрос как некую композицию неких функций и пытается ее вычислить.

Очень интересно, но лично я поступаю не так. Я просто думаю над задачей 25+ минут и откуда-то возникает решение. Или не возникает.

Так Вы просто под задачами понимаете разнообразные ДУЧП из матфизики. Более простые задачки вы не рассматриваете как неинтересные, а какие-нибудь вылазки куда-то вообще в голову не берете. Между тем, все это - задачи, просто разной степени сложности. И когда Вы берете ДУЧП из матфизики, то вы на нее бросаете весь свой интеллект, а поскольку в оперативную память человеков влазит мало объектов, то обычно туда не особо влазит еще и самонаблюдение за процессом решения. Тем более не влазит статистика процессов решений. Тем более не видны результаты ее обработки. А если Вы начнете целенаправленно наблюдать студентов / школьников систематически, как они учатся, да и в целом людей, как они живут и что они делают, как решают всевозможные жизненные проблемы, то, м.б., Вы бы и согласились.
Ваши решения ДУЧП я выразить таким образом не смогу - квалификации не хватит. И Вы сами пишете - "думаю 25+ минут" - но это же не какое-то атомарное длительное действие. Там наверняка происходят всякие детали и преобразования. Вот они и представляют из себя формулировку задачи в каких-то и попытку вычислить ее решение по каким-то правилам.

[talash]

Что-то старую новость начали форсить. Но учитывая какой прогресс в ИИ произошёл с марта, уже мало кто сомневается, что нас ждёт радикальный, на порядки, рост производительности труда.

Цитата:

09:00, 28 октября 2025
Билл Гейтс предсказал переход на двухдневную рабочую неделю из-за искусственного интеллекта

Миллиардер Билл Гейтс прогнозирует, что технологический прогресс, особенно в области искусственного интеллекта, вероятно приведет к сокращению рабочей недели до двух дней в течение следующего десятилетия, так как ИИ заменит людей в большинстве сфер деятельности.

Гейтс поделился своим прогнозом в марте во время выступления в шоу Джимми Фелона. Основатель Microsoft объяснил, что хотя современный искусственный интеллект пока не обладает специализированными знаниями, а профессионалы-люди вроде врачей и преподавателей остаются незаменимыми, грядущее десятилетие может принести драматические изменения.

Происходящее имеет глубокое значение, потому что технология решает все эти конкретные проблемы – например, у нас недостаточно врачей или специалистов по психическому здоровью – но одновременно несет с собой столько перемен. Какими станут рабочие места? Должны ли мы работать всего 2 или 3 дня в неделю? Мне нравится, как ИИ будет двигать инновации вперед, но вопрос остается открытым – сможем ли мы это контролировать.

В беседе с профессором Гарвардского университета и экспертом по счастью Артуром Бруксом в феврале Гейтс добавил:

Происходящее очень серьезно и даже немного пугает, потому что все случается очень быстро, и верхнего предела не существует.

Сооснователь Microsoft считает, что наступающая эра "свободного интеллекта" заставит общество столкнуться со сложными вопросами о том, какие роли должны оставаться за людьми. По мнению Гейтса, крайне мало профессий выдержат такую проверку.

Основатель Microsoft спрогнозировал, что прорывы в области ИИ приведут к эре "свободного интеллекта", которая демократизирует специализированные знания для всех.

Мы будем решать, например, как в бейсболе – мы не захотим смотреть, как играют компьютеры – так что некоторые вещи мы сохраним для себя, но что касается производства вещей, транспортировки и выращивания продуктов питания – со временем это в основном станут решенными проблемами.

Хотя двухдневная рабочая неделя сегодня выглядит идеалистично, разговоры о сокращении нынешней пятидневки набирают обороты в последние годы. Компании, решившиеся укоротить рабочую неделю, обнаружили неожиданные преимущества. Например, фирма Exos, специализирующаяся на коучинге производительности и насчитывающая более 3500 сотрудников, в 2023 году протестировала четырехдневный график работы. После внедрения изменений компания зафиксировала рост производительности на 24% при одновременном снижении выгорания сотрудников вдвое, сообщил Forbes в апреле.

Однако внедрение ИИ в различных секторах представляет множество этических дилемм. Ранее в этом году Джеффри Хинтон, известный как "крестный отец ИИ", указал на серьезное имущественное неравенство, которое могут породить разработки в области искусственного интеллекта.
https://shazoo.ru/2025/10/28/174766/bill-geits-predskazal-perexod-na-dvuxdnevnuiu-rabocuiu-nedeliu-iz-za-iskusstvennogo-intellekta

[mihaild]

talash в сообщении #1707861 писал(а):

уже мало кто сомневается, что нас ждёт радикальный, на порядки, рост производительности труда

Думаю плюс-минус те же, кто сомневался в марте.

[ozheredov]

talash в сообщении #1707861 писал(а):

шоу Джимми Фелона

talash в сообщении #1707861 писал(а):

экспертом по счастью Артуром Бруксом

talash в сообщении #1707861 писал(а):

приведут к эре "свободного интеллекта", которая демократизирует специализированные знания

talash в сообщении #1707861 писал(а):

фирма Exos, специализирующаяся на коучинге производительности

итого, текст рассчитан на идиотов и даже, к его чести, не скрывает этого.

talash в сообщении #1707861 писал(а):

нас ждёт радикальный, на порядки, рост производительности труда

Ага - даёшь обновление Винды каждые полторы минуты!!!!!!!!!!!

[Rasool]

Эндрю Ын написал в LinkedIn:

Цитата:

Недавно я получил электронное письмо под названием «Дилемма 18-летнего парня: слишком поздно вносить свой вклад в ИИ?» Его автор, который разрешил мне поделиться этой информацией, готовится к поступлению в колледж. Он беспокоится, что к тому времени, когда он закончит учебу, ИИ будет настолько хорош, что у него не останется никакой значимой работы, чтобы внести свой вклад в человечество, и он будет просто жить на безусловный базовый доход (ББД). Я ответил ему, что у него будет еще много работы, которую он сможет делать в течение десятилетий, и призвал его усердно работать и учиться строить с помощью искусственного интеллекта. Но этот разговор поразил меня как пример того, насколько вредна шумиха вокруг ИИ.

Да, искусственный интеллект удивительно умен, и я очень рад использовать его каждый день для создания вещей, которые я не смог бы создать год назад. В то же время ИИ все еще невероятно тупой, и я бы не стал доверять одному LLM в том, что он расставляет приоритеты в моем календаре, проводит просмотр резюме или выбирает, что заказать на обед — задачи, которые компании обычно просят выполнять младшему персоналу.

Да, мы можем создать программное обеспечение для искусственного интеллекта для выполнения этих задач. Например, после долгой работы по настройке у одной из моих команд теперь есть достойный помощник по проверке резюме с искусственным интеллектом. Но дело в том, что для этого потребовалось много кастомизации.

Несмотря на то, что LLM могут выполнять гораздо более общий набор задач, чем предыдущие итерации технологии искусственного интеллекта, по сравнению с тем, что могут делать люди, они по-прежнему являются узкоспециализированными. Они гораздо лучше справляются с работой с текстом, чем другие модальности, по-прежнему требуют большого количества пользовательских разработок, чтобы получить правильный контекст для конкретного приложения, и у нас мало инструментов — и только неэффективные — для того, чтобы заставить наши системы учиться на основе обратной связи и повторного взаимодействия с конкретной задачей (например, для отбора резюме на определенную должность).

ИИ имеет серьезные ограничения, и, несмотря на быстрые улучшения, он будет оставаться ограниченным по сравнению с человеком в течение длительного времени.

ИИ удивителен, но, к сожалению, его раздувают, чтобы сделать еще более удивительным, чем он есть на самом деле. Пагубный аспект хайпа заключается в том, что он часто содержит элемент правды, но не до такой степени, как шумиха. Из-за этого нетехническим людям трудно понять, где на самом деле находится истина. Современный ИИ — это технология общего назначения, которая позволяет выполнять множество приложений, но ИИ, который может выполнять любые интеллектуальные задачи, которые может выполнять человек (популярное определение ОИИ), все еще находится в нескольких десятилетиях или дольше. Это тонкое послание о том, что ИИ является общим, но не таким уж общим, часто теряется в шуме сегодняшней медиа-среды.

[ozheredov]

Rasool
Гуглоперевод от начала и до конца?