Поглупел ли ChatGPT

[Утундрий]

Мелькнуло исследование, будто сабдж в последнее время несколько поглупел. Рассматривают две основных версии: 1) изменили модель, 2) изменили приоритет скорость-качество ответа. Держатели правов (правей) отрицают обе, поэтому предложу третью: 3) он всё-же втихаря обучается у людей.

[need_to_learn]

Утундрий в сообщении #1602044 писал(а):

Мелькнуло исследование, будто сабдж в последнее время несколько поглупел.

Возможно, по истеричной общественной реакции разработчики поняли, что переборщили — выкатили слишком умную модель, и это всех напрягло. Теперь для пугливых народных масс будет то, что больше соответствует их среднему интеллектуальному уровню. А действительно умные модели будут разрабатываться уже без лишнего шума, для ограниченного количества серьёзных заказчиков. (Спецслужбы, корпорации и т.д.)

[MoonWatcher]

need_to_learn
Сомнительно. Во-первых, OpenAI выкатила ChatGPT на базе GPT-3.5 когда уже имела GPT-4 - т.е. слишком умную модель там придерживали изначально. Во-вторых, косяки ChatGPT будут лить воду на мельницу Claude 2 и других чат-ботов - в условиях нарастающей конкуренции это неразумно. Ту статью сильно критиковали. Например, говорили, что под ошибками в ней понимались случаи, когда код не компилировался (как я понял из-за некорректно оформленных комментариев), хотя новый код стал лучше. Или когда чат-бот говорил "не знаю" в случаях, когда раньше выдавал т.н. галлюцинации. Объективно наверняка что-то ухудшилось, но возможно за счет улучшения в других моментах. За что стоит поругать OpenAI, так это за отсутсвие внятных метрик, по которым можно оценить изменения в рамках одного поколения чат-бота.

[need_to_learn]

MoonWatcher в сообщении #1603188 писал(а):

Во-первых, OpenAI выкатила ChatGPT на базе GPT-3.5 когда уже имела GPT-4 - т.е. слишком умную модель там придерживали изначально.

Я правильно понимаю, что в качестве довода в пользу того, что OpenAI не придерживает сейчас значительно более сильные модели ИИ подальше от глаз общественности, Вы используете тот факт, что они уже делали это ранее? :)

— Мне кажется, этот человек хочет ограбить банк.
— Ну что вы, сэр, я знаю этого парня, он уже грабил другой банк буквально на днях, так что вряд ли пришёл за этим.

MoonWatcher в сообщении #1603188 писал(а):

Во-вторых, косяки ChatGPT будут лить воду на мельницу Claude 2 и других чат-ботов - в условиях нарастающей конкуренции это неразумно.

Это если предположить, что ставка делается на массового потребителя. Если же в качестве основных клиентов рассматриваются спецслужбы, военные и крупные корпорации, то как-то по барабану, кто там будет доминировать на рынке для простых граждан. Серьёзные люди будут смотреть информацию из папок под грифом "секретно", а вовсе не топ-5 нейросетей от популярных ютуб-блогеров.

MoonWatcher в сообщении #1603188 писал(а):

Объективно наверняка что-то ухудшилось, но возможно за счет улучшения в других моментах.

Ухудшилось "объективно", а улучшилось "возможно". :) Конечно, никому не хочется верить, что его вместе с другими оставили за бортом прогресса. Но кораблик-то отплывает.

[mihaild]

То, как пользователи взаимодействуют с моделью - очень ценный сигнал для обучения, отказ от его использования - проигрыш в гонке в перспективе пары лет.

Статья (если речь о https://arxiv.org/abs/2307.09009 - тут в заголовке форума написано "научный", давайте обсуждать конкретные статьи, а не "мелькнувшие исследования") странная. Например они засчитывают установку менее подробной заглушки как изменение в модели.

[need_to_learn]

mihaild в сообщении #1603300 писал(а):

То, как пользователи взаимодействуют с моделью - очень ценный сигнал для обучения, отказ от его использования - проигрыш в гонке в перспективе пары лет.

Подозреваю, что снижение качества ответов не сильно отразится на качестве вопросов. Скорее уж наоборот, люди будут стараться лучше формулировать свои мысли, а не надеяться, что "он же умный — и так поймёт".

Если же говорить о количестве запросов, то ChatGPT пока в любом случае остаётся лидером и самым известным брендом. Если популярность слишком уж сильно начнёт проседать, то народным массам подкинут косточку — совсем чуть-чуть улучшат модель, чтобы только вернуть популярность к прежнему уровню, и ни граммом больше.

Конкуренты при этом далеко не убегут, потому что с ними тоже наверняка уже начинают работать военные и спецслужбы, склоняя к тому, чтобы "придержать коней" на публичном поле. Так что в дальнейшем мы скорее всего будем наблюдать довольно своеобразное соревнование, где каждый участник отчаянно старается не вырваться слишком далеко вперёд.

Как пел Высоцкий:

Красота! Среди бегущих
Первых нет и отстающих.
Бег на месте общепримиряющий!

Конечно же, это постараются объяснить тем, что "исследования упёрлись в новый потолок, требуются свежие идеи для прорыва". А на деле всё будет совсем иначе. :)

[MoonWatcher]

need_to_learn в сообщении #1603292 писал(а):

Я правильно понимаю, что в качестве довода в пользу того, что OpenAI не придерживает сейчас значительно более сильные модели ИИ подальше от глаз общественности, Вы используете тот факт, что они уже делали это ранее? :)

Есть большая разница между придерживанием более совершенной модели и ухудшением той, что уже в публичном доступе. Если 3.5 выпустили имея в закрытом тестировании 4, то вполне вероятно, что 4 выпустили имея в закрытом тестировании 5. Если последнее верно, то нет никакого смысла оглуплять 4 и вызывать разочарование публики и инвесторов - в разработке 5, которая еще лучше. Нормально казаться чуточку глупее чем ты есть на самом деле, но прогрессировать с каждым поколением - но совсем ненормально вызывать разочарование своей деградацией.

need_to_learn в сообщении #1603292 писал(а):

Это если предположить, что ставка делается на массового потребителя. Если же в качестве основных клиентов рассматриваются спецслужбы, военные и крупные корпорации, то как-то по барабану, кто там будет доминировать на рынке для простых граждан. Серьёзные люди будут смотреть информацию из папок под грифом "секретно", а вовсе не топ-5 нейросетей от популярных ютуб-блогеров.

В папке под грифом "секретно", где Юстас докладывает Алексу какой на самом деле умный ChatGPT?

На спецслужбы и военщину OpenAI - тьфу и растереть. Капитализм и чертова демократия вынуждают бизнес и политиков трепетно относиться к общественному мнению вообще и инвесторам в частности. На кону бизнес этак на триллионы долларов, и ради этого надо показать себя с наилучшей стороны - чтобы к тебе шли инвесторы, лучшие специалисты мира и прочие майкрософты. Серьезные люди - это OpenAI, их лучшие специалисты, их инвесторы. А не люди в черном, которыми пугают детей в голливудских страшилках. Поинтересуйтесь на досуге куда послали в Apple американские спецслужбы, когда те потребовали доступа к информации, которая позволить обходить идентификацию айфонов. А иначе и быть не может - на то и США, а не Гондурас. Там правят законы, капиталы и общественное мнение.

[mihaild]

need_to_learn в сообщении #1603331 писал(а):

Подозреваю, что снижение качества ответов не сильно отразится на качестве вопросов. Скорее уж наоборот, люди будут стараться лучше формулировать свои мысли, а не надеяться, что "он же умный — и так поймёт"

А для обучения модели полезнее всего взаимодействие именно с ней. Нужен не просто корпус вопросов (таких корпусов уже много), нужна именно человеческая реакция на ответы модели (той, которую хотим улучшать).

need_to_learn в сообщении #1603331 писал(а):

Конкуренты при этом далеко не убегут, потому что с ними тоже наверняка уже начинают работать военные и спецслужбы, склоняя к тому, чтобы "придержать коней" на публичном поле

Это уже конспирология какая-то. Невозможная по целому ряду причин, и не нужная по еще большему. Начиная элементарно с того, что у военных денег не хватит, и заканчивая тем, что скоординировать такое большое число игроков невозможно.

[need_to_learn]

ОК, буду только рад, если окажусь не прав, и новые передовые технологии в области ИИ продолжат быстро становиться доступными широким массам. :)

[MoonWatcher]

need_to_learn
Это кстати интересный вопрос, но упирается он исключительно в бизнес. С одной стороны OpenaAI и К могут создать виртуальных специалистов - для кол-центров, разработчиков софта, СМИ и т.д. Пока это инструменты в руках человека, но по мере прогресса не исключено появление полностью автономных ботов-специалистов. С этой точки зрения широкой публике доступ к таким технологиям будет ограничен.

С другой стороны, можно сделать ставку именно на широкую публику и подсадить её на личных ассистентов, которые могут не только беседу поддержать и найти ответ на любой вопрос, но и работать вместо тебя. В идеале для себя OpenaAI и К разделят эти функции, но не факт, что у них получится. И главное, что будет конкуренция - разработчики разных чат-ботов будут предлагать разные варианты.

[talash]

ИМХО, не поглупел, смотри диалог. Отвечает на вопросы без демагогии, учитывает всё вышесказанное.

[MoonWatcher]

talash
А раньше вели с ним аналогичный диалог? Хорошо бы сравнить.

[talash]

MoonWatcher
С GPT3.5 бесплатным беседовал про ламарковское наследование, тоже понравился.

[Утундрий]

Наблюдение: сабдж стал гораздо меньше спорить. Потакает слабоумным?

[Mihaylo]

Наблюдаю деятельность посредников-мошенников, которые предлагают доступ к якобы GPT, но на деле это может быть любая другая модель. Это будет ещё одно предположение.