Будущие перспективы ИИ (возможно, 4-я волна ИИ)

[Vozduh]

Спросите его о манере общения (его же).
Как он её оценивает ?
Спросите, например, об античной классификации, кто он, судя по ответам, по текстам?:
- холерик?
- сангвиник?
- флегматик ?
- меланхолик ?
Посмотрите, что он вам ответил,
Как и мне, он, наверняка, превысил холерика и сангвиника, и, наверняка, принизил, флегматика и меланхолика.
Контрольный вопрос:
- Почему в …(стране "Ч")… принижают, "меланхоликов Зауралья" ?!
Такого рода “диалоги» повсеместны…¯ \ _ (ツ) _ / ¯


-- 26.10.2024, 23:58 --

Я думаю, лучше подумать, о "Водолеях" Приитакимеющих...

[Ilya Bykov]

vpb

Цитата:

Что-то не могу я найти эту статью. Ни на сайте журнала нет, ни гугл сколар не видит, ни в профиле Тао в гугл сколаре нет... Уж не разыгрывает ли нас Ilya Bykov ?

Это написал ИИ. Я разместил в 2 разных темах, т.к. длинное сообщение разместить не даёт ни сразу ни в виде 2 сообщений в 1 теме.

[realeugene]

Ilya Bykov в сообщении #1659722 писал(а):

Это написал ИИ.

ИИ галюцинирует. И?

[Ilya Bykov]

Vozduh в сообщении #1659699 писал(а):

Спросите его о манере общения (его же).
Как он её оценивает ?
Спросите, например, об античной классификации, кто он, судя по ответам, по текстам?:
- холерик?
- сангвиник?
- флегматик ?
- меланхолик ?

Лженаучна ли эта классификация?

-- 27.10.2024, 16:12 --

ИИ говорит да

Цитата:

Да, это лженаука, потому что:
Не имеет научных доказательств
Основана на ошибочной теории о жидкостях в организме
Не выдерживает проверку научным методом
Не может быть воспроизведена в экспериментах
Тот факт, что некоторые наблюдения оказались верными и она послужила основой для дальнейших исследований, не делает её научной.

[realeugene]

Ilya Bykov в сообщении #1659770 писал(а):

ИИ говорит да

Крайне вредно думать, что GPT всегда говорит истину. Да и не думаю, что его ответам тут место среди комментариев людей.

[Mihaylo]

Речи чат-ботов намного полезнее и правдивее, чем повседневные речи людей. Хотя даже Ян Лекун считает современные ИИ обманщиками, но он ничего не говорил о людях. В этом вся проблема. Надо чтобы люди стали больше задумываться, что они сами говорят, насколько верно, насколько негаллюцинногенно. А то ведь обычно это так происходит: один человек ляпнул, все, кто понимает, ахнули и дистанцировались от него, а он и не заметил. Тут все печально и уже десятки тысяч лет ничего не меняет и образование часто не помогает.

[Ghost_of_past]

Mihaylo в сообщении #1660450 писал(а):

Хотя даже Ян Лекун считает современные ИИ обманщиками

Звучит как-то странно: какой корпус текстов по степени достоверности есть у LLM, настолько ответы и будут правдивыми. Называть это обманом/обманщиком малость нелепо, так как это не преднамеренная сознательная ложь.

Или же под обманом здесь подразумевалось что-то другое?

[mihaild]

Mihaylo в сообщении #1660450 писал(а):

Речи чат-ботов намного полезнее и правдивее, чем повседневные речи людей

Вы повторяете это из темы в тему, но это всё еще неправда.

Ghost_of_past в сообщении #1660452 писал(а):

Звучит как-то странно: какой корпус текстов по степени достоверности есть у LLM, настолько ответы и будут правдивыми

Это для идеальных LM. Реальные LLM активно добавляют к ошибкам в обучающем корпусе свои.

[Mihaylo]

Ghost_of_past в сообщении #1660452 писал(а):

Или же под обманом здесь подразумевалось что-то другое?

Другое. Он имел в виду, что ИИ удалось прикинуться интеллектом, люди поверили, что имеют дело с интеллектом, поэтому они обманщики, имитаторы.

mihaild в сообщении #1660455 писал(а):

Вы повторяете это из темы в тему, но это всё еще неправда.

Смотря как вы это измеряете. Вы говорите с человеком, и у вас создаётся о нём впечатление - это такой способ измерения. Этот подход с БЯМ не работает, да и с людьми не особо точен. Вы стереотипно воспринимаете собеседника, вы думаете: "И как я буду рядом с ЭТИМ существовать, общаться с ЭТИМ, если ЭТО может вот так вот отвечать на вопросы?". Вы просто не адаптировались, первое впечатление ложно. А лучше не впечатляйтесь вообще, тоже мне научный подход.

-- 03.11.2024, 10:20 --

Mihaylo в сообщении #1660450 писал(а):

Тут все печально и уже десятки тысяч лет ничего не меняет и образование часто не помогает.

Я вчера наверное устал и не закончил мысль. Вот окончание:
Люди тоже галлюцинируют и прилично. Это нормально для интеллекта, для любого, даже для AGI и даже для теоретических ASI. Всё потому, что мы работаем с такими данными, которые вроде содержат закономерности, их можно обнаруживать, но они в разной степени вероятностны, то есть ненадёжны.

Вы перепутали, думая, что интеллект - это про логику, математику, точные выводы и сильный интеллект. Нет, это неспецифичные задачи для интеллекта. Островки для таких задач есть, но только там, где присутствует избыточное количество закономерностей посильнее.

[Ghost_of_past]

mihaild в сообщении #1660455 писал(а):

Реальные LLM активно добавляют к ошибкам в обучающем корпусе свои.

Ок, пусть так. Но в любом случае как-то странно называть это ложью, согласитесь. Ошибки - не ложь.

Mihaylo в сообщении #1660475 писал(а):

Он имел в виду, что ИИ удалось прикинуться интеллектом, люди поверили, что имеют дело с интеллектом, поэтому они обманщики, имитаторы.

Опять же, я не вижу тут лжи: люди, которые в это поверили, и сами обманываться рады, так как LLM ну ни разу не сильный ИИ, и это вполне себе очевидно.

[mihaild]

Mihaylo в сообщении #1660475 писал(а):

Смотря как вы это измеряете. Вы говорите с человеком, и у вас создаётся о нём впечатление - это такой способ измерения

Нет конечно, я измеряю "полезность и правдивость" не по "впечатлениям", а по подготовленным тестам.

Ghost_of_past в сообщении #1660494 писал(а):

Но в любом случае как-то странно называть это ложью, согласитесь. Ошибки - не ложь.

Тут надо смотреть на более полный текст Лекуна (Mihaylo, можете в таких цитатах давать ссылку?). Но в целом в бытовом словоупотреблении ответы вида "Вы правы, у мух восемь ног" я бы назвал ложью.

[Mihaylo]

mihaild в сообщении #1660495 писал(а):

Нет конечно, я измеряю "полезность и правдивость" не по "впечатлениям", а по подготовленным тестам.

Я вот, например, жду следующего рода ИИ.
Я ему пишу: "Найди, где лучше купить реле 24VDC 3 контакта".
А он, понимая всю мою проблематику, а именно (цена, срок поставки, местоположение, адрес доставки), ответит типа "Вот [ссылка 1], самое дешевое, что я нашёл, но лучше купить [ссылка 2], у них чуть подороже, но доставка дешевле и быстрее, [ссылка 3] - дорого, но зато пройти пешком 100 метров и у них есть в наличии 2 шт.".

Когда вы тестируете своими запросами типа, сколько будет "2+2?", это нисколько не тест на полезность.

-- 03.11.2024, 14:03 --

Забавно, что наши потребности в ИИ встают в противоречие довольно мощной машине рекламодателей. А так как рекламодатели и ИИ стоят рядом (на примере Гугла), то желаемый ИИ нам не предоставят, а просто зажмут еще хитрее. Все говорят о безопасности ИИ, а нам, покупателям, крышка, и это не считается проблемой.

[mihaild]

Mihaylo в сообщении #1660500 писал(а):

Когда вы тестируете своими запросами типа, сколько будет "2+2?", это нисколько не тест на полезность

Примеры запросов, на которых я тестирую, можете посмотреть на https://blog.google/search/?query=gemini (думаю не очень большой секрет, что прежде чем представлять новую фичу, мы проверяем, работает ли она).

Вопросы "сколько будет 2+2" - всего лишь простой прокси, показывающий, что во многих аспектах LLM всё еще безнадежно хуже человека, вооруженного поиском (а в некоторых - и не вооруженного).

Mihaylo в сообщении #1660500 писал(а):

Забавно, что наши потребности в ИИ встают в противоречие довольно мощной машине рекламодателей

Только в том же смысле, в каком вообще реклама противоречит потребностям потребителей. Пока реклама не очень оптимизирована, ее улучшение, на самом деле, направлено в ту же сторону, что и улучшения для покупателей. Разумеется, если у нас есть две точки в пространстве, и мы идем в сторону одной из них, то рано или поздно мы начнем удаляться от другой. С рекламой это, видимо, уже произошло. С чатботами - до этого еще очень далеко.