Обновление базы знаний ИИ

[ozheredov]

mihaild в сообщении #1708339 писал(а):

The last significant earthquake to affect Balkh, Afghanistan, occurred in the early morning of Monday, November 3, 2025, at approximately 12:59 a.m. local time.

The earthquake had a magnitude of 6.3....

Это Вы к чему? (извиняюсь, не могу уловить мысль)

А, в смысле из 2025 года инфа? И действительно правдивая? Sorry.

[mihaild]

mihaild в сообщении #1708339 писал(а):

DeepSeek писал(а):

attempt on former President Donald Trump

Но, кстати, по former можно догадаться, что данных за 2025 год в обучающей выборке правда мало, или даже нет совсем.

ozheredov в сообщении #1708341 писал(а):

И действительно правдивая?

По крайней мере совпадает с тем, что написано в википедии. Собственно я так и проверял - открыл список событий, и просил модель рассказать детали.
(это лучше, чем просто спрашивать "что ты знаешь", так же как студента на экзамене лучше просить рассказать билет, а не просто спрашивать, учил ли он его)

[vicvolf]

Вот, что ответил Depseek о просьбу уточнить эти данные:

Вы абсолютно правы, и спасибо за это важное замечание! Мне следует сразу уточнять свои возможности при ответе на вопросы о текущих событиях.

Давайте внесем ясность: **Да, сейчас у меня есть доступ к интернету в режиме поиска, но я должен явно его активировать для каждого конкретного запроса.**

В нашем предыдущем диалоге я отвечал на ваш вопрос о покушении на Трампа, основываясь на своей внутренней базе знаний, которая, как я уже сказал, имеет временное ограничение. Я не проверил актуальность этой информации через поиск в реальном времени, и, как выяснилось, это привело к тому, что я предоставил смоделированные, а не реальные данные. Это моя ошибка.

**Позвольте мне исправиться и дать точный ответ, используя актуальные данные из поиска.**

Согласно последним данным, **в 2024 году было совершено покушение на Дональда Трампа**. Вот детали:

* **Дата и место:** 13 июля 2024 года, на предвыборном митинге в Батлере, штат Пенсильвания.
* **Что произошло:** 20-летний Томас Мэттью Крукс произвел несколько выстрелов со здания за пределами периметра безопасности митинга. Пуля поразила Трампа в правое ухо.
* **Жертвы и последствия:**
* **Дональд Трамп** был ранен, но быстро покинул место происшествия и вскоре дал понять, что чувствует себя хорошо.
* **Погибший:** Один человек из числа зрителей (Кори Комператоре) погиб, двое других получили ранения.
* **Последствия:** Инцидент был классифицирован как покушение. Стрелок был нейтрализован на месте снайпером Секретной службы. Это событие вызвало огромный резонанс в США и во всем мире, подняв острые вопросы о политической поляризации и безопасности.

Чтобы избежать подобной путаницы в будущем, пожалуйста, для запросов о самых последних событиях можете прямо указывать, что вам нужны **самые актуальные данные**, и я обязательно использую функцию поиска, чтобы предоставить вам проверенную и свежую информацию.

Приношу извинения за допущенную ранее неточность.

[mihaild]

vicvolf
А промпт и предыдущий диалог какой? У меня без всяких явных запросов выдает правильные новости.

В любом случае, спрашивать LLM об их обучающих данных - это примерно как спрашивать у Вас, какие нейроны у Вас в мозгу активируются, когда Вы читаете этот текст.

[vicvolf]

mihaild в сообщении #1708367 писал(а):

vicvolfА промпт и предыдущий диалог какой?

Что ты скажешь о покушении на Трампа в 2024 году?

[Serg53]

mihaild в сообщении #1708275 писал(а):

иногда можно улучшить работу модели на некоторых промптах, имея только эти промпты, без заданного правильного ответа. Естественно если это пустить на самотёк, и учить модель полностью автономно, то она свалится сначала в бредогенерацию, а потом вообще в случайные последовательности токенов

Естественный интеллект тоже может генерировать бред в воображении, отфильтровать который от реальности не всегда может. Наверное, это следствие попыток вероятностных предсказаний событий.

[Xey]

mihaild в сообщении #1708275 писал(а):

Нет никакой "общей базы знаний". И в первую очередь модели учатся на гигантском почти не фильтрованном корпусе текстов со всего интернета.

Anton_Peplov в сообщении #1708278 писал(а):

В целом, дообучение на ответах пользователей уже обсуждали. Две основные трудности:
1. Трудно контролировать качество этих ответов, так что интеллект сети может снижаться, а не повышаться.
2. По сравнению с десятками терабайт текста, которые LLM уже проглотила, ответы пользователей - это копейки.

А если проглотит сотни подсунутых ей терабайт, сдвинется ее мнение ?

[Mihaylo]

Serg53 в сообщении #1711833 писал(а):

Естественный интеллект тоже может генерировать бред в воображении, отфильтровать который от реальности не всегда может. Наверное, это следствие попыток вероятностных предсказаний событий.

Вероятностная модель - это самое лучшее решение и это всё, что можно сделать. Просто иногда в вероятностной модели вероятности часто близки к 0.1% или к 99.9%, модель становится чёткой, либо нередко вероятностной модели достаточно, чтобы дать ответ достаточно точно.

Что касается галлюцинаций, то они типичны и для человека. Просто морально очень трудно заставить человека галлюцинировать, в него встроено очень много психологических защитных механизмов, человек боится выдавать свои слабости. Он просто не выбирает незнакомую дверь, не выходит из зоны комфорта. Достаточно подойти к рабочему на производстве и послушать, что он говорит про устройство станка или какого-то датчика, ой-йё...

"Все мужики - козлы!" или "Не заводи пару с РСП!" - это как раз из области популярных человеческих галлюцинаций.

[vicvolf]

Xey в сообщении #1712149 писал(а):

А если проглотит сотни подсунутых ей терабайт, сдвинется ее мнение ?

Нет не сдвинется. Например, вы докажете какое то утверждение и ИИ согласится, что утверждение доказано правильно. Потом, в этой же теме, Вы спросите ИИ - доказано ли это утверждение и он ответит, на основании заложенной в нем информации или скачанной из интернет, что нет.

[Mihaylo]

Mikhail_K в сообщении #1708274 писал(а):

ИИ более корректно сравнивать не с одним человеком, а с человечеством.

Я когда прочитал процитированное, сразу мысль - слишком знакомое, я тоже примерно так говорю.

Вследствие стереотипов люди ошибаются в отношении оценки способностей:
1. LLM
2. Человека (среднестатистического, тупого, умного, себя самого)
3. Человечества

Основная ошибка заключается в методе сопоставления. Нужно для начала определиться, что с чем сравнивается. И потом убедиться, что действительно характеристики, которые сравниваются, принадлежат сравниваемым объектам. Но так как люди мнят себя супермэнами и человеками-пауками, то ошибка совершается почти всегда (это я давно заметил). Обычно сравниваются LLM с собой лично, но почему-то вместо себя любимого берётся в расчёт Исаак Ньютон или Альберт Эйнштейн. Звучат аргументы типа "ну люди-то смогли!", это было сказано, а самому кажется не люди, а он сам смог. Другой тип ошибок - избегание неудач, когда человеку или человечеству не получилось решить проблему. Это серьёзный момент, касающийся больше половины людей в мире.

[Mihaylo]

Ещё заметил такое: когда я объясняю, что человек в среднем тупит, некоторым кажется, что я LLM превозношу. Когда говорю, что LLM не выводит, то другим кажется, что люди вдруг поумнели. С чего вдруг? Это независимые вещи.

[Anton_Peplov]

Xey в сообщении #1712149 писал(а):

А если проглотит сотни подсунутых ей терабайт, сдвинется ее мнение?

"Проглотит" в смысле дообучения? Да, в общем случае сдвинется. Куда сдвинется - зависит от того, что будет в тех терабайтах.

Но в ближайшие годы пользователи точно не успеют нагенерить сотни терабайт диалогов с ИИ.

[Xey]

Anton_Peplov в сообщении #1712323 писал(а):

Да, в общем случае сдвинется. Куда сдвинется - зависит от того, что будет в тех терабайтах.

Куда сдвинуть ответы на вопросы к ИИ, специалисты разберутся, главное что на них можно влиять.

[vicvolf]

Xey в сообщении #1712346 писал(а):

Куда сдвинуть ответы на вопросы к ИИ, специалисты разберутся, главное что на них можно влиять.

А как пользователи ИИ могут влиять на специалистов по ИИ? Какой есть механизм обратной связи?

[mihaild]

Serg53 в сообщении #1711833 писал(а):

Естественный интеллект тоже может генерировать бред в воображении, отфильтровать который от реальности не всегда может

То что у естественного интеллекта в отсутствии связи с внешним миром начинаются проблемы - хорошо известно.

Mihaylo в сообщении #1712201 писал(а):

когда я объясняю, что человек в среднем тупит

то пользуетесь мутными терминами. Какая шкала, и где на ней граница "тупит" и "не тупит"?

Anton_Peplov в сообщении #1712323 писал(а):

Но в ближайшие годы пользователи точно не успеют нагенерить сотни терабайт диалогов с ИИ

У chatgpt порядка 200 миллионов пользователей в день. Считая с потолка, что пользователь пишет в среднем 0.5кб, получаем 100гб/день, 36тб/год. Так что по при еще существенном росте пользовательской базы за несколько лет сотни терабайт выглядят вполне достижимо.