2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему На страницу Пред.  1, 2, 3, 4, 5  След.
 
 Re: Будущие перспективы ИИ (возможно, 4-я волна ИИ)
Сообщение26.10.2024, 23:53 


07/10/20
26/12/24
23
Спросите его о манере общения (его же).
Как он её оценивает ?
Спросите, например, об античной классификации, кто он, судя по ответам, по текстам?:
- холерик?
- сангвиник?
- флегматик ?
- меланхолик ?
Посмотрите, что он вам ответил,
Как и мне, он, наверняка, превысил холерика и сангвиника, и, наверняка, принизил, флегматика и меланхолика.
Контрольный вопрос:
- Почему в …(стране "Ч")… принижают, "меланхоликов Зауралья" ?!
Такого рода “диалоги» повсеместны…¯ \ _ (ツ) _ / ¯
Изображение

-- 26.10.2024, 23:58 --

Я думаю, лучше подумать, о "Водолеях" Приитакимеющих...

 Профиль  
                  
 
 Re: Будущие перспективы ИИ (возможно, 4-я волна ИИ)
Сообщение27.10.2024, 12:36 


15/10/24

30
vpb

Цитата:
Что-то не могу я найти эту статью. Ни на сайте журнала нет, ни гугл сколар не видит, ни в профиле Тао в гугл сколаре нет... Уж не разыгрывает ли нас Ilya Bykov ?


Это написал ИИ. Я разместил в 2 разных темах, т.к. длинное сообщение разместить не даёт ни сразу ни в виде 2 сообщений в 1 теме.

 Профиль  
                  
 
 Re: Будущие перспективы ИИ (возможно, 4-я волна ИИ)
Сообщение27.10.2024, 14:09 


27/08/16
10450
Ilya Bykov в сообщении #1659722 писал(а):
Это написал ИИ.

ИИ галюцинирует. И?

 Профиль  
                  
 
 Re: Будущие перспективы ИИ (возможно, 4-я волна ИИ)
Сообщение27.10.2024, 16:08 


15/10/24

30
Vozduh в сообщении #1659699 писал(а):
Спросите его о манере общения (его же).
Как он её оценивает ?
Спросите, например, об античной классификации, кто он, судя по ответам, по текстам?:
- холерик?
- сангвиник?
- флегматик ?
- меланхолик ?

Лженаучна ли эта классификация?

-- 27.10.2024, 16:12 --

ИИ говорит да
Цитата:
Да, это лженаука, потому что:
Не имеет научных доказательств
Основана на ошибочной теории о жидкостях в организме
Не выдерживает проверку научным методом
Не может быть воспроизведена в экспериментах
Тот факт, что некоторые наблюдения оказались верными и она послужила основой для дальнейших исследований, не делает её научной.

 Профиль  
                  
 
 Re: Будущие перспективы ИИ (возможно, 4-я волна ИИ)
Сообщение27.10.2024, 16:36 


27/08/16
10450
Ilya Bykov в сообщении #1659770 писал(а):
ИИ говорит да
Крайне вредно думать, что GPT всегда говорит истину. Да и не думаю, что его ответам тут место среди комментариев людей.

 Профиль  
                  
 
 Re: Будущие перспективы ИИ (возможно, 4-я волна ИИ)
Сообщение03.11.2024, 00:29 


12/07/15
3349
г. Чехов
Речи чат-ботов намного полезнее и правдивее, чем повседневные речи людей. Хотя даже Ян Лекун считает современные ИИ обманщиками, но он ничего не говорил о людях. В этом вся проблема. Надо чтобы люди стали больше задумываться, что они сами говорят, насколько верно, насколько негаллюцинногенно. А то ведь обычно это так происходит: один человек ляпнул, все, кто понимает, ахнули и дистанцировались от него, а он и не заметил. Тут все печально и уже десятки тысяч лет ничего не меняет и образование часто не помогает.

 Профиль  
                  
 
 Re: Будущие перспективы ИИ (возможно, 4-я волна ИИ)
Сообщение03.11.2024, 02:00 


31/01/24
863
Mihaylo в сообщении #1660450 писал(а):
Хотя даже Ян Лекун считает современные ИИ обманщиками


Звучит как-то странно: какой корпус текстов по степени достоверности есть у LLM, настолько ответы и будут правдивыми. Называть это обманом/обманщиком малость нелепо, так как это не преднамеренная сознательная ложь.

Или же под обманом здесь подразумевалось что-то другое?

 Профиль  
                  
 
 Re: Будущие перспективы ИИ (возможно, 4-я волна ИИ)
Сообщение03.11.2024, 03:17 
Заслуженный участник
Аватара пользователя


16/07/14
9202
Цюрих
Mihaylo в сообщении #1660450 писал(а):
Речи чат-ботов намного полезнее и правдивее, чем повседневные речи людей
Вы повторяете это из темы в тему, но это всё еще неправда.
Ghost_of_past в сообщении #1660452 писал(а):
Звучит как-то странно: какой корпус текстов по степени достоверности есть у LLM, настолько ответы и будут правдивыми
Это для идеальных LM. Реальные LLM активно добавляют к ошибкам в обучающем корпусе свои.

 Профиль  
                  
 
 Re: Будущие перспективы ИИ (возможно, 4-я волна ИИ)
Сообщение03.11.2024, 10:10 


12/07/15
3349
г. Чехов
Ghost_of_past в сообщении #1660452 писал(а):
Или же под обманом здесь подразумевалось что-то другое?

Другое. Он имел в виду, что ИИ удалось прикинуться интеллектом, люди поверили, что имеют дело с интеллектом, поэтому они обманщики, имитаторы.
mihaild в сообщении #1660455 писал(а):
Вы повторяете это из темы в тему, но это всё еще неправда.

Смотря как вы это измеряете. Вы говорите с человеком, и у вас создаётся о нём впечатление - это такой способ измерения. Этот подход с БЯМ не работает, да и с людьми не особо точен. Вы стереотипно воспринимаете собеседника, вы думаете: "И как я буду рядом с ЭТИМ существовать, общаться с ЭТИМ, если ЭТО может вот так вот отвечать на вопросы?". Вы просто не адаптировались, первое впечатление ложно. А лучше не впечатляйтесь вообще, тоже мне научный подход.

-- 03.11.2024, 10:20 --

Mihaylo в сообщении #1660450 писал(а):
Тут все печально и уже десятки тысяч лет ничего не меняет и образование часто не помогает.

Я вчера наверное устал и не закончил мысль. Вот окончание:
Люди тоже галлюцинируют и прилично. Это нормально для интеллекта, для любого, даже для AGI и даже для теоретических ASI. Всё потому, что мы работаем с такими данными, которые вроде содержат закономерности, их можно обнаруживать, но они в разной степени вероятностны, то есть ненадёжны.

Вы перепутали, думая, что интеллект - это про логику, математику, точные выводы и сильный интеллект. Нет, это неспецифичные задачи для интеллекта. Островки для таких задач есть, но только там, где присутствует избыточное количество закономерностей посильнее.

 Профиль  
                  
 
 Re: Будущие перспективы ИИ (возможно, 4-я волна ИИ)
Сообщение03.11.2024, 12:25 


31/01/24
863
mihaild в сообщении #1660455 писал(а):
Реальные LLM активно добавляют к ошибкам в обучающем корпусе свои.


Ок, пусть так. Но в любом случае как-то странно называть это ложью, согласитесь. Ошибки - не ложь.

Mihaylo в сообщении #1660475 писал(а):
Он имел в виду, что ИИ удалось прикинуться интеллектом, люди поверили, что имеют дело с интеллектом, поэтому они обманщики, имитаторы.


Опять же, я не вижу тут лжи: люди, которые в это поверили, и сами обманываться рады, так как LLM ну ни разу не сильный ИИ, и это вполне себе очевидно.

 Профиль  
                  
 
 Re: Будущие перспективы ИИ (возможно, 4-я волна ИИ)
Сообщение03.11.2024, 12:34 
Заслуженный участник
Аватара пользователя


16/07/14
9202
Цюрих
Mihaylo в сообщении #1660475 писал(а):
Смотря как вы это измеряете. Вы говорите с человеком, и у вас создаётся о нём впечатление - это такой способ измерения
Нет конечно, я измеряю "полезность и правдивость" не по "впечатлениям", а по подготовленным тестам.
Ghost_of_past в сообщении #1660494 писал(а):
Но в любом случае как-то странно называть это ложью, согласитесь. Ошибки - не ложь.
Тут надо смотреть на более полный текст Лекуна (Mihaylo, можете в таких цитатах давать ссылку?). Но в целом в бытовом словоупотреблении ответы вида "Вы правы, у мух восемь ног" я бы назвал ложью.

 Профиль  
                  
 
 Re: Будущие перспективы ИИ (возможно, 4-я волна ИИ)
Сообщение03.11.2024, 13:45 


12/07/15
3349
г. Чехов
mihaild в сообщении #1660495 писал(а):
Нет конечно, я измеряю "полезность и правдивость" не по "впечатлениям", а по подготовленным тестам.

Я вот, например, жду следующего рода ИИ.
Я ему пишу: "Найди, где лучше купить реле 24VDC 3 контакта".
А он, понимая всю мою проблематику, а именно (цена, срок поставки, местоположение, адрес доставки), ответит типа "Вот [ссылка 1], самое дешевое, что я нашёл, но лучше купить [ссылка 2], у них чуть подороже, но доставка дешевле и быстрее, [ссылка 3] - дорого, но зато пройти пешком 100 метров и у них есть в наличии 2 шт.".

Когда вы тестируете своими запросами типа, сколько будет "2+2?", это нисколько не тест на полезность.

-- 03.11.2024, 14:03 --

Забавно, что наши потребности в ИИ встают в противоречие довольно мощной машине рекламодателей. А так как рекламодатели и ИИ стоят рядом (на примере Гугла), то желаемый ИИ нам не предоставят, а просто зажмут еще хитрее. Все говорят о безопасности ИИ, а нам, покупателям, крышка, и это не считается проблемой.

 Профиль  
                  
 
 Re: Будущие перспективы ИИ (возможно, 4-я волна ИИ)
Сообщение03.11.2024, 18:38 
Заслуженный участник
Аватара пользователя


16/07/14
9202
Цюрих
Mihaylo в сообщении #1660500 писал(а):
Когда вы тестируете своими запросами типа, сколько будет "2+2?", это нисколько не тест на полезность
Примеры запросов, на которых я тестирую, можете посмотреть на https://blog.google/search/?query=gemini (думаю не очень большой секрет, что прежде чем представлять новую фичу, мы проверяем, работает ли она).

Вопросы "сколько будет 2+2" - всего лишь простой прокси, показывающий, что во многих аспектах LLM всё еще безнадежно хуже человека, вооруженного поиском (а в некоторых - и не вооруженного).
Mihaylo в сообщении #1660500 писал(а):
Забавно, что наши потребности в ИИ встают в противоречие довольно мощной машине рекламодателей
Только в том же смысле, в каком вообще реклама противоречит потребностям потребителей. Пока реклама не очень оптимизирована, ее улучшение, на самом деле, направлено в ту же сторону, что и улучшения для покупателей. Разумеется, если у нас есть две точки в пространстве, и мы идем в сторону одной из них, то рано или поздно мы начнем удаляться от другой. С рекламой это, видимо, уже произошло. С чатботами - до этого еще очень далеко.

 Профиль  
                  
 
 Re: Будущие перспективы ИИ (возможно, 4-я волна ИИ)
Сообщение14.12.2024, 16:33 


20/09/09
2063
Уфа
Есть мнение, что появление AGI и особенно ASI невозможно для современной архитектуре нейросетей, нужно ждать появления Четвертой волны ИИ. А как вы думаете?

 Профиль  
                  
 
 Re: Будущие перспективы ИИ (возможно, 4-я волна ИИ)
Сообщение15.12.2024, 09:01 


12/07/15
3349
г. Чехов
Один из специалистов OpenAI высказался (ссылки не будет), что AGI уже существуют. По определению en.wikipedia:
Цитата:
Artificial general intelligence (AGI) is a type of artificial intelligence (AI) that matches or surpasses human cognitive capabilities across a wide range of cognitive tasks.

Во многих сферах, связанных с генерацией текста, изображений, управления автомобилем, управление предприятием и др. чат-боты достигли и превосходят человека (какого человека?). Достаточно ли wide range? А как быть с видами деятельности, которые присущи только человеку? Например, игра в футбол с использованием... эээ... стандартных человеческих тел?
Недостаток определения AGI из википедии - его размытость, отсутствие адекватного критерия.
Тот профи из OpenAI дал более точную метрику и утвердил, что AGI существует.

Что касается ASI, то это просто фантастическая гипотеза а-ля Jarvis из комиксов.
Цитата:
A superintelligence is a hypothetical agent that possesses intelligence surpassing that of the brightest and most gifted human minds.

Опять непонятно: скорость анализа и генерации - это элемент превосходства? А что с чисто человеческими видами деятельности типа мотания головой и болтания ногой?

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 71 ]  На страницу Пред.  1, 2, 3, 4, 5  След.

Модераторы: Karan, Toucan, PAV, maxal, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group