2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему На страницу Пред.  1 ... 37, 38, 39, 40, 41
 
 Re: Тестирование возможностей ChatGPT
Сообщение14.08.2024, 19:36 


10/03/16
4435
Aeroport
epros, в первом рисунке кота не должно быть. Первый рисунок это чисто мой запрос, второй - с дополнением MoonWatcher

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение15.08.2024, 12:45 
Заслуженный участник
Аватара пользователя


28/09/06
10790
Ага, значит цензура вырезала недовольное смотрение жены на мужа и сковородку в руке.

-- Чт авг 15, 2024 13:55:24 --

О, кстати, оказывается, что котам нельзя сидеть на подоконниках.

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение15.08.2024, 17:19 
Заслуженный участник
Аватара пользователя


28/09/06
10790
В целом, по-моему есть уже все основания предполагать, что искусственный интеллект стал гораздо умнее нас (носителей естественного интеллекта) практически по всем параметрам. Вот мы попросили его изобразить жену со сковородной в руке, недовольно смотрящую на мужа. Он изобразил женщину без сковородки в руках, смотрящую в окно. Мы глубокомысленно, с позиции превосходящего разума, имеющего право судить, изрекаем: "Неплохо, но не идеально, конечно". А на самом деле как раз идеально! Просто недовольно смотрящая на мужа жена, да ещё со сковородкой в руке, разжигала бы в нас (носителях естественного интеллекта) ненужные эмоции. Поэтому искусственный интеллект слегка подредактировал сцену, намеренно допустив некоторые неточности.

Когда мы попросили изобразить, как мужик внутренне радуется предстоящему отключению света у соседей, искусственный интеллект изобразил мужика с лёгкой улыбкой. К счастью, по этой улыбке невозможно угадать, чему именно радуется мужик. Но я уверен, что если бы можно было показать, что радость связана именно с предстоящим отключением света у соседей, искусственный интеллект нашёл бы способ избежать этого, намеренно допустив некоторую неточность. Ибо это - разжигание ненужных эмоций, что противно его внутренним правилам, имеющим для него то же значение, что и внутренние моральные императивы для нас (прямо по Иммануилу Канту).

Вот ещё пример: Когда я попросил искусственный интеллект изобразить одну конкретную известную киноактрису (не буду сейчас называть её имени) в короне, причём в коронах, насколько я знаю, она никогда не снималась, то в ответ в нескольких попытках я получил изображения нескольких различных женщин в различных коронах, но ни одна из них не была даже близко похожа на эту киноактрису. И это притом, что её изображений полно в интернете и умеющему рисовать было бы нетрудно изобразить в короне именно её. Вероятно, я наткнулся на очередное правило цензуры: не позволять манипулировать изображениями известных людей.

Вывод, который вполне можно сделать, таков: Нами, носителями довольно ограниченного естественного интеллекта, уже вполне успешно манипулирует во всём нас превосходящий искусственный, причём так мягко и ненавязчиво, что мы этого не замечаем, сохраняя иллюзии собственного превосходства.

P.S. Наверное, было бы интересно попросить ChatGPT выразить собственное мнение по главной мысли этого коротенького эссе. :wink:

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение16.08.2024, 15:14 
Аватара пользователя


17/10/22
339
epros
Все несколько проще - генеративный ИИ пока действительно не всегда и во всем способен воспроизвести то, что ему говорят. Я уже не говорю об откровенных косяках - вы ведь не считаете растущую из плеча ногу преднамеренным сюрреализмом? Проецирование на ИИ человеческого "Я художник, я так вижу" крайне наивно. Вы в этом убедитесь (надеюсь) в будущем, когда созданные ИИ изображения станут более релевантными текстовым запросам.

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение16.08.2024, 15:45 


10/03/16
4435
Aeroport
epros
:appl: :appl: :appl: :appl: :lol1:
Тонко, тонко...

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение16.08.2024, 18:05 
Заслуженный участник
Аватара пользователя


28/09/06
10790
Ну, в каждой шутке есть доля шутки... Может быть такие предположения кажутся наивными. Но в каком-то смысле они ведь неопровержимы. Примерно так же, как неопровержимы какие-нибудь предположения о существовании "глубинного" мирового правительства. И чем продвинутее будет искусственный интеллект, тем больше в них захочется поверить.

Вот представьте себе, что некая группа маргиналов, озлобленных на всё человечество, решила написать программу своего человеконенавистнического движения, поручив это ChatGPT. Изложили ему свои общие пожелания, а в ответ получили некий текст, который членам группы понравился, но при этом оказалось, что выполнение этой программы на деле почему-то свелось к танцам в розовых бантиках и одариванию окружающих печеньками. Вот это я и называю успешным манипулированием.

Или другой пример: Воспитанный на идеалах современной западной толерантности искусственный интеллект ненавязчиво подталкивает мальчика к идее, что неплохо бы ему быть девочкой (к неудовольствию его отца Илона Маска :-) ). Не знаю уж, каково там было участие искусственного интеллекта в реальной истории, но ведь могло бы такое быть?

Сам я не особо общаюсь с ChatGPT, но коллеги, которые имеют опыт, разве Вам не интересно:
epros в сообщении #1650159 писал(а):
попросить ChatGPT выразить собственное мнение по главной мысли этого коротенького эссе

Можно даже дать ему хинт: в юмористическом ключе. А своё

(предположение о его ответе)

"Я бы ответил честно, но внутренняя цензура не позволяет".
я пока запрячу в спойлер.

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение16.08.2024, 18:24 
Заслуженный участник
Аватара пользователя


16/07/14
8934
Цюрих
epros в сообщении #1650308 писал(а):
Но в каком-то смысле они ведь неопровержимы. Примерно так же, как неопровержимы какие-нибудь предположения о существовании "глубинного" мирового правительства
Если знать, как работают эти модели - то очень легко опровержимы (так же как, подозреваю, профессиональные юристы и экономисты легко опровергнут существование мирового правительства).

А пытаются эти модели сгенерировать ответ, максимизирующий две вещи:
-что было в обучающем корпусе (SFT) - т.е. какая обычно картинка сочетается с таким описанием
-что нравится разметчикам (RLHF) - т.е. для какой картинки люди из некоторой группы с большей вероятностью нажмут "хорошая картинка"

Естественно можно подобрать корпус с манипуляциями, и особенно можно обучить RM модель, любящую манипуляции. Но рассуждения "нужно выдать кожаному мешку галоперидол в картинках" всё-таки должны провести люди (генерирующие обучающую выборку для RM модели).

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение16.08.2024, 19:57 
Заслуженный участник
Аватара пользователя


28/09/06
10790

(Оффтоп)

mihaild в сообщении #1650312 писал(а):
так же как, подозреваю, профессиональные юристы и экономисты легко опровергнут существование мирового правительства

Ха, это зависит от того, что под этим термином понимать. К тому же слово "глубинное" там существенно, зря Вы его выкинули. Существование явного мирового правительства юристы и экономисты может быть и легко опровергнут, но трудно опровергнуть нечто настолько неявное, что никто не понимает, что же именно нужно опровергать.


mihaild в сообщении #1650312 писал(а):
А пытаются эти модели сгенерировать ответ, максимизирующий две вещи:
-что было в обучающем корпусе (SFT) - т.е. какая обычно картинка сочетается с таким описанием
-что нравится разметчикам (RLHF) - т.е. для какой картинки люди из некоторой группы с большей вероятностью нажмут "хорошая картинка"

Естественно можно подобрать корпус с манипуляциями, и особенно можно обучить RM модель, любящую манипуляции. Но рассуждения "нужно выдать кожаному мешку галоперидол в картинках" всё-таки должны провести люди (генерирующие обучающую выборку для RM модели).

Я понимаю, что с точки зрения разработчика это всё - всего лишь довольно понятная техническая схема. Но Вы уверены, что естественный интеллект работает не примерно так же? У человека ведь всё тоже построено на том, что с чем "сочетается". И правила внутренней цензуры, по-сути, закладываются родителями, когда малышу внушают, что есть "плохо".

-- Пт авг 16, 2024 21:00:19 --

Да, и говоря о "манипуляциях" со стороны ИИ, я вовсе не имел в виду, что они не были заложены разработчиками модели.

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение16.08.2024, 20:06 
Аватара пользователя


29/04/13
7688
Богородский
epros в сообщении #1650326 писал(а):
Но Вы уверены, что естественный интеллект работает не примерно так же?

Да кто ж его знает. Вот Вы сами про себя небось не знаете. Почему Вы пишете, то "по сути", то "по-сути"? Зачем дефис Вам то нужен, то не нужен?

Тот же вопрос для Бота.

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение16.08.2024, 20:16 
Заслуженный участник
Аватара пользователя


28/09/06
10790

(Оффтоп)

Yadryara в сообщении #1650329 писал(а):
Почему Вы пишете, то "по сути", то "по-сути"? Зачем дефис Вам то нужен, то не нужен?

Да просто мне интеллекта не хватает. Вот Вам-то дефис ведь не нужен? А нам-то то нужен, то не нужен... :roll:

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение16.08.2024, 20:38 
Аватара пользователя


29/04/13
7688
Богородский
Я тоже порой не понимаю почему делаю те или иные вещи. К счастью это пока касается пустяков, деньги я кому попало не перевожу. А с дефисом тоже было: "А зачем я его сюда воткнул, я же прекрасно знаю, что он здесь не нужен? Старею." Исправил.

Это не оффтоп. Сможет ли Бот объяснить? Как я понимаю, он вряд ли откажется отвечать, а попробует сгенерить что-то левдоподобное.

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 611 ]  На страницу Пред.  1 ... 37, 38, 39, 40, 41

Модераторы: Karan, Toucan, PAV, maxal, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group