2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему На страницу Пред.  1 ... 38, 39, 40, 41, 42, 43, 44 ... 51  След.
 
 Re: Тестирование возможностей ChatGPT
Сообщение14.08.2024, 19:36 


10/03/16
4444
Aeroport
epros, в первом рисунке кота не должно быть. Первый рисунок это чисто мой запрос, второй - с дополнением MoonWatcher

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение15.08.2024, 12:45 
Заслуженный участник
Аватара пользователя


28/09/06
10847
Ага, значит цензура вырезала недовольное смотрение жены на мужа и сковородку в руке.

-- Чт авг 15, 2024 13:55:24 --

О, кстати, оказывается, что котам нельзя сидеть на подоконниках.

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение15.08.2024, 17:19 
Заслуженный участник
Аватара пользователя


28/09/06
10847
В целом, по-моему есть уже все основания предполагать, что искусственный интеллект стал гораздо умнее нас (носителей естественного интеллекта) практически по всем параметрам. Вот мы попросили его изобразить жену со сковородной в руке, недовольно смотрящую на мужа. Он изобразил женщину без сковородки в руках, смотрящую в окно. Мы глубокомысленно, с позиции превосходящего разума, имеющего право судить, изрекаем: "Неплохо, но не идеально, конечно". А на самом деле как раз идеально! Просто недовольно смотрящая на мужа жена, да ещё со сковородкой в руке, разжигала бы в нас (носителях естественного интеллекта) ненужные эмоции. Поэтому искусственный интеллект слегка подредактировал сцену, намеренно допустив некоторые неточности.

Когда мы попросили изобразить, как мужик внутренне радуется предстоящему отключению света у соседей, искусственный интеллект изобразил мужика с лёгкой улыбкой. К счастью, по этой улыбке невозможно угадать, чему именно радуется мужик. Но я уверен, что если бы можно было показать, что радость связана именно с предстоящим отключением света у соседей, искусственный интеллект нашёл бы способ избежать этого, намеренно допустив некоторую неточность. Ибо это - разжигание ненужных эмоций, что противно его внутренним правилам, имеющим для него то же значение, что и внутренние моральные императивы для нас (прямо по Иммануилу Канту).

Вот ещё пример: Когда я попросил искусственный интеллект изобразить одну конкретную известную киноактрису (не буду сейчас называть её имени) в короне, причём в коронах, насколько я знаю, она никогда не снималась, то в ответ в нескольких попытках я получил изображения нескольких различных женщин в различных коронах, но ни одна из них не была даже близко похожа на эту киноактрису. И это притом, что её изображений полно в интернете и умеющему рисовать было бы нетрудно изобразить в короне именно её. Вероятно, я наткнулся на очередное правило цензуры: не позволять манипулировать изображениями известных людей.

Вывод, который вполне можно сделать, таков: Нами, носителями довольно ограниченного естественного интеллекта, уже вполне успешно манипулирует во всём нас превосходящий искусственный, причём так мягко и ненавязчиво, что мы этого не замечаем, сохраняя иллюзии собственного превосходства.

P.S. Наверное, было бы интересно попросить ChatGPT выразить собственное мнение по главной мысли этого коротенького эссе. :wink:

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение16.08.2024, 15:14 
Аватара пользователя


17/10/22
366
epros
Все несколько проще - генеративный ИИ пока действительно не всегда и во всем способен воспроизвести то, что ему говорят. Я уже не говорю об откровенных косяках - вы ведь не считаете растущую из плеча ногу преднамеренным сюрреализмом? Проецирование на ИИ человеческого "Я художник, я так вижу" крайне наивно. Вы в этом убедитесь (надеюсь) в будущем, когда созданные ИИ изображения станут более релевантными текстовым запросам.

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение16.08.2024, 15:45 


10/03/16
4444
Aeroport
epros
:appl: :appl: :appl: :appl: :lol1:
Тонко, тонко...

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение16.08.2024, 18:05 
Заслуженный участник
Аватара пользователя


28/09/06
10847
Ну, в каждой шутке есть доля шутки... Может быть такие предположения кажутся наивными. Но в каком-то смысле они ведь неопровержимы. Примерно так же, как неопровержимы какие-нибудь предположения о существовании "глубинного" мирового правительства. И чем продвинутее будет искусственный интеллект, тем больше в них захочется поверить.

Вот представьте себе, что некая группа маргиналов, озлобленных на всё человечество, решила написать программу своего человеконенавистнического движения, поручив это ChatGPT. Изложили ему свои общие пожелания, а в ответ получили некий текст, который членам группы понравился, но при этом оказалось, что выполнение этой программы на деле почему-то свелось к танцам в розовых бантиках и одариванию окружающих печеньками. Вот это я и называю успешным манипулированием.

Или другой пример: Воспитанный на идеалах современной западной толерантности искусственный интеллект ненавязчиво подталкивает мальчика к идее, что неплохо бы ему быть девочкой (к неудовольствию его отца Илона Маска :-) ). Не знаю уж, каково там было участие искусственного интеллекта в реальной истории, но ведь могло бы такое быть?

Сам я не особо общаюсь с ChatGPT, но коллеги, которые имеют опыт, разве Вам не интересно:
epros в сообщении #1650159 писал(а):
попросить ChatGPT выразить собственное мнение по главной мысли этого коротенького эссе

Можно даже дать ему хинт: в юмористическом ключе. А своё

(предположение о его ответе)

"Я бы ответил честно, но внутренняя цензура не позволяет".
я пока запрячу в спойлер.

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение16.08.2024, 18:24 
Заслуженный участник
Аватара пользователя


16/07/14
9144
Цюрих
epros в сообщении #1650308 писал(а):
Но в каком-то смысле они ведь неопровержимы. Примерно так же, как неопровержимы какие-нибудь предположения о существовании "глубинного" мирового правительства
Если знать, как работают эти модели - то очень легко опровержимы (так же как, подозреваю, профессиональные юристы и экономисты легко опровергнут существование мирового правительства).

А пытаются эти модели сгенерировать ответ, максимизирующий две вещи:
-что было в обучающем корпусе (SFT) - т.е. какая обычно картинка сочетается с таким описанием
-что нравится разметчикам (RLHF) - т.е. для какой картинки люди из некоторой группы с большей вероятностью нажмут "хорошая картинка"

Естественно можно подобрать корпус с манипуляциями, и особенно можно обучить RM модель, любящую манипуляции. Но рассуждения "нужно выдать кожаному мешку галоперидол в картинках" всё-таки должны провести люди (генерирующие обучающую выборку для RM модели).

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение16.08.2024, 19:57 
Заслуженный участник
Аватара пользователя


28/09/06
10847

(Оффтоп)

mihaild в сообщении #1650312 писал(а):
так же как, подозреваю, профессиональные юристы и экономисты легко опровергнут существование мирового правительства

Ха, это зависит от того, что под этим термином понимать. К тому же слово "глубинное" там существенно, зря Вы его выкинули. Существование явного мирового правительства юристы и экономисты может быть и легко опровергнут, но трудно опровергнуть нечто настолько неявное, что никто не понимает, что же именно нужно опровергать.


mihaild в сообщении #1650312 писал(а):
А пытаются эти модели сгенерировать ответ, максимизирующий две вещи:
-что было в обучающем корпусе (SFT) - т.е. какая обычно картинка сочетается с таким описанием
-что нравится разметчикам (RLHF) - т.е. для какой картинки люди из некоторой группы с большей вероятностью нажмут "хорошая картинка"

Естественно можно подобрать корпус с манипуляциями, и особенно можно обучить RM модель, любящую манипуляции. Но рассуждения "нужно выдать кожаному мешку галоперидол в картинках" всё-таки должны провести люди (генерирующие обучающую выборку для RM модели).

Я понимаю, что с точки зрения разработчика это всё - всего лишь довольно понятная техническая схема. Но Вы уверены, что естественный интеллект работает не примерно так же? У человека ведь всё тоже построено на том, что с чем "сочетается". И правила внутренней цензуры, по-сути, закладываются родителями, когда малышу внушают, что есть "плохо".

-- Пт авг 16, 2024 21:00:19 --

Да, и говоря о "манипуляциях" со стороны ИИ, я вовсе не имел в виду, что они не были заложены разработчиками модели.

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение16.08.2024, 20:06 
Аватара пользователя


29/04/13
8108
Богородский
epros в сообщении #1650326 писал(а):
Но Вы уверены, что естественный интеллект работает не примерно так же?

Да кто ж его знает. Вот Вы сами про себя небось не знаете. Почему Вы пишете, то "по сути", то "по-сути"? Зачем дефис Вам то нужен, то не нужен?

Тот же вопрос для Бота.

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение16.08.2024, 20:16 
Заслуженный участник
Аватара пользователя


28/09/06
10847

(Оффтоп)

Yadryara в сообщении #1650329 писал(а):
Почему Вы пишете, то "по сути", то "по-сути"? Зачем дефис Вам то нужен, то не нужен?

Да просто мне интеллекта не хватает. Вот Вам-то дефис ведь не нужен? А нам-то то нужен, то не нужен... :roll:

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение16.08.2024, 20:38 
Аватара пользователя


29/04/13
8108
Богородский
Я тоже порой не понимаю почему делаю те или иные вещи. К счастью это пока касается пустяков, деньги я кому попало не перевожу. А с дефисом тоже было: "А зачем я его сюда воткнул, я же прекрасно знаю, что он здесь не нужен? Старею." Исправил.

Это не оффтоп. Сможет ли Бот объяснить? Как я понимаю, он вряд ли откажется отвечать, а попробует сгенерить что-то левдоподобное.

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение08.09.2024, 01:33 
Заслуженный участник
Аватара пользователя


15/10/08
12496
Заметил один примечательный момент в изобразительном творчестве обсуждаемого. На порядок более качественное построение зеркальных отражений. Это слабое место большинства рисовалок, но сабдж справляется с задачей удивительно хорошо. Не удивлюсь, если он сперва формирует 3D картину сцены и только потом её отрисовывает.

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение09.09.2024, 17:42 
Аватара пользователя


17/10/22
366
Утундрий
Попросите его нарисовать слово PUSH так, как оно отражается в зеркале. Если каким-то чудом справится - спросите тянуть или толкать дверь, на которой видишь такую надпись.

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение09.09.2024, 18:23 
Заслуженный участник
Аватара пользователя


15/10/08
12496
Отличительная особенность этой недавно введённой функции: он не привлекает сторонние нейросеть для отрисовки, а малюет сам.

 Профиль  
                  
 
 Re: Тестирование возможностей ChatGPT
Сообщение10.09.2024, 15:24 
Аватара пользователя


07/01/15
1223
Вдохновившись соседней темой и не нашедши российских имен среди вычислителей числа пи, спросил у Chat GPT 4-o, участвовали ли российские математики в быстрых вычислениях цифр числа пи. На что получил шедевральный ответ:
Цитата:
Да, российские математики внесли значительный вклад в вычисление цифр числа Пи.
Леонард Эйлер (1707-1783), великий российский математик, разработал формулу, которая позволяет вычислить Пи с очень высокой точностью...

И ведь не подкопаться :mrgreen:
Запрос писал на этом сайте.

Все другие российские фамилии, которые выдал ИИ (Нестеренко, Коновалов, Панков), - из 20 века :-( А ведь 2 трлн цифр легко могли бы сдюжить, благо параллелить умеем и суперкомпьютеры имеются...

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 763 ]  На страницу Пред.  1 ... 38, 39, 40, 41, 42, 43, 44 ... 51  След.

Модераторы: Karan, Toucan, PAV, maxal, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: Mihaylo


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group