Определить сексуальную ориентацию по фотографии

[sergey83]

Сотрудники Стэнфордского университета выяснили, что искусственный интеллект способен определить сексуальную ориентацию человека по фотографии.

Согласно результатам исследования, машинное зрение в 81 проценте случаев верно определяет ориентацию мужчин, и в 74 процентах — женщин. При этом люди могут отличить гомосексуала от мужчины с традиционной сексуальной ориентацией в 61 проценте случаев и дают правильный ответ в 54 процентах случаев, если дело касается женщин.

Авторы исследования утверждают, что люди с нетрадиционной ориентацией обладают «гендерно-атипичными» чертами лица. Кроме того, специалисты уверены, что эксперимент с машинным зрением подтверждает теорию о том, что ориентация является врожденным, а не приобретенным признаком. Если искусственный интеллект изучал сразу пять фотографий одного человека, процент правильного ответа возрастал до 91 в случае с мужчинами и до 83 в случае с женщинами.

Вот оригинал научной статьи https://osf.io/fk3xr/

Очень бы хотел найти их компьютерную программу, которая всё это делает! Я бы загрузил туда пару фото своих знакомых. Так, просто проверить.

[Odysseus]

Эта тема мне не настолько увлекательна, чтобы читать целую статью, но быстрый реалити чек на основе этого краткого поста (а также общая пятничная праздность и желание поупражняться в догадках без изучения фактов) вызывает несколько вопросов по поводу объективности исследования:
- Я не знаю точный процент традиционной ориентации vs. нетрадиционной, но еще один реалити чек мне подсказывает, что люди традиционной ориентации составляют более 90% как среди мужчин, так и среди женщин.
- Вывод: если бы респондентам показывали фото из общей выборки по популяции и они бы все время тупоотвечали "традиционная", они бы набрали более 90% верных ответов.
- Вывод: выборка была нерепрезентативная, т.е. сильно скошенная в сторону людей нетрадиционной ориентации ("not that there's anything wrong about it" (c)).
- Вывод: живые люди в этом исследовании были склонны преуменьшать долю людей нетрадиционной ориентации среди показанных им фотографий не потому, что они хуже распознают таких людей на фото per se, а скорее потому, что они просто не ожидали встретить настолько большую долю людей нетрадиционной ориентации в этом исследовании, поскольку их не так много встречается в повседневной жизни ("not that there's anything wrong about it" (c)).
- Вывод: возможно, результаты исследования имеют отношение не к тому насколько лучше ИИ определяет ориентацию по фото по сравнению с ЕИ, а к тому, что у ИИ нет подсознательной привычки того, что большинство людей имеют традиционную ориентацию.

Такого дисбаланса между ИИ и EИ можно было бы избежать (или, как минимум, значительно уменьшить), если бы ЕИ в исследовании было сказано, что процент людей нетрадиционной ориентации в картинках намного больше, чем они привыкли встречать в жизни. Вопрос: было ли это им сказано?

sergey83, если вы прочитали всю статью, можете прокомментировать если подобные вопросы там поднимались? Так, чистое любопытство.

[mihaild]

$81\%$ это не accuracy (вероятность того, что случайного человека клиссифицирует правильно), это AUROC (можно интерпретировать как вероятность того, что в паре из двух человек из заведомо разных классов будет правильно определено, кто из какого).

[mihaild]

Товарищи, а давайте мы попробуем обсуждать статью, а не спорить в очередной раз про пропаганду/врожденность/etc.
(даже если вы хотите кого-то переубедить, то есть куча анекдотических свидетельств у меня и знакомых, что эффективность переубеждения при общении в личке с теми, кто готов дискутировать в личке, явно сильно отлична от нуля, а вот эффективность публичного обсуждения от нуля неотделима)

[а еще вопрос о врожденности предлагаю оставить профильным биологам, если они внезапно захотят по нему в очередной раз высказаться, а для вопроса о равноправии в крайнем случае создать отдельную тему (а еще лучше не создавать)]

(Оффтоп)

И вообще, если в теме про определение ориентации по фотографии нейронками обсуждается ГМО, то что-то пошло не так

По статье. Они взяли профили с сайта знакомств, ориентацию определяли по пункту "ищу М/Ж" в профиле. Взяли 130741 фотографий 36630 мужчин и 170360 фотографий 38593 женщин, гомо/гетеро представлены там и там в одинаковых пропорциях (как конкретно выбирали - не написано).
Дальше они взяли готовую нейронку (VGG-Face), которая из каждой фотографии сделала 4096 факторов, уменьшили с помощью SVD размерность до 500, на результате обучили логистическую регрессию.

Если просто классифицировать одно изображение (accuracy), то при выборке из их сета (где распределение орицентаций смещено) точность получается $57%$ для мужчин и $58%$ для женщин. Что будет, если брать репрезентативную по популяции выборку, они не пишут.

(и еще вопрос скорее к социологам - насколько сильно профиль на сайте знакомств коррелирует с реальной ориентацией; интуитивно кажется, что может быть много ситуаций вида "загрузил фотографию знакомого и указал какой-нибудь бред в профиле")

-- 09.09.2017, 19:37 --

Denis Russkih в сообщении #1246443 писал(а):

Раз пошла такая пьянка, было бы любопытно узнать, можно ли научить нейросеть распознавать преступников по фотографии, отличая их от законопослушных граждан. :)

Кажется что воспроизвести действия авторов не очень сложно и даже не требует больших мощностей. С вас размеченный датасет:)

[arseniiv]

mihaild в сообщении #1246482 писал(а):

(и еще вопрос скорее к социологам - насколько сильно профиль на сайте знакомств коррелирует с реальной ориентацией; интуитивно кажется, что может быть много ситуаций вида "загрузил фотографию знакомого и указал какой-нибудь бред в профиле")

Кроме того, фотография, считаемая человеком пригодной для сайта знакомств — это не любая фотография.

[mihaild]

arseniiv в сообщении #1246487 писал(а):

Кроме того, фотография, считаемая человеком пригодной для сайта знакомств — это не любая фотография.

Про это они пишут.

Цитата:

Furthermore, given that they were originally posted on a dating website, they might be especially revealing of sexual orientation. <...> Fourth, Studies 3 and 4 show that the images used here were not substantially more revealing of sexual orientation than images of neutral faces taken in a controlled setting or images obtained from Facebook

Пишут, что классификатор, смотрящий только на неизменяемые факторы (вроде формы носа) дает ту же точность. Как конкретно они понимают про эти факторы - не понял.

С facebook сравнивались так: взяли сообщества типа "I love being Gay", взяли фотографии товарищей из этих сообществ, обнаружили, что их гораздо проще отличить от гетеросексуальных товарищей с сайтов знакомств ($0.74$ AUROC), но сложно отличить от гомосексуальных ($0.53$ - монетка дает $0.5$).

[Toucan]

mihaild в сообщении #1246482 писал(а):

Товарищи, а давайте мы попробуем обсуждать статью, а не спорить в очередной раз про пропаганду/врожденность/etc.

Присоединяюсь к пожеланию. Сообщения, напрямую не относящиеся к предмету обсуждения, удалены.
Рукописи Копии удаленных сообщений могут быть высланы в адрес авторов по запросам, высказанным в ЛС.

[Dan B-Yallay]

mihaild
Даётся ли какая-нибудь информация в этой статье о возрасте, предпочтениях и образовании тех, кто пытался распознать ориентацию по фотографии? Это может иметь влияние на точность их угадываний.

[mihaild]

Dan B-Yallay в сообщении #1246545 писал(а):

Даётся ли какая-нибудь информация в этой статье о возрасте, предпочтениях и образовании тех, кто пытался распознать ориентацию по фотографии?

Использовался Amazon Mechanical Turk, выдавались задания людям из США, уже выполнившим не менее 1000 заданий на платформе с точностью (? approval rate) не менее $98%$. Плюс они ссылаются на предыдущие исследования, в которых AUROC у людей был $0.55 - 0.65$.

[sergey83]

Наконец-то сделали российскую нейросеть, где вы можете загрузить фотографию, а она определит ориентацию человека https://vk.com/homoradar

[worm2]

(Оффтоп)

sergey83 в сообщении #1246328 писал(а):

Я бы загрузил туда пару фото своих знакомых. Так, просто проверить.

А была бы программа, которая определяла бы людей нетрадиционной ориентации в плохом смысле этого слова, я бы вообще всех в неё загружал!