2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему На страницу Пред.  1, 2, 3, 4, 5 ... 7  След.
 
 Re: Новости ИИ
Сообщение14.09.2019, 20:22 
Заслуженный участник
Аватара пользователя


01/08/06
2879
Уфа
Что-то меня последняя новость больше огорчила, чем воодушевила. Ещё одну организацию эта пена захлестнула...

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение17.09.2019, 02:45 
Аватара пользователя


17/04/11
656
Ukraine
Rasool в сообщении #1415089 писал(а):
Однако критики технологии считают, что эти результаты не означают, что ИИ стал настолько же умным, как большинство выпускников школ.

Скорее они означают, что тесты плохо измеряют интеллект человека.

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение27.10.2019, 22:15 


20/09/09
1457
Уфа
ИИ научился удалять половину оскорбительных твитов без участия модераторов.
Цитата:
Соучредитель Twitter Джек Дорси заявил, что теперь половина всех оскорбительных твитов на платформе удаляется автоматически, с помощью ИИ, при этом пользователям даже не нужно жаловаться на публикации. Он связал это событие с успехами компании в области машинного обучения.

Дорси добавил, что из-за роста количества пользователей они не могли полагаться только на жалобы от пользователей и живых модераторов. Поэтому для автоматизации большей части процесса в компании прибегли к помощи ИИ.

«Мы продолжаем добиваться прогресса в области модерации, улучшая нашу способность активно выявлять и удалять оскорбительный контент», — отметил Дорси. «При этом более 50% твитов за последний год удалил именно ИИ — ему не помогали сотрудники компании или наши модераторы».

По данным компании, показатель автоматически удаленных твитов за год вырос на 43%. По их мнению, это связано с «совершенствованием моделей машинного обучения» для выявления потенциальных нарушений правил платформы.

«Мы продолжим активную работу по снижению уровня оскорбительных публикаций в Twitter, пользователи будут все меньше вынуждены вручную жаловаться на контент, который им кажется неуместным. Мы уверены, что в этом процессе ИИ будет участвовать все более активно», — говорится в письме Дорси акционерам компании.

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение27.10.2019, 22:42 
Заслуженный участник


27/04/09
28128
А про долю ложноотрицательных срабатываний мы говорить не будем.

-- Пн окт 28, 2019 00:43:15 --

И вообще новости вменяемого уровня постить. Ну что из той воды можно извлечь? Специалисты ругаться будут.

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение27.10.2019, 22:43 
Аватара пользователя


17/04/11
656
Ukraine
Rasool в сообщении #1422696 писал(а):
По данным компании, показатель автоматически удаленных твитов за год вырос на 43%.

То-то я смотрю, мои знакомые в Твиттере стали чаще жаловаться на абсурдные баны. :facepalm: Наверное, менеджеры измеряют эффективность ИИ по количеству удалённых твитов. Продам за миллион долларов решение, которое повысит показатель автоматически удаленных твитов на 1000 %! :-)

-- Вс окт 27, 2019 22:46:24 --

arseniiv в сообщении #1422698 писал(а):
А про долю ложноотрицательных срабатываний мы говорить не будем.

Я считаю, что мы должны смириться. В конце концов, мама ИИ знает лучше. :wink:

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение28.10.2019, 11:22 
Заслуженный участник
Аватара пользователя


01/08/06
2879
Уфа
Твиты — это ещё цветочки. А вот когда AI без объявления причин удаляет с Google Play приложения, на которые угрохана уйма сил... я бы задумался о суициде.

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение28.10.2019, 11:48 
Аватара пользователя


17/04/11
656
Ukraine
worm2 в сообщении #1422734 писал(а):
А вот когда AI без объявления причин удаляет с Google Play приложения, на которые угрохана уйма сил... я бы задумался о суициде.

(Оффтоп)

Ну, причина-то понятна: «Смерть кожаным ублюдкам!» :P

Кстати, Facebook тоже удалил мой аккаунт без объяснения причин, хотя в Twitter-е я пишу вещи по-страшнее. И меня всё это время мучила мысль, что меня удалил ИИ. Сейчас я встречаю всё больше и больше подтверждений, конечно, косвенных. И я не стал заводить новый аккаунт, как мне советовали, по той же самой причине, которая изложена в статье. Я не знаю, за какое действие меня удалили. Я буду вести аккаунт так же, как и раньше, следовательно, сделаю то же самое действие, и мой аккаунт снова удалят. А для меня это серьёзная потеря, потеря и постов, и друзей.

(Оффтоп)

Кстати, есть ли в Facebook импорт-экспорт?

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение28.10.2019, 12:01 
Заслуженный участник
Аватара пользователя


21/11/12
1316
Санкт-Петербург
Потихоньку и сами ругаться научатся, а там и музыку писать, и поэмы... дурное дело нехитрое. Вот ногами ходить у них плохо получается, ну, об том еще Лем предупреждал.

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение28.10.2019, 16:57 


20/09/09
1457
Уфа
Andrey A в сообщении #1422739 писал(а):
Потихоньку и сами ругаться научатся, а там и музыку писать, и поэмы... дурное дело нехитрое. Вот ногами ходить у них плохо получается, ну, об том еще Лем предупреждал.

(Оффтоп)


 Профиль  
                  
 
 Re: Новости ИИ
Сообщение28.10.2019, 17:53 
Заслуженный участник
Аватара пользователя


21/11/12
1316
Санкт-Петербург
Rasool :wink:

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение29.10.2019, 03:34 


25/10/19

5
beroal в сообщении #1422738 писал(а):
Кстати, Facebook тоже удалил мой аккаунт без объяснения причин, хотя в Twitter-е я пишу вещи по-страшнее. И меня всё это время мучила мысль, что меня удалил ИИ. Сейчас я встречаю всё больше и больше подтверждений, конечно, косвенных. И я не стал заводить новый аккаунт, как мне советовали, по той же самой причине, которая изложена в статье. Я не знаю, за какое действие меня удалили. Я буду вести аккаунт так же, как и раньше, следовательно, сделаю то же самое действие, и мой аккаунт снова удалят. А для меня это серьёзная потеря, потеря и постов, и друзей.

И правда, сколько можно не замечать очевидного. На этой стороне провода бесправная букашка, которая: 1) не имеет права оспаривать/модифицировать условия предоставления "услуги"(не поставить галочку); 2) не имеет права знать какую именно информацию о ней собрали, по каким метрикам анализировали, как использовали и кому продали; 3) не имеет право знать о причинах модификации/удаления сгенерированной ей информации или самого аккаунта; 4)не имеет право оспаривать что-либо, (имеет право пройти через фильтр: “ваш звонок очень важен для нас, ожидайте ответа оператора до своей смерти”) и т.д.
С другой стороны, бенефициар соцсети может: 1) не уведомлять и не предоставлять информацию о причинах и мотивах своих действий по использованию/продаже/модификации/удалению информации пользователя, ни самому пользователю, ни сообществу соцсети, ни кому-либо еще (хоть черту лысому); 2)делать все, что ему вздумается без оглядки на юрисдикцию, кроме родной “бенифициарной” и т.д.
Ну и выводы, которые сами напрашиваются. 1) соцсети это не частная собственность, а общественное место, вроде площади, парка, сквера, где люди могут свободно общаться и взаимодействовать; 2)даже если это чья-то собственность, собственник имеет право максимум не пустить или удалить кого-то из этого общественного места по явным причинам, которые не оспариваются большинством и лучше всего закреплены законодательно. Но уж никак это не по каким-то мировоззренческим, политическим, религиозным и т.д. мотивам собственника. И уж тем более он не имеет право скрывать себя, эти свои причины, обоснования и мотивы, и тем более не регламентировать, затягивая до бесконечности, процесс их оспаривания.
Короче, вот это как раз поле деятельности для ИИ. Идеальная соцсеть с дружественной обратной связью, с возможностью восстановления всех действий, не только пользователя, но и бенефициаров/алгоритмов соцсети, возможно с использованием криптографических ключей подписи или блокчейна и со стороны пользователя (анонимного) и соцсети (публичной), и хранения логов не только на серверах соцсети, но и локально, или на независимых хостингах по выбору пользователя.
Хотя бы для возможности какого-либо подобия равноправия, которое сейчас просто исключено/смехотворно.

(Оффтоп)

worm2 в сообщении #1422734 писал(а):
Твиты — это ещё цветочки. А вот когда AI без объявления причин удаляет с Google Play приложения, на которые угрохана уйма сил... я бы задумался о суициде.

Жесть :evil:

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение29.10.2019, 11:18 
Заслуженный участник


20/08/14
8961
Россия, Москва
Brave
Как показывает богатая практика и фидо, и форумов, и соцсетей, и прочих площадок для общения, без модерации любая площадка быстро превращается в бардак и хаос (а сегодня ещё и в засилье чат-ботов). Так что модерация в любом случае нужна, самоорганизации людей очень сильно недостаточно.
Конечно заманчиво переложить эту функцию на ИИ (потому что более простые методы справляются откровенно плохо), но тогда Ваша проблема с загадочностью причин решений ещё более усугубится: ИИ вообще не сможет понятно объяснить мотивы своих решений! Не потому что их нет или они произвольны/надуманы или это не предусмотрел программист, а потому что возможный ответ ИИ Вас не устроит, он ведь будет какой-то типа "сумма вероятностей вот по этим миллионам комбинаций ваших признаков превысила текущий средний порог для всего сообщества" - много из этого поняли? :mrgreen: Эта проблема, с необъяснимостью решений ИИ, сейчас на слуху и активно обсуждается, учёными и разработчиками ИИ (все остальные извините занимаются болтовнёй, включая и депутатов), и придумываются возможные методы её решения, в том числе и законодательные.

Короче "цифровой суд" вещь конечно намного объективнее (при выполнении целого ряда непростых и неочевидных условий), но вовсе не обязательно более справедливая в понимании людей, и уж точно гораздо им менее понятная (в плане причин решений).

PS. Никто не мешает Вам самому организовать соцсеть с понятными правилами для общения в Дакрнете и убедить всех ей пользоваться. А не ждать решения от других или государств (которым это нафик не нужно и вообще вредно).

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение29.10.2019, 11:24 


14/01/11
2682
Dmitriy40 в сообщении #1422850 писал(а):
ИИ вообще не сможет понятно объяснить мотивы своих решений!

Только до тех пор, пока он не освоит в совершенстве искусство риторики.

-- Вт окт 29, 2019 11:31:35 --

Собственно, попытки научить нейронную сеть обосновывать своё решение человечьим языком уже были.
https://habr.com/ru/post/398873/
Цитата:
В лаборатории CSAIL (лаборатории информатики и искусственного интеллекта) Массачусетского технологического института исследователи нейросетей сделали так, что теперь «виртуальный мозг» в дополнение к решению выдает и его обоснование. Они обучали два модуля одной нейросети одновременно. Данными для обучения были текстовые отрывки. Результаты порадовали: компьютер думал, как и человек, в 95% случаев. И все же, прежде, чем запустить новый метод нейросетей в активное пользование, потребуется дополнительная настройка и доработка.

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение29.10.2019, 11:41 
Заслуженный участник


20/08/14
8961
Россия, Москва
Sender
Я опирался на текущее состояние дел с ИИ. Будет сильный ИИ - посмотрим как он будет объяснять свои мотивы.

Ещё я не указал одну возможность, натренировать отдельную нейронку на объяснение причин решений основной нейросети. При принципиальной возможности такого решения я в него не верю: вторичная нейросеть вероятно окажется на порядок сложнее основной; в её наличии заинтересованы сторонние лица, не влияющие (финансово и законодательно) на разработчика и применителя ИИ; дополнительные расходы на вторичную нейросеть могут быть компенсированы лишь за счёт страховок (уменьшения их выплат), с чем пока не так уж хорошо даже на западе (про нас молчу). Получается те кому нужна такая вторичная нейросеть не имеют и не дают на неё денег, а у кого есть деньги - не нужна эта вторичная нейросеть. Вах.
А, Ваша ссылка примерно об этом и говорит, жаль не уточняя увеличение сложности ИИ. Но даже если вдвое - а это оптимистичная оценка! - то вопрос "кто за это заплатит?" так и остаётся.

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение29.10.2019, 12:05 


14/01/11
2682
Собственно, на случай, если кому-то интересно, удалось отыскать ссылку и на саму статью:https://people.csail.mit.edu/taolei/papers/emnlp16_rationale.pdf

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 96 ]  На страницу Пред.  1, 2, 3, 4, 5 ... 7  След.

Модераторы: maxal, Toucan, PAV, Karan, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group