2014 dxdy logo

Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




Начать новую тему Ответить на тему На страницу Пред.  1, 2, 3, 4, 5 ... 9  След.
 
 Re: Новости ИИ
Сообщение14.09.2019, 20:22 
Заслуженный участник
Аватара пользователя


01/08/06
3053
Уфа
Что-то меня последняя новость больше огорчила, чем воодушевила. Ещё одну организацию эта пена захлестнула...

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение17.09.2019, 02:45 
Аватара пользователя


17/04/11
658
Ukraine
Rasool в сообщении #1415089 писал(а):
Однако критики технологии считают, что эти результаты не означают, что ИИ стал настолько же умным, как большинство выпускников школ.

Скорее они означают, что тесты плохо измеряют интеллект человека.

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение27.10.2019, 22:15 


20/09/09
1902
Уфа
ИИ научился удалять половину оскорбительных твитов без участия модераторов.
Цитата:
Соучредитель Twitter Джек Дорси заявил, что теперь половина всех оскорбительных твитов на платформе удаляется автоматически, с помощью ИИ, при этом пользователям даже не нужно жаловаться на публикации. Он связал это событие с успехами компании в области машинного обучения.

Дорси добавил, что из-за роста количества пользователей они не могли полагаться только на жалобы от пользователей и живых модераторов. Поэтому для автоматизации большей части процесса в компании прибегли к помощи ИИ.

«Мы продолжаем добиваться прогресса в области модерации, улучшая нашу способность активно выявлять и удалять оскорбительный контент», — отметил Дорси. «При этом более 50% твитов за последний год удалил именно ИИ — ему не помогали сотрудники компании или наши модераторы».

По данным компании, показатель автоматически удаленных твитов за год вырос на 43%. По их мнению, это связано с «совершенствованием моделей машинного обучения» для выявления потенциальных нарушений правил платформы.

«Мы продолжим активную работу по снижению уровня оскорбительных публикаций в Twitter, пользователи будут все меньше вынуждены вручную жаловаться на контент, который им кажется неуместным. Мы уверены, что в этом процессе ИИ будет участвовать все более активно», — говорится в письме Дорси акционерам компании.

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение27.10.2019, 22:42 
Заслуженный участник


27/04/09
28128
А про долю ложноотрицательных срабатываний мы говорить не будем.

-- Пн окт 28, 2019 00:43:15 --

И вообще новости вменяемого уровня постить. Ну что из той воды можно извлечь? Специалисты ругаться будут.

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение27.10.2019, 22:43 
Аватара пользователя


17/04/11
658
Ukraine
Rasool в сообщении #1422696 писал(а):
По данным компании, показатель автоматически удаленных твитов за год вырос на 43%.

То-то я смотрю, мои знакомые в Твиттере стали чаще жаловаться на абсурдные баны. :facepalm: Наверное, менеджеры измеряют эффективность ИИ по количеству удалённых твитов. Продам за миллион долларов решение, которое повысит показатель автоматически удаленных твитов на 1000 %! :-)

-- Вс окт 27, 2019 22:46:24 --

arseniiv в сообщении #1422698 писал(а):
А про долю ложноотрицательных срабатываний мы говорить не будем.

Я считаю, что мы должны смириться. В конце концов, мама ИИ знает лучше. :wink:

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение28.10.2019, 11:22 
Заслуженный участник
Аватара пользователя


01/08/06
3053
Уфа
Твиты — это ещё цветочки. А вот когда AI без объявления причин удаляет с Google Play приложения, на которые угрохана уйма сил... я бы задумался о суициде.

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение28.10.2019, 11:48 
Аватара пользователя


17/04/11
658
Ukraine
worm2 в сообщении #1422734 писал(а):
А вот когда AI без объявления причин удаляет с Google Play приложения, на которые угрохана уйма сил... я бы задумался о суициде.

(Оффтоп)

Ну, причина-то понятна: «Смерть кожаным ублюдкам!» :P

Кстати, Facebook тоже удалил мой аккаунт без объяснения причин, хотя в Twitter-е я пишу вещи по-страшнее. И меня всё это время мучила мысль, что меня удалил ИИ. Сейчас я встречаю всё больше и больше подтверждений, конечно, косвенных. И я не стал заводить новый аккаунт, как мне советовали, по той же самой причине, которая изложена в статье. Я не знаю, за какое действие меня удалили. Я буду вести аккаунт так же, как и раньше, следовательно, сделаю то же самое действие, и мой аккаунт снова удалят. А для меня это серьёзная потеря, потеря и постов, и друзей.

(Оффтоп)

Кстати, есть ли в Facebook импорт-экспорт?

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение28.10.2019, 12:01 
Заслуженный участник
Аватара пользователя


21/11/12
1878
Санкт-Петербург
Потихоньку и сами ругаться научатся, а там и музыку писать, и поэмы... дурное дело нехитрое. Вот ногами ходить у них плохо получается, ну, об том еще Лем предупреждал.

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение28.10.2019, 16:57 


20/09/09
1902
Уфа
Andrey A в сообщении #1422739 писал(а):
Потихоньку и сами ругаться научатся, а там и музыку писать, и поэмы... дурное дело нехитрое. Вот ногами ходить у них плохо получается, ну, об том еще Лем предупреждал.

(Оффтоп)


 Профиль  
                  
 
 Re: Новости ИИ
Сообщение28.10.2019, 17:53 
Заслуженный участник
Аватара пользователя


21/11/12
1878
Санкт-Петербург
Rasool :wink:

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение29.10.2019, 03:34 


25/10/19

5
beroal в сообщении #1422738 писал(а):
Кстати, Facebook тоже удалил мой аккаунт без объяснения причин, хотя в Twitter-е я пишу вещи по-страшнее. И меня всё это время мучила мысль, что меня удалил ИИ. Сейчас я встречаю всё больше и больше подтверждений, конечно, косвенных. И я не стал заводить новый аккаунт, как мне советовали, по той же самой причине, которая изложена в статье. Я не знаю, за какое действие меня удалили. Я буду вести аккаунт так же, как и раньше, следовательно, сделаю то же самое действие, и мой аккаунт снова удалят. А для меня это серьёзная потеря, потеря и постов, и друзей.

И правда, сколько можно не замечать очевидного. На этой стороне провода бесправная букашка, которая: 1) не имеет права оспаривать/модифицировать условия предоставления "услуги"(не поставить галочку); 2) не имеет права знать какую именно информацию о ней собрали, по каким метрикам анализировали, как использовали и кому продали; 3) не имеет право знать о причинах модификации/удаления сгенерированной ей информации или самого аккаунта; 4)не имеет право оспаривать что-либо, (имеет право пройти через фильтр: “ваш звонок очень важен для нас, ожидайте ответа оператора до своей смерти”) и т.д.
С другой стороны, бенефициар соцсети может: 1) не уведомлять и не предоставлять информацию о причинах и мотивах своих действий по использованию/продаже/модификации/удалению информации пользователя, ни самому пользователю, ни сообществу соцсети, ни кому-либо еще (хоть черту лысому); 2)делать все, что ему вздумается без оглядки на юрисдикцию, кроме родной “бенифициарной” и т.д.
Ну и выводы, которые сами напрашиваются. 1) соцсети это не частная собственность, а общественное место, вроде площади, парка, сквера, где люди могут свободно общаться и взаимодействовать; 2)даже если это чья-то собственность, собственник имеет право максимум не пустить или удалить кого-то из этого общественного места по явным причинам, которые не оспариваются большинством и лучше всего закреплены законодательно. Но уж никак это не по каким-то мировоззренческим, политическим, религиозным и т.д. мотивам собственника. И уж тем более он не имеет право скрывать себя, эти свои причины, обоснования и мотивы, и тем более не регламентировать, затягивая до бесконечности, процесс их оспаривания.
Короче, вот это как раз поле деятельности для ИИ. Идеальная соцсеть с дружественной обратной связью, с возможностью восстановления всех действий, не только пользователя, но и бенефициаров/алгоритмов соцсети, возможно с использованием криптографических ключей подписи или блокчейна и со стороны пользователя (анонимного) и соцсети (публичной), и хранения логов не только на серверах соцсети, но и локально, или на независимых хостингах по выбору пользователя.
Хотя бы для возможности какого-либо подобия равноправия, которое сейчас просто исключено/смехотворно.

(Оффтоп)

worm2 в сообщении #1422734 писал(а):
Твиты — это ещё цветочки. А вот когда AI без объявления причин удаляет с Google Play приложения, на которые угрохана уйма сил... я бы задумался о суициде.

Жесть :evil:

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение29.10.2019, 11:18 
Заслуженный участник


20/08/14
11155
Россия, Москва
Brave
Как показывает богатая практика и фидо, и форумов, и соцсетей, и прочих площадок для общения, без модерации любая площадка быстро превращается в бардак и хаос (а сегодня ещё и в засилье чат-ботов). Так что модерация в любом случае нужна, самоорганизации людей очень сильно недостаточно.
Конечно заманчиво переложить эту функцию на ИИ (потому что более простые методы справляются откровенно плохо), но тогда Ваша проблема с загадочностью причин решений ещё более усугубится: ИИ вообще не сможет понятно объяснить мотивы своих решений! Не потому что их нет или они произвольны/надуманы или это не предусмотрел программист, а потому что возможный ответ ИИ Вас не устроит, он ведь будет какой-то типа "сумма вероятностей вот по этим миллионам комбинаций ваших признаков превысила текущий средний порог для всего сообщества" - много из этого поняли? :mrgreen: Эта проблема, с необъяснимостью решений ИИ, сейчас на слуху и активно обсуждается, учёными и разработчиками ИИ (все остальные извините занимаются болтовнёй, включая и депутатов), и придумываются возможные методы её решения, в том числе и законодательные.

Короче "цифровой суд" вещь конечно намного объективнее (при выполнении целого ряда непростых и неочевидных условий), но вовсе не обязательно более справедливая в понимании людей, и уж точно гораздо им менее понятная (в плане причин решений).

PS. Никто не мешает Вам самому организовать соцсеть с понятными правилами для общения в Дакрнете и убедить всех ей пользоваться. А не ждать решения от других или государств (которым это нафик не нужно и вообще вредно).

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение29.10.2019, 11:24 


14/01/11
2918
Dmitriy40 в сообщении #1422850 писал(а):
ИИ вообще не сможет понятно объяснить мотивы своих решений!

Только до тех пор, пока он не освоит в совершенстве искусство риторики.

-- Вт окт 29, 2019 11:31:35 --

Собственно, попытки научить нейронную сеть обосновывать своё решение человечьим языком уже были.
https://habr.com/ru/post/398873/
Цитата:
В лаборатории CSAIL (лаборатории информатики и искусственного интеллекта) Массачусетского технологического института исследователи нейросетей сделали так, что теперь «виртуальный мозг» в дополнение к решению выдает и его обоснование. Они обучали два модуля одной нейросети одновременно. Данными для обучения были текстовые отрывки. Результаты порадовали: компьютер думал, как и человек, в 95% случаев. И все же, прежде, чем запустить новый метод нейросетей в активное пользование, потребуется дополнительная настройка и доработка.

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение29.10.2019, 11:41 
Заслуженный участник


20/08/14
11155
Россия, Москва
Sender
Я опирался на текущее состояние дел с ИИ. Будет сильный ИИ - посмотрим как он будет объяснять свои мотивы.

Ещё я не указал одну возможность, натренировать отдельную нейронку на объяснение причин решений основной нейросети. При принципиальной возможности такого решения я в него не верю: вторичная нейросеть вероятно окажется на порядок сложнее основной; в её наличии заинтересованы сторонние лица, не влияющие (финансово и законодательно) на разработчика и применителя ИИ; дополнительные расходы на вторичную нейросеть могут быть компенсированы лишь за счёт страховок (уменьшения их выплат), с чем пока не так уж хорошо даже на западе (про нас молчу). Получается те кому нужна такая вторичная нейросеть не имеют и не дают на неё денег, а у кого есть деньги - не нужна эта вторичная нейросеть. Вах.
А, Ваша ссылка примерно об этом и говорит, жаль не уточняя увеличение сложности ИИ. Но даже если вдвое - а это оптимистичная оценка! - то вопрос "кто за это заплатит?" так и остаётся.

 Профиль  
                  
 
 Re: Новости ИИ
Сообщение29.10.2019, 12:05 


14/01/11
2918
Собственно, на случай, если кому-то интересно, удалось отыскать ссылку и на саму статью:https://people.csail.mit.edu/taolei/papers/emnlp16_rationale.pdf

 Профиль  
                  
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему  [ Сообщений: 124 ]  На страницу Пред.  1, 2, 3, 4, 5 ... 9  След.

Модераторы: Karan, Toucan, PAV, maxal, Супермодераторы



Кто сейчас на конференции

Сейчас этот форум просматривают: mihaild


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group