Научный форум dxdy

Математика, Физика, Computer Science, Machine Learning, LaTeX, Механика и Техника, Химия,
Биология и Медицина, Экономика и Финансовая Математика, Гуманитарные науки




На страницу Пред.  1, 2, 3
 Re: Часто ли ИИ формирует ложные сообщения?
Booker48 в сообщении #1736716 писал(а):
Не все ИИ одинаково полезны.

Зачем создают и применяют бесполезные?

Вопрос к ИИ: используют ли ИИ в мошеннических схемах?
Ответ ИИ: Да, мошенники активно используют искусственный интеллект и нейросети для создания более убедительных и масштабных схем обмана.

Вопрос к ИИ: можно ли найти текст классического перевода цитаты Томаса Даннинга о поведении капитала в зависимости от нормы прибыли (которую Карл Маркс приводит в первом томе «Капитала»)?
Ответ ИИ: Капитал боится отсутствия прибыли или слишком маленькой прибыли, как природа боится пустоты. Но раз имеется в наличии достаточная прибыль, капитал становится смелым. Обеспечьте 10 процентов, и капитал согласен на всякое применение, при 20 процентах он становится оживлённым, при 50 процентах положительно готов сломать себе голову, при 100 процентах он попирает все человеческие законы, при 300 процентах нет такого преступления, на которое он не рискнул бы, хотя бы под страхом виселицы.

 Re: Часто ли ИИ формирует ложные сообщения?
Аватара пользователя
Serg53 в сообщении #1736915 писал(а):
Зачем создают и применяют бесполезные?
Создать по-настоящему умный ИИ - очень непростое и очень дорогое дело. У кого-то получается лучше, у кого-то хуже. Бесплатные версии часто создаются как демонстрационный вариант: хотите, чтобы было полезнее - платите денежку. Если какой-то ИИ не справляется со сложными задачами, он может зато неплохо, и при этом дешевле, справляться с чем-нибудь попроще. А зачем кто какие ИИ применяет - это надо спрашивать тех, кто применяет.
Serg53 в сообщении #1736915 писал(а):
Вопрос к ИИ: используют ли ИИ в мошеннических схемах?
Ответ ИИ: Да, мошенники активно используют искусственный интеллект и нейросети для создания более убедительных и масштабных схем обмана.

Вопрос к ИИ: можно ли найти текст классического перевода цитаты Томаса Даннинга о поведении капитала в зависимости от нормы прибыли (которую Карл Маркс приводит в первом томе «Капитала»)?
Ответ ИИ: Капитал боится отсутствия прибыли или слишком маленькой прибыли, как природа боится пустоты.
Зачем Вы это всё сюда постите?

 Re: Часто ли ИИ формирует ложные сообщения?
Mikhail_K в сообщении #1736916 писал(а):
Зачем Вы это всё сюда постите?

Для тестирования ИИ.

 Re: Часто ли ИИ формирует ложные сообщения?
Аватара пользователя
Serg53 в сообщении #1736917 писал(а):
Для тестирования ИИ.
И каковы результаты тестирования?
Тестирование могло бы иметь смысл, если бы: 1) указывалась конкретная, широко используемая модель ИИ, которая тестируется; 2) в результате тестирования получились какие-нибудь неочевидные выводы, результаты, представляющие интерес.
А позадавать вопросы к ИИ все могут, да все уже и позадавали, что кому было интересно. Читать ответы безымянного ИИ на вопросы, которые интересуют конкретно Вас, вряд ли кто-нибудь будет.

 Re: Часто ли ИИ формирует ложные сообщения?
Serg53 в сообщении #1736917 писал(а):
Для тестирования ИИ.


Обратите внимание на следующие пункты правил форума:

Forum Administration в сообщении #27358 писал(а):
6. Использование искусственного интеллекта

6.1. Если участник опубликовал текст, сгенерированный искусственным интеллектом (ИИ), то за исключениями, оговоренными в п. 6.2, участник соглашается с тем, что понимает каждое опубликованное им высказывание искусственного интеллекта и согласен с ним. Вне тем, оговоренных в п. 6.2, публикация содержащих фактические ошибки текстов, сгенерированных ИИ, в том числе ошибочного решения им открытых научных проблем, приравнивается к распространению лженауки.

6.2. Пункт 6.1 не применяется:
- к темам, специально посвященным тестированию ИИ (далее – темы-тесты);

...

6.4. Тема-тест должна быть размещена в разделе «Искусственный интеллект и Машинное обучение» .
На форуме уже есть несколько тем-тестов. Для тестирования на математических задачах подходит тема «Проверка способности LLM решать математические задачи». Для проверки способности к стихотворчеству - «ИИ и стихосложение». Для всего остального - тема «Тестирование возможностей генеративных языковых моделей». Если Вы хотите создать еще одну тему-тест, то создайте ее в разделе «Искусственный интеллект и Машинное обучение» и укажите тематику вопросов, на которых Вы будете тестировать ИИ. Если вопросы самые разные, без конкретной тематики, то пользуйтесь темой «Тестирование возможностей генеративных языковых моделей».

Также соглашусь с этим:
Mikhail_K в сообщении #1736918 писал(а):
Тестирование могло бы иметь смысл, если бы: 1) указывалась конкретная, широко используемая модель ИИ, которая тестируется; 2) в результате тестирования получились какие-нибудь неочевидные выводы, результаты, представляющие интерес.
Пока непонятно, какой ИИ Вы спрашиваете и какие выводы можно сделать из ответов, кроме тривиального "иногда ИИ ошибается".

 Re: Часто ли ИИ формирует ложные сообщения?
Вопрос к ИИ: какой ИИ здесь отвечает на вопросы?
Ответ ИИ: Здесь на ваши вопросы отвечает искусственный интеллект от Google.

Вопрос к ИИ: имеет ли этот ИИ своё имя, тип, марку?
Ответ ИИ: Да, этот искусственный интеллект имеет четкие идентификаторы:
- Имя: Gemini. Ранее проект развивался под названием Bard.
- Тип: Мультимодальная большая языковая модель (LLM). Термин «мультимодальная» означает, что ИИ с самого начала спроектирован так, чтобы одновременно понимать и комбинировать разные типы информации: текст, программный код, изображения, аудио и видео.
- Марка (разработчик): Google (а именно подразделение Google DeepMind).
Актуальное семейство моделей включает в себя различные версии, оптимизированные под разные задачи — от работы на мобильных устройствах до сложных инженерных вычислений (например, новейшие версии серии Gemini 4).

Прошу меня извинить за, возможно, не совсем корректные вопросы. Тем не менее хотелось бы углубить анализ цитаты Томаса Даннинга.

Вопрос к ИИ: Как можно прокомментировать перевод цитаты Томаса Даннинга о поведении капитала в зависимости от нормы прибыли? – «Капитал боится отсутствия прибыли или слишком маленькой прибыли, как природа боится пустоты. Но раз имеется в наличии достаточная прибыль, капитал становится смелым. Обеспечьте 10 процентов, и капитал согласен на всякое применение, при 20 процентах он становится оживлённым, при 50 процентах положительно готов сломать себе голову, при 100 процентах он попирает все человеческие законы, при 300 процентах нет такого преступления, на которое он не рискнул бы, хотя бы под страхом виселицы». Являлось ли это утверждение Томаса Даннинга справедливым для его времени и является ли это утверждение справедливым для 21 века?
Ответ ИИ: Цитата принадлежит британскому профсоюзному деятелю и публицисту Томасу Джозефу Даннингу из его работы «Trade's Unions and Strikes: Their Philosophy and Intention» (1860 год) и стала широко известной благодаря тому, что её процитировал Карл Маркс в первом томе «Капитала».

Комментарий к цитате и её смыслу:
- Природа метафоры: Даннинг использует образ схоластики (horror vacui — «природа боится пустоты»), чтобы показать внутренний импульс капитала: он не может находиться в состоянии покоя, если не растет.
- Шкала жадности и риска: Даннинг выстраивает ступенчатую градацию зависимости между уровнем доходности (от 10% до 300%) и готовностью предпринимателя или владельца капитала переступать через нормы морали, правила и законы.
- Исторический контекст автора: Даннинг написал это в разгар промышленной революции в Великобритании, когда перед глазами были примеры сверхприбыльной колониальной торговли, контрабанды, работорговли и чудовищной эксплуатации рабочих на фабриках (безопасность труда практически отсутствовала, детский труд поощрялся).

Справедливо ли это утверждение для его времени (XIX век)? Да, исторически оно было весьма точным. Середина XIX века являлась эпохой дикого, нерегулируемого капитализма. Примеры: Торговля опиумом в Китае (доведенная до двух опиумных войн ради сохранения сверхдоходов британских компаний), работорговля (которая сохранялась или велась полулегально, несмотря на запреты), жесточайшие подавления стачек и игнорирование элементарных условий труда ради увеличения рентабельности. Особенность процентов: В XIX веке нормы прибыли в 20–50% и выше в колониальных предприятиях, при освоении новых рынков или криминальных/полукриминальных схемах (контрабанда) были вполне реальными, а не абстрактными цифрами.

Справедливо ли это утверждение для XXI века? Суть осталась неизменной, но формы изменились. Капитал по-прежнему стремится туда, где выше доходность, и готов идти на огромные риски, нарушения этики и закона. Что изменилось в XXI веке:
- Регулирование и комплаенс: Появились транснациональные институты, налоговый контроль, экологические и трудовые стандарты. Сегодня капитал чаще действует не через прямое нарушение уголовного кодекса (виселица из цитаты Даннинга), а через «серые зоны» регулирования, офшоры, лоббизм, сокрытие экологического ущерба или эксплуатацию труда в странах Третьего мира.
- Цифровой и финансовый капитал: В XXI веке сверхприбыли (сотни процентов годовых) чаще возникают не в физическом производстве с риском «сломать голову», а в сфере высоких технологий, криптовалют, финансовых спекуляций, картельных сговоров или монопольного положения цифровых гигантов.
- Преступления белых воротничков: Вместо риска быть повешенным современный крупный капитал при погоне за сверхдоходностью рискует штрафами, которые закладываются в бизнес-модель как издержки, либо репутационными потерями, которые не всегда останавливают погоню за прибылью (например, скандалы с загрязнением среды, утечками данных или эксплуатацией дешевой рабочей силы в Азии и Африке).

Если у форумчан имеются свои мнения по этому вопросу, то, пожалуйста, публикуйте.

 Re: Часто ли ИИ формирует ложные сообщения?
Serg53 в сообщении #1737121 писал(а):
Если у форумчан имеются свои мнения по этому вопросу, то, пожалуйста, публикуйте.
По какому вопросу? По тому, который вынесен в название темы - "Часто ли ИИ формирует ложные сообщения?", да?
Мое мнение всё то же, что и раньше: иногда формирует, но довольно редко. Жить можно.

 Posted automatically
 i  Тема перемещена из форума «Свободный полёт» в форум «Искусственный интеллект и Машинное обучение»
Причина переноса: чтобы тема формально соответствовала критерию темы-теста из пункта правил 6.4.

 Re: Часто ли ИИ формирует ложные сообщения?
rockclimber в сообщении #1737123 писал(а):
"Часто ли ИИ формирует ложные сообщения?", да?
Мое мнение всё то же, что и раньше: иногда формирует, но довольно редко.

Мне непонятно, почему иногда возникают арифметические ошибки у ИИ при цифровой калькуляции?

 Re: Часто ли ИИ формирует ложные сообщения?
Аватара пользователя
Serg53 в сообщении #1737131 писал(а):
Мне непонятно, почему иногда возникают арифметические ошибки у ИИ при цифровой калькуляции?
Хороший ИИ не будет ничего сколько-нибудь сложное считать в уме, а использует код (т.е., фактически, внешний калькулятор). И, соответственно, не ошибётся.
Serg53 в сообщении #1737121 писал(а):
Вопрос к ИИ: какой ИИ здесь отвечает на вопросы?
Ответ ИИ: Здесь на ваши вопросы отвечает искусственный интеллект от Google.
Вопрос к ИИ: имеет ли этот ИИ своё имя, тип, марку?
ИИ не всегда правильно знает собственную версию. Ему могли просто не сообщить эту информацию. Поэтому лучше не спрашивать этот вопрос у ИИ, а указать название сайта или ресурса, которым Вы пользуетесь, и конкретную модель (а также её уровень рассуждения), если на этом сайте есть выбор модели.
Правильно ли я понимаю, что Вы используете "Режим ИИ" на сайте google.com?
Это довольно слабая модель - вот она и ошибается регулярно. От бесплатных моделей вообще не стоит ожидать слишком много.

 Re: Часто ли ИИ формирует ложные сообщения?
А что? ИИ научился адекватно считать количество символов в строке или правила игры уже изменились?

 Re: Часто ли ИИ формирует ложные сообщения?
Serg53 в сообщении #1737131 писал(а):
rockclimber в сообщении #1737123 писал(а):
"Часто ли ИИ формирует ложные сообщения?", да?
Мое мнение всё то же, что и раньше: иногда формирует, но довольно редко.

Мне непонятно, почему иногда возникают арифметические ошибки у ИИ при цифровой калькуляции?


Там может быть несколько причин
В том числе - делается сознательно, чтобы показать, что ии-шечка "тоже" ошибается

 [ Сообщений: 42 ]  На страницу Пред.  1, 2, 3


Соглашение о конфиденциальности | Общие правила

Powered by phpBB © 2000, 2002, 2005, 2007 phpBB Group