Ошибки данных в ИИ

[Serg53]

При передаче, хранении и обработке цифровых данных могут возникать искажения и ошибки. Причины этого могут быть разные – помехи при передаче сигналов, дефекты или старение носителей информации, неточные алгоритмы обработки данных и другие. Как это будет влиять на качество работы ИИ?

[sergey zhukov]

Очевидно, положительно будет влиять. Чем хуже, тем лучше. Сейчас ИИ "кормят" только самым лучшим случайным шумом, поэтому он так хорошо работает.

[Serg53]

sergey zhukov в сообщении #1689230 писал(а):

Сейчас ИИ "кормят" только самым лучшим случайным шумом

ИИ для своих вычислений используют огромные массивы данных. Какие последствия вызовет повреждение данных? Каким образом контролируется целостность этих массивов?

Возможны разные способы контроля данных, как аппаратные, так и программные. Например, контроль по паритету или чётности, формирование контрольных сумм, кодов Хемминга, резервное копирование данных, дублирование или даже троирование запоминающих устройств и другие. Однако следует заметить, что значительная часть современных электронно-вычислительных устройств не использует никаких способов проверки данных.

[Serg53]

Проверка данных требует аппаратных и программных затрат, дополнительного времени работы вычислительной системы. Учитывая огромные объёмы массивов данных, используемых ИИ для своих вычислений, потери производительности будут существенными. Если использовать ИИ для придумывания новых анекдотов, тогда да, наверное, ошибки в массивах данных вполне допустимы. Однако при решении серьёзных задач потребуется дублирование или троирование вычислительных комплексов и сравнение результатов их работы. Меня удивляет отсутствие желающих обсуждать организацию надёжной и достоверной работы вычислительных устройств. Более того, ощущается противодействие таким обсуждениям в виде создания помех при работе интернета. Это что, на современном этапе развития вычислительной техники считается очень умным?

[Booker48]

Serg53
Ну, приведите же какой-нибудь пример ненадёжной и недостоверной работы вычислительных устройств из-за отсутствия "дублирования или троирования вычислительных комплексов и сравнения результатов их работы".
Не воображаемый, сиречь взятый из глубин подсознания, а реальный.
С чего вы вообще решили, что надёжности цифровых систем не уделяется достаточно внимания?

[mihaild]

Serg53 в сообщении #1689465 писал(а):

Однако следует заметить, что значительная часть современных электронно-вычислительных устройств не использует никаких способов проверки данных

[citation needed]

Serg53 в сообщении #1695903 писал(а):

Однако при решении серьёзных задач потребуется дублирование или троирование вычислительных комплексов и сравнение результатов их работы

Это крайне неэффективный способ увеличения надежности.

[Mihaylo]

Serg53 в сообщении #1689227 писал(а):

При передаче, хранении и обработке цифровых данных могут возникать искажения и ошибки.

Данные изначально имеют ошибки и искажения (неверные суждения и опечатки). При обучении значительный вес имеют часто повторяющиеся паттерны, поэтому случайные выбросы не имеют значения.

[Serg53]

Booker48 в сообщении #1695907 писал(а):

приведите же какой-нибудь пример ненадёжной и недостоверной работы вычислительных устройств из-за отсутствия "дублирования или троирования вычислительных комплексов и сравнения результатов их работы".
Не воображаемый, сиречь взятый из глубин подсознания, а реальный.

Что лучше, предупреждать нежелательные процессы или констатировать свершившиеся факты? То, что компьютеры могут иногда сбоить, глючить, выходить на ошибки и отказы в работе не является секретом ни для кого. В лицензионных соглашениях обычно указывается, для каких целей может использоваться устройство. Изготовители не несут ответственности за прямой или косвенный ущерб, который может возникнуть при ошибочной работе или отказе программного устройства. Мне приходилось обслуживать управляющие вычислительные устройства, изготовленные уважаемыми иностранными фирмами, которые никак не проверяли достоверность хранения данных в своей памяти. А искажения в памяти изредка возникали. В лучшем случае это вызывало алгоритмическую ошибку и аварийную остановку выполняемой программы. В худшем, программа продолжала выполняться, но с искажениями, неправильными действиями. Это было на начальных этапах развития полупроводниковой памяти. Первые ПЗУ с ультрафиолетовым стиранием, которые были достаточно надёжны, но имели ограниченное гарантированное время хранения данных, и ПЗУ с электрическим стиранием, которые теряли "информацию" от мощных электромагнитных помех. Устройства внешней памяти на магнитных дисках с самого начала имели хороший контроль хранимых данных, хотя и здесь возможны были сбои и искажения при приёме или передаче данных. Мне неизвестно, как организованы хранение, контроль и проверка огромных массивов данных, используемых ИИ для своих вычислений. Надеюсь, что современные вычислительные устройства достаточно надёжно хранят свои данные. Тем не менее, и в этом случае, проверка и перепроверка результатов работы программного обеспечения не будет излишеством при решении важных задач.

[mihaild]

Serg53 в сообщении #1696810 писал(а):

Что лучше, предупреждать нежелательные процессы или констатировать свершившиеся факты?

Сильно зависит от контекста. Страховать велосипед при страховом взносе в две цены велосипеда, наверное, не стоит.

Serg53 в сообщении #1696810 писал(а):

То, что компьютеры могут иногда сбоить, глючить, выходить на ошибки и отказы в работе не является секретом ни для кого

Сравните частоту, с которой это происходит на практике из-за ошибок в коде и ошибок железа.

[Serg53]

mihaild в сообщении #1696814 писал(а):

Сравните частоту, с которой это происходит на практике из-за ошибок в коде и ошибок железа

Повреждение кодов (данных) возможно при электромагнитных помехах, перетоках электрических зарядов, повреждении структур элементов памяти, плохих контактах в разъёмах, дефектах в монтаже, фильтрующих элементах и других причинах. Поэтому можно утверждать, что искажения цифровых данных и отказы или ошибки в работе программных устройств это аппаратные проблемы и разделять их на кодовые и "железные" нет смысла. Это всё взаимосвязано.

[vicvolf]

Serg53 в сообщении #1698452 писал(а):

mihaild в сообщении #1696814 писал(а):

Сравните частоту, с которой это происходит на практике из-за ошибок в коде и ошибок железа

Повреждение кодов (данных) возможно при электромагнитных помехах, перетоках электрических зарядов, повреждении структур элементов памяти, плохих контактах в разъёмах, дефектах в монтаже, фильтрующих элементах и других причинах. Поэтому можно утверждать, что искажения цифровых данных и отказы или ошибки в работе программных устройств это аппаратные проблемы и разделять их на кодовые и "железные" нет смысла. Это всё взаимосвязано.

Надежность технических средств значительно выросла. Ошибки в данных в информационных системах, в основном связаны с работой человека. Этих ошибок всегда было на порядок больше, чем остальных. Например, при вводе данных. Наилучшим контролем таких ошибок был смысловой программный контроль. Как я понимаю, такой контроль при работе с ИИ всегда осуществляется. Мало того ИИ понимает информацию даже при наличии ошибок в данных, например грамматических ошибок.

[realeugene]

Serg53 в сообщении #1698452 писал(а):

Повреждение кодов (данных) возможно

"ошибки в коде" = ошибки в программах

[vicvolf]

realeugene в сообщении #1698512 писал(а):

"ошибки в коде" = ошибки в программах

Ошибки программиста - это вопрос создания любой программы и не является специфическим для ИИ.

[realeugene]

Serg53 в сообщении #1696810 писал(а):

которые никак не проверяли достоверность хранения данных в своей памяти

Это всегда было вопросом экономическим: добавлять ли контроль ошибок за счёт удорожания памяти? Современные флеши просто невозможны без использования очень сложных и эффективных кодов коррекции ошибок, поэтому, сейчас гораздо чаще происходит отказ считывания сектора, чем считываются ошибочные данные.

[Mihaylo]

Не знаю, про какие данные говорит топик-стартер. Пускай уточнит.
Есть обучающие данные - это данные, которые лежат в оцифрованных книгах, на сайтах, на стековерфлоу, на гитхабе, на реддите, на хабре, в телеграм-каналах, в вотсапе и т.д. В этих данных множество ошибок, элементарно - орфографических, не говорю о пунктуационных. Но между прочим, это не мешает быть не только ИИ, но и людям оставаться грамотными.