Пожалуй соглашусь и добавлю, что по моим понятиям "онтологической" прослеживаемости не бывает, ибо она про "объективную реальность", коя является вариантом чайника Рассела - можно воображать себе о ней что угодно, но из живущих её никто не видел.
Я бы не хотел погружаться в философию. Я отстаиваю более простой тезис: любой баг можно найти, приложив достаточно усилий. С тем, что "достаточно" может означать "слишком много, чтобы кто-то это сделал на практике", я и не думал спорить. Хотя, наверное, в коммерческом программировании такие ситуации действительно возникают чаще, чем я думал. Программы нынче очень сложные, что ж делать. Другое дело, что некоторые приведенные примеры мне не понравились, и я их оспорил.
Вы подразумеваете нечто, отличное от понятия "алгоритм".
Отнюдь. Я пользуюсь определением алгоритма в самом строгом смысле: машина Тьюринга и эквивалентные ей формализмы.
массива внешних для алгоритма данных - таблицы с коэффициентами
Вы подразумеваете синаптические веса? Насколько я знаю, после завершения обучения нейросети они уже не меняются. А значит, их можно рассматривать не как входные данные, а как часть алгоритма. Хотя для программиста это, конечно, не вбитые в код константы.
Впрочем, можно и не рассматривать. Говоря, что алгоритм работы обученной нейросети слишком сложен для понимания человеком, я подразумевал нечто иное. Разумеется, человек понимает, что такое сложить сигнал с некоторыми весами и передать результат в функцию активации, и прочие вещи в таком духе. Чего он не понимает, так это как подобные действия приводят к результату. На какие признаки опирается нейросеть, отличая котиков от песиков? Почему для вычисления этих признаков нужна именно такая топология сети, именно такие синаптические веса? А черт его знает. Даже если у нас есть вычисленные вектора признаков, в человеческом языке нет названий для этих признаков, нет стоящих за названиями понятий, нет взаимосвязей между понятиями. Нейросеть записывает свои знания на языке, недоступном человеку. Как недавно сказал один умный человек, математики не отвечают на вопрос "зачем", а разработчики нейросетей - на вопрос "почему".