Любые адаптивные алгоритмы ищут модель лишь в некотором классе моделей. Нейросети не исключение.
Да. Подавляющее большинство реальных задач решаются. Только, говоря об алгоритме нейросети, нужно различать либо весь класс алгоритмов нейросетей, либо конкретный алгоритм нейросети с определёнными или неопределёнными параметрами (числом слоёв, весами, разрядностью сигналов и т.д.).
Или обязательным критерием наличия ИИ должно быть, чтобы не было понятно, как оно работает?
Вы говорите про неопределённость алгоритма, а я - про неопределённость задачи. Алгоритм вполне понятный, формализованный, ничего необычного. Если непонятно, как алгоритму удаётся решать задачи, это уже проблема конкретного индивида.
Просто вы ожидаете услышать некоторое объяснение на уровне слесаря-автомеханика, а везде в учебниках объясняется на примере ириса Фишера, задачи XOR и т.д.