Истинные вероятности или одинаковы или не одинаковы. Непопадание нуля в интервал с уровнем доверия 0,95 означает, что наблюдаемые доли различаются настолько значимо, что критерий, который всего лишь в пяти процентах случаев видит различие там, где его нет, различие заметил.
Вам следует с самого начала понять устройство критериев согласия: Вы не понимаете, откуда они берутся, вот и все проблемы. Общую теорию лень писать, да и написано уже всюду, поэтому на данном примере.
Есть две независимые выборки с объёмами
и
из распределений Бернулли с параметрами
и
(вероятностями успеха). Требуется проверить гипотезу
при альтернативе
. По выборкам посчитаны количества успехов
и
и частоты
и
.
Поскольку по закону больших чисел частота
(и
) с ростом
(соответственно,
) приближается в любом вероятностном смысле к своей вероятности успеха
(соответственно,
), то существенная разница между
и
свидетельствует в пользу альтернативы.
Возникает вопрос: что есть
существенная разница? Заранее зададимся числом
таким, что событие вероятности
или меньшей считается
маловероятным. Предположим, что мы нашли такую границу
, что при верной основной гипотезе (при равных вероятностях) очень маловероятно будет увидеть разницу частот, превышающую
. Иначе говоря, хотим, чтобы
.
Осталось найти такую границу. Для этого следует данную вероятность свести к какому-то известному распределению. Разницу
можно нормировать и центрировать, получив, что распределение дроби
при больших
и
близко к стандартному нормальному. Поэтому можно взять такую точку
, что
, где
имеет стандартное нормальное распределение. Если рассматривать эту дробь при верной основной гипотезе
, то разность вероятностей из числителя уходит.
Таким образом, можно считать, что при верной основной гипотезе событие
имеет вероятность (близкую к)
и означает, что разница частот значительна. Это как раз событие, означающее, что
Или что ноль (
) не попадает в Ваш доверительный интервал, если в его терминах рассуждать.