Брр, неудачное обозначение для фундаментальной матрицы, если система неавтономна. Широко распространено обозначение

для фундаментальной матрицы:

,

. Тогда запутаться будет трудно. Как Вы запишите решение задачи Коши в таких обозначениях?
Да и в чём трудность проверить эту формулу? Её вывести-то можно за две строчки. Сделайте замену

, подставьте в исходное уравнение. Там будет видно, каким образом выбрать

чтобы всё хорошо получилось.