Формула для центростремительного усорения правильная.
Просто у Вас система неинерциальная. Она вращается, то есть движется с ускорением.Вы почитайте про Закон Ньютона в неинерциальной системе, а сейчас не заморачивайтесь, а представьте, что тело прибито гвоздями к экватору. Из-за притяжения к центру Земли тело давит в его направлении на поверхность с силой
. Из-за вращения телу сообщается центростремительное ускорение, направленное тоже к центру Земли, которое соответствует силе, с которой гвоздь удерживает тело на поверхности. Но по третьему закону Ньютона тело действует на гвоздь, а через него на опору с силой, противоположной по направлению, направленной от центра, центробежной. Поэтому в формуле мы должны вычитать положительное
а из
g.