Странность в том, что указанная последовательность целочисленная, следовательно 

 рациональное. Это Вам виднее, но на новизну претендовать тут не получится.
Я Вас не понял. Т.е. Вы считаете, что в формуле ошибка?
Вы можете в этом удостовериться сами, что 

 будет целым числом, к тому же доставляющим полные квадраты для 

.
Вот, например, код в maxima:
Код:
m(n,k):=(2*n+1+(sqrt(n^2+n-3/4)-n-1/2)^(2*k-1)+(-sqrt(n^2+n-3/4)-n-1/2)^(2*k-1))/(-4*n^2-4*n+3);
Код:
for k:1 thru 9 do print(expand(m(1,k)));
0 
3 
24 
168 
1155 
7920 
54288 
372099 
2550408
Код:
for k:1 thru 9 do print(expand(m(2,k)));
0 
5 
120 
2760 
63365 
1454640 
33393360 
766592645 
17598237480
Код:
for k:1 thru 9 do print(expand(m(3,k)));
0 
7
336
15792
741895
34853280
1637362272
76921173511
3613657792752
Код:
for k:1 thru 9 do print(expand(m(4,k)));
0 
9
720
56880
4492809
354875040
28030635360
2214065318409
174883129518960
и т.д.