Для полноты процитирую документацию к пакету gost, которую в TeXLive из командной строки можно вызвать командой
texdoc gost (в дистрибутиве MikTeX тоже есть аналог):
Цитата:
To compile list of references from your database use bibtex8.exe rather than bibtex.exe.
Depending on the codepage of your bibliographic database, indicate one of the CS files listed
above as option to bibtex8.exe. Run LaTeX, then run bibTeX8 and LaTeX again:
Код:
latex <filename>.tex
bibtex8 -B -c <csf_file>.csf <filename>.aux
latex <filename>.tex
Соответственно, правка для TeXStudio в
Параметры > Конфигурация TeXStudio > Команды для документов в кодировке utf8:
Код:
bibtex8.exe -B -c utf8cyrillic.csf %