Если вам надо на практике с такими штуками работать, то проще всего взять готовую CAS и разобраться в документации. Наверняка где-то в Sage есть нужные алгоритмы.
Я в компьютерной алгебре плохо разбираюсь, но если программировать самому, то по идее нужен целый набор алгоритмов. Зафиксируем основное поле, скажем,
. Будем считать, что
, иначе добавляются детали из-за несепарабельности. Во-первых, надо как-то конструктивно представлять элементы его алгебраического замыкания
(например, как пару из аннулирующего многочлена и приближения из
). Во-вторых, надо уметь решать задачи линейной алгебры в
как векторном пространстве над
, тут вроде всё упирается в проверку линейной зависимости. В-третьих, надо уметь работать с конечными группами, для многочленов 6 степени - с подгруппами
(это можно и руками, конечно).
Проверка на разрешимость в радикалах может быть устроена так. Сначала ищем корни вашего многочлена
в
. Потом находим минимальные многочлены корней с помощью проверки степеней корней на линейную зависимость, тем самым
раскладывается на неприводимые многочлены. Дальше можно считать, что
неприводим. Находим базис поля разложения
, состоящий из степеней каких-то корней
. Для каждой перестановки корней проверяем, продолжается ли она до автоморфизма поля разложения. Те, которые продолжаются, и образуют группу Галуа, которую остаётся проверить на разрешимость.
По литературе есть Постников, Теория Галуа. Но тут ведь кроме собственно теории Галуа ещё компьютерная алгебра и теория групп...