То есть, переопределили section и аргументом ей передаём строку с украинскими буквами.
Подозреваю, что не это вызывает ошибку. Попробуйте убрать переопределение (или даже убрать саму команду, оставив только текст на украинском языке). Проблема остается?
Кроме того, такое переопределение некорректно. Команда
\section передает свои аргументы на выполнение другой команде. С таким грубым переопределением Вы, вероятно, «кашу» получите на выходе.
Для украинского языка нужна кодировка шрифта T2A, а не T1. Но здесь, возможно, вызов fontenc и вовсе не нужен: inputenc сам подберет нужную кодировку шрифта.
Нужен ли Вам utf8x? Или достаточно utf8?
Ошибка выпадает следующая: Malformed UTF8 sequence. При попытках манипулировать в преамбуле возникают новые ошибки вроде того, что данные символы хотя и законно существуют в UTF8, в ЛаТеХ не определены.
Предполагаю, что причина проблемы в том, что Ваш файл на самом деле не в кодировке UTF-8, а какой-то другой, например, windows-1251. Да, написано utf8, LaTeX верит, подключает необходимые инструменты, и вдруг вместо UTF-8 какой-то мусор! Потому что у меня Ваш пример обрабатывается без ошибок, если файл сохранить в кодировке UTF-8.
Проверьте, поддерживает ли Ваш текстовый редактор UTF-8 и попробуйте более простой пример. Если пойдет, то и Ваш пример должен.
\documentclass{article}
\usepackage[utf8]{inputenc}
\usepackage[ukrainian]{babel}
\begin{document}
Українська. English.
\end{document}
Если не поддерживает, замените в этом примере utf8 на cp1251 (если работаете в Windows, например), сохраните файл в соответствующей кодировке и попробуйте снова.