Есть определенное количество точек на плоскости (пусть будет 10), по которым задана какая-то кривая.
............
Необходимо вычислить опорные точки для кривой Безье 3-го порядка, которая аппроксимирует данную кривую.
Вам нужно аппроксимировать точки или какую-то данную кривую? Если точки --- то зачем писать про кривую (и про какие-то непонятные производные)? Если кривую, и она действительно
"данная", то какая разница, было ли там 10 точек или 20?
Из этого делаем 2 вывода:
1) Вам нужно аппроксимировать

точек с помощью кубической кривой Безье, причём (это выводим уже из последующей дискуссии) в упрощённом варианте: начало и конец кривой совпадают с первой и последней из заданных точек.
2) Задача достаточно сложная, требует гораздо более приличного уровня владения математикой, нежели Вами проявленный.
Я так понимаю, сведения о кривых Безье Вы получили из какой-то книги или из Интеренту. Неужели в первоисточнике был написан такой ужас с звёздогчками???
Мне не раз хотелось чего-то подобного, но слишком лень браться за то решение, которое я ниже предложу. Описаний каких-либо других подходов к решению я в книжках не встречал. А самому видится только тупое решение. Хотя, со всякими там хитроумными модерновыми пакетами, типа Экселей (часто слышал такое слово, и напоминает волшебную палочку), может и это легко сделается.
У Вас два кубических уравнения-полинома

, коэффициенты которых содержат 4 неизвестных, координаты

и

искомых опорных точек. Исключив параметр, получим неявное уравнение кривой третьего порядка

, коэффициенты которой (при

) будут
нелинейными функциями четырёх неизвестных. Теперь МНК (нелинейный, естессно, но Экселю, надесь, по барабану): минимизируем

Возможно, нулевое приближение (для нелинейного МНК) легко отыщется подстановкой в уравнение кривой каких-либо двух промежуточных точек. Ну и в какой-то приличной системе координат, скажем, в такой, что

,

.
Весовые множители

следует поначалу принять равными единице. Я их упомянул с намёком на особо неленивых и вторую итерацию, в которой, получив приличное первое приближение кривой, можно подобрать весовые множители так, чтобы функционал был "более геометричным", т.е. чтобы "невязки"

были близки к истинному расстоянию от точки до кривой. Для определения

, как мне представляется, достаточно будет оценить что-то вроде кривизны кубики

в районе

-той точки.