Я только вещественную арифметику в СКА Maple использовал (с целочисленной не разбирался). Пока знатоки целочисленной арифметики не пришли, я частично отвечу.
В разных версиях имеются существенные различия. Для 9-ой легко нагуглить в сети руководство (я с 9-ой версией вообще не работал) в котором есть нужный раздел:
Maple 9 Advanced Programming Guide: 6.2 External Calling: Using Compiled Code in Maple
(Это на тот случай, если справки не хватает.)
1. Грубо говоря, возможно два варианта.
Первый: типы аргументов и возвращаемого значения достаточно просты (нет необходимости создания интерфейсной DLL). Пользовательскую DLL можно писать на чём угодно, лишь бы тип вызова был «стандартный С».
Второй: типы более сложные и требуется специальная интерфейсная функция (для преобразования переменных), помещаемая в DLL (Wrapper). В этом случае Maple вызывает интерфейсную функцию, а затем интерфейсная функция вызывает функцию Вашей библиотеки. Для автоматической генерации этой функции (запуска компилятора для создания этой DLL-обертки) разработчиками рекомендуется MS VC. [При установке бывают баги, поэтому для автоматической генерации интерфейсной функции необходимо самому изменить директории или внести изменения в настройки Maple.]
Если говорить о скорости вычислений (напомню, что с целочисленными вещами я не работал). Будете писать asm-функции или asm-блоки, то всё будет определяться не компилятором, а знанием «современного ассемблера».
2. Не знаю. Обычно пишут консольное и dll. Когда заработает, тестят в Maple. После этого функции вставляют в консольное и оптимизируют (без всякой DLL). После, опять переносят функции из консольного в dll и тестят вызова в Maple. Что ещё тут может понадобиться?
3. Да, можно.
4. Обычно в руководствах по Maple рассматривают в качестве примера сложение двух целых чисел. И в качестве примера создания DLL на C по сути то же:
Пошаговое руководство. Создание и использование библиотеки DLL (C++).
[В общем, я бы быстро накатал простое консольное и dll, и после проверил вызова функций dll из Maple, а уже затем писал в теме конкретные затруднения. А то воскресенье закончится и наступит рабочая неделя. И, очень может быть, ждать ответа придётся 6 дней. :)]
По сути темы: Maple глючный и медленный на многих задачах. Я бы, по возможности, попробовал рассмотреть другие варианты. Будем надеяться, эти варианты Вам подскажут.