может ли повлиять на работу программы расположение идентификаторов
Мне не удалось найти информацию о требованиях к lifetime указанных переменных в документации на WinAPI. Хорошей идеей может оказаться изменение
char ClassName[]="Window";
char AppTitle[]="Application Win32";
на
const char* ClassName="Window";
const char* AppTitle="Application Win32";
- тогда содержимое строк попадает в статическую область памяти, а не в область переменных с automatic storage duration (обычно стек), но это, скорее всего, окажется малозаметной оптимизацией, а не исправит баг.
Оказалось, что все видимые функции MEX-файла размещаются по адресам 0x000007fdb
А это похоже на то, что MATLAB решил выгрузить DLL с кодом, который необходим для отрисовки окна. Если жизненно необходимо держать код именно в таком виде,
а не рисовать интерфейс средствами Matlab, можно попробовать вынести требуемый для GUI код в отдельную библиотеку и подгружать её при помощи
LoadLibrary(). Простого способа потом её выгрузить я сейчас предложить не могу, так что это может значить утечку одной
HMODULE. Но здесь я могу ошибаться с большой вероятностью.