Когда то давно делал приложение, убирающее рамку и изменяющее размер окна любого приложения под весь доступный десктоп минус панель.. никаких 'минус рамка' не было, ставил 0,0 и размер десктопа.
SetWindowLong(hWnd,GWL_STYLE,0);
SetWindowLong(hWnd,GWL_STYLE,WS_POPUP|WS_VISIBLE|WS_CLIPSIBLINGS|WS_OVERLAPPED);
SetWindowLong(hWnd,GWL_EXSTYLE,WS_EX_LEFT|WS_EX_LTRREADING|WS_EX_RIGHTSCROLLBAR|WS_EX_APPWINDOW);
SetWindowPos(hWnd,HWND_TOP,x,y,sx,sy,SWP_SHOWWINDOW);
Какой
стиль у окна сделали? там не должно быть ничего с border.
p.s. странно что у консольных окон (которые стоят в win32 особняком) так же реальные координаты на несколько пикселов левее и после максимизации оно автоматом уходит в минус