мне нужно изменить цвет верхней границы с кнопками на свой, убрать кнопку "открыть в полный экран" и желательно это тонкое красное обрамление тоже убрать. Как это сделать?
Проще создать своё окно. Отключить FormBorderStyle (None). Повесить panel закрепить её вверу dock = top.
У panel повесить обработчики на MouseMove и при клике вызывать PostMessage c WM_SYSCOMMAND и DOMOVE.
Так же добавить возможность ресайза окна при MouseMove с кликом вызывать PostMessage с соответствующими параметрами.