Имхо, если бы это можно было делать скриптом - это была бы большая дыра в безопасности IE.
PS. Оказывается можно через редактирование реестра (с правами админимтратора)
Данное окно скорее всего сделано на Qt. Но, на WinAPI тоже можно такое сделать. Делаете окно без рамки и отрисовываете внутри нужный bitmap. Пример Borderless Window