В virtualbox очень кривая поддержка ускорения графики. Если ваша программа использует OpenGL или DirectX то могут быть любые баги при отображении.
Как вариант попробуйте в настройках дисплея виртуальной машины поменять тип контроллера дисплея, и повключать/выключать галочку ускорения. Возможно в одном из режимов заработает. Только смена контроллера, скорее всего, означает переустановку виртуальной винды.