Психанул и снес свои ответы не отмечающим решения…
Давайте угадаю: вы пытаетесь запустить 64-битный defrag в 64-битной ОС из 32-битного приложения? It is not recognized as an internal or external command operable program or batch file. :-)
И зачем вы используете system? CreateProcess вас чем не устраивает? Почитайте всё же доку в MSDN по system, там как бы намекают для чего используется и как.