В описании вызова
system:
"If command is not a null pointer, the value returned depends on the system and library implementations, but it is generally expected to be the status code returned by the called command, if supported."
Т.е. возвращаемое функцией значение зависит от реализации, но обычно это должен быть код возврата вызываемой команды.
Можете протестировать свою реализацию, вызывая с помощью система простейший батник:
Содержимое батника:
exit /b <код возврата>