Вам нужно настроить таску, чтобы она смотрела на всю папку
sass
Таска
gulp.task('sass', function() {
gulp.src('/dev/sass/**/*.scss')
.pipe(sass())
.pipe(gulp.dest('место куда должно компилится'))
});
Watch
gulp.watch('/dev/sass/**/*.scss', ['sass']);
Настройки, конечно же подставьте свои.