Если вы говорите об использовании схемы data:uri , то вопрос тут не в "корректности", а в производительности, а также том, для чего вообще вы это делаете.
Собственно, вероятность того, что это не будет работать, определяется а) поддержкой data:uri самим browser-ом
caniuse.com/#feat=datauri и б) поддержкой SVG
caniuse.com/#feat=svg
Вопрос "где хранится" - непонятен. Если вы уже вставили закодированную картинку в CSS или HTML, то там она и хранится.
Имейте в виду, что если вы не предъявляете каких-то специальных требований к работе страниц, лучше не использовать это, потому что оно только сильнее все тормозит.
Специальные требования могут включать в себя полную переносимость страницы (т.е. отсутствие внешних ссылок, когда абсолютно все, от самого HTML до скриптов, стилей и картинок, хранится в одном файле), какие-то особые условия, связанные с HTTP-запросами (экзотические настройки сервера, который отдает один запрос одному клиенту, но по широкому каналу, например) и так далее. Иногда это можно использовать для каких-то совсем маленьких элементов, когда есть риск, что сервер отдаст их последними, а без них рушится все отображение.
Я эти фокусы использовал в свое время только для формирования бланков, которые пользователь мог бы сохранять и смотреть оффлайн. Некая замена PDF.
