Если изображение было загружено через медиа-библиотеку, и размеры были сгенерированы самим WP, то при удалении из медиа-библиотеки удаляется оригинал, все размеры, и запись из БД (post type attachment). Единственное место, откуда не будет удалено - это post content. Если вы вставляли картинку в какой-то пост или страницу, то ссылка на изображение в контенте останется.
Если у вас этого не происходит, то либо проблема с правами (впрочем, WP ругался бы, если мне память не изменяет), либо какой-то говноплагин вмешивается. Так быть не должно.
