Попробую объяснить на пальцах. Предположим, вы верстаете макет. Смотрите на результат в своем любимом браузере — все отлично. Открываете в IE — вот черт! Центральным блок съехал на 15 пикселей влево! В таком случае разумно воспользоваться условным комментарием и вернуть для IE блок на место.
Другой случай — вы верстаете и в процессе пользуетесь прозрачностью. Большинство браузеров поймут селектор opacity, но для IE придется использовать filter: alpha. И этот «ИЕшный» селектор вы можете написать и в основном файле стилей — на отображение страницы в других браузерах он не повлияет. В таком случае условный комментарий излишен.
Все примеры вымышлены :)