Часть после решетки некогда служила ссылкой на определенную часть страницы. На Хабре это до сих пор так — нажмите на ссылку с числом комментов под топиком. Если в коде страницы есть тэг
<a name="comments" …/>
, то при открытии адреса, заканчивающегося на #comments, браузер прокрутит страницу к этой ссылке.
Клиентские скрипты могут отслеживать появление и изменение этой части в адресе, и предпринимать действия, основанные на ее содержании. Простейшее применение — AJAX-навигация. Без таких адресов невоможно дать ссылку на определенную внутреннюю страницу. Кроме того, с таким ухищрением работают кнопки назад/вперед в браузере.
Как верно замечено выше, уже существует механизм, позволяющий обходиться без этого, но он, увы, не везде работает.