Дополню немного:
В файловой системе GUIDы не используются.
GUIDы появились в винде вместе с технологией COM, собственно в ней они и применялись изначально. Сейчас на COM работает весь .Net, так что GUIDы актуальны. Все COM объекты имеют свой уникальный GUID для идентификации.
Гуиды используются в реестре в хитрых папках настроек, в описании папок что бы показывать значки, в драйверах, там правда все запутанней, в ярлыках это наверное самое бесящее