Самая большая тупость разработчика — хранить настройки в одной папке с программой.
msdn.microsoft.com/ru-ru/library/system.environment.specialfolder.aspx
Хранить настройки надо либо здесь Environment.SpecialFolder.ApplicationData либо здесь Environment.SpecialFolder.LocalApplicationData
Эквиваленты в привычном виде вроде:
c:\Users\\AppData\Roaming\ и
c:\Users\\AppData\Local\
