"Об интерфейсе" Алана Купера, пожалуй, одна из важнейших книг в этой области. На русском языке издавалась неоднократно.
Есть интересный
проект Якуба Линовски, периодически дополняемый. Несмотря на английский язык, смысл каждой рекомендации понятен.
Из программ по проектированию интерфейсов могу привести Balsamiq Mockup, Axure и OmniGraffle. Лично я пользуюсь последней.