Как-то давно пользовался тулзой KeePass — все записи хранились в одном файлике *.key. Было очень просто таскать его с собой повсюду.
Можете придумать какой-то свой формат: KATEГОРИЯ | ОПИСАНИЕ | ЛОГИН | ПАРОЛЬ. Хранить все в файле и шифровать его AES/Blowfish etc. Это самый простой способ.
Можно рассмотреть вариант с БД. Но так как вы пишете для себя и просто из интереса, думаю это излишне.