Вы опасно некомпетентны в криптографии
так что вариант один - "пользоваться уже готовыми алгоритмами", например AES, Blowfish или наш ГОСТ28147-89. :)
А если по-честному и без стеба, то вероятнее всего "слабым звеном" будет не алгоритм шифрования, а реализация в Вашем проекте криптосхемы (алгоритмов распределения ключей, механизмов аутентификации и т.д.). Можно легко отстрелить себе ногу (и Вы ее непременно отстрелите), как при проектировании архитектуры, так и при ее реализации в коде. Подводных камней - масса. В одиночку и без опыта надежную систему такого уровня создать не реально, поэтому в практическом плане Ваш проект абсолютно бесполезен и использовать его для сокрытия секретов от органов госбезопасности едва ли кто-то осмелится...
Однако, в качестве самообразования можно и нужно попробовать. Например, попробуйте реализовать тот же ГОСТ 28147-89. А дальше уже можно пытаться спрятать фотку своей голой подружки. Или друга :)