Ocelot

Double DES ломается встречей посередине.

Преобразовывать символ в unsigned char, перед тем как делать сдвиг. Левый сдвиг знаковой переменной — это undefined behavior.

Например, у меня d = 182179

Откуда?

d вычисляется как число, обратное e по модулю Ф(n). Гуглите расширенный алгоритм Евклида.

Разновидность атаки Meet-in-The-Middle, применимая к асимметричной криптографии, называется "Baby-step, Giant-step", но она годится для систем на дискретных логарифмах, а не для RSA.

Раз пользователь вводит руками, поток данных совсем небольшой. Используйте одноразовые ключи (шифр Вернама). Четырехмегабайтной флешки хватит на миллион блоков. Это два года непрерывной работы, если вводить данные раз в минуту.

1) Для каждого сеанса обмена сообщениями генерируется случайный сеансовый ключ.
2) Сеансовый ключ передается в зашифрованном виде при помощи RSA 512/1024/2048
3) В дальнейшем сообщения шифруются симметричным алгоритмом (AES 128/256, Twofish, Serpent, IDEA) при помощи сеансового ключа.
Плюсы:
+ размер ключа для симетричных алгоритмов меньше при сравнимой криптостойкости
+ размер блока (а значит, минимальный размер сообщения) составляет 128-256 бит
+ симметричные алгоритмы работают гораздо быстрее
Минусы:
— нужно предварительно генерировать и передавать сеансовые ключи
— нужно следить за сроком действия и актуальностью сеансовых ключей