Если вам на практике - то неважно. Используйте готовую криптографию. Библиотеки есть на все популярные языки.
Если же вам для академических целей или интереса ради хочется самим написать какую-то криптографию, то лучше брать язык программирования, где есть удобная длинаая арифметика. Таким является, например, python. Код будет проще и понятнее. В Java можно было бы использовать BigInteger
, но им пользоваться неудобно (всякие конструкции вида a.Add(b).Blablabla(c).Blablabla(d)
). В C++ можно переопределить операторы для класса длинных чисел, но я не советую писать на C++, если это не ваш любимый уже язык программирования. В питон порог входа пониже.