Там используются большие числа (1024 бита длиной), как можно проводить с ними действия?
https://ru.wikipedia.org/wiki/Длинная_арифметика (также английский термин arbitrary-precision arithmetic). Гуглить готовые библиотеки, реализующие arbitrary-precision arithmetic.
в примере используют p=48731
- это число умещается в 16 бит, но оно же умещается и в 1024 бита. Более того, числа 0 и 1 тоже умещаются в 1024 бита. :) Большие числа нужны для бОльшей крипто-стойкости. Для примера и для учебных целей достаточно и не очень больших чисел. Да, у препода лучше уточнить это. Если препод разрешит делать реализацию, например, на 32 бита, то и не придётся возиться с библиотеками длинной арифметики - для вас это будет экономия времени.