При таком алгоритме значение R и B быстро выйдет за 255, а G станет меньше 0. Или они имели ввиду, что если больше 255, то цвет это остаток от деления на 255 - 1. Например, когда R станет 256, то это значит, что R = 0? Может кто понял что они хотят?Кто хоть раз работал с байтами - тот поймет)