Iwan

Для каждой точки каждого канала RGB:

dst  = (foreground*transparency + background*(255 - transparency))/255;

Здесь предполагается, что у нас 1 байт на канал. Прозрачность может быть как одинаковой для всего изображения, так и меняться от точки к точке.

Школьная же задача. Одна сторона прямоугольного треугольника - 100%, вторая - дельта (разность) между значением цвета картинки и цвета наложения. Отмеряем нужный процент, проводим перпендикуляр к процентной стороне до пересечения с гипотенузой, определяем его высоту, меняем значение цвета на эту величину.
Дельта / 100% = Величина изменения / Нужный процент.
Величина изменения = Дельта * Нужный процент / 100%.

Самая простая формула в Вашем случае :
R = front_R * 0.7 + back_R * 0.3
G = front_G * 0.7 + back_G * 0.3
B = front_B * 0.7 + back_B * 0.3

Есть более сложные алгоритмы