Зачем здесь регулярка?
str_replace(['*','x'],'R','2*10*30 2x10x30');
Регулярка будет выглядить так: /\*|x/
Если же, замена нужно только для конструкций из 3 чисел соединенных * или x, то можно написать так:
preg_filter('/(\d+)[*x](\d+)[*x](\d+)/', '${1}R${2}R${3}', '2*10*30 2x10x30')