Во вкладке "Каналы" вы видите 3 составляющие всех слоев документа сразу, а параметры наложения - это параметры конкретного слоя. Вы можете выбрать, какие каналы текущего слоя будут выбраны для наложения на нижние слои. Если оставите галочку только на R, то из текущего слоя уберутся зеленый и синие каналы, т.е. останется лишь красная составляющая слоя. При этом здесь есть одна хитрость. Слой не только будет содержать выбранные каналы, но еще и будет выглядеть, будто у него вдобавок выставили режим наложения Linear Dodge (Линейный осветлитель). То есть, если вы создадите поверх изображения белый слой и в параметрах наложения оставите галочку R, это будет эквивалентно созданию красного слоя со сменой его режима наложения на Linear Dodge (Линейный осветлитель).