Если у вас задача - что в выбраных наугад картах есть хотя бы один туз и хотя бы одна черва, то надо найти Count(>0 червей И >0 тузов). Можно это инвертировать, считая все плохие варианты, вычев их из всех вариантов:
Count(>0 червей И >0 тузов) = Count() - Count(0 червей ИЛИ 0 тузов)
Дальше, COUNT(A или B) можно разложить на Count(A) + Count(B) - count(A И B).
Финальная формула для ответа:
Count() - Count(0 червей) - Count(0 тузов) + Count(0 червей И 0 тузов)
Фактически, это форомула включения-исключения. Но в итоговой формеле все просто счиатать:
Count() = C(5,36) - все варинты: сочетания по 5 из 36.
Count(0 тузов) = С(5, 32) - нельзя брать тузы
Count(0 червей) = С(5, 27) - нельзя брать 9 червей
Count(0 червей И 0 тузов) = С(5, 24) - нельзя брать 9 червей и 3 оставшихся туза.
Подсчитайте через фаториалы и сложите с правильными знаками.
Если же задача - ровно один туз и ровно одна черва, то тут 2 варианта. Или туз-черва взят, или это две разные карты.
В первом случае оставшиеся 4 карты - любые из 24 карт не-тузов-не-черв, т.е. эта часть - C(4,24). Во втором случае, вы берете какой-то из 3 тузов, какой-то из 8 черв и оставльные 3 карты из не-тузов-не-червей, т.е. ответ 3*8*C(3,24). Обе части просуммируйте.