Разные величины, по-моему, можно только складывать и вычитать. Умножать и делить можно только одинаковые размерности, либо один из операндов должен быть безразмерным.
Честно говоря, я не понимаю, чего вы хотите получить, и в какой величине должен получиться итоговый размер шрифта.
Отвлечённо, как вариант, можно привлечь javascript
{
--ratio: calc(1920 / 1080); // По умолчанию
font-size: calc(165 * var(--ratio));
}
const ratio = (screen.width / 1920) / (screen.height / 1080);
element.style.setProperty('--ratio', `${ratio}px`);
