Возможно, по объёму передаваемой информации на единицу времени приблизительно определяет, но таким способом можно определить только битрейт. А так-то чем выше качество, тем и битрейт выше, но определить одно из другого нельзя, можно только примерно предположить на основании какой-нибудь статистики. Например, собрать тысячу видеофайлов с 480p, замерить средний битрейт у них и от этой цифры плясать.
Возможно, провайдер как-то так и поступает - режет скорость до такой, чтобы среднестатистические видео на 480p худо-бедно проигрывались без задержек, а на 720p уже с задержками.