В первом приближении - по TCP/UDP порту серверной стороны (
IANA Assigned Numbers).
Если нужна более высокая точность - смотрите в сторону сигнатур и эвристик.
Никто не мешает клиенту и серверу "договориться" об использовании нестандартного порта для какого-либо прикладного протокола.