подозреваю, что вам нужно то, что называется "k-means clustering".
реализаций в экселе гуглится довольно много, смотрите, что у вас заработает проще:
www.real-statistics.com/multivariate-statistics/cl...
data-analysis-excel.com/k-means-clustering
citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1....