рассмотрим на двухмерной плоскости. Нарисуйте график, раскидайте точки разных классов, попытайтесь провести между каждым классом линию, разделяющую их на группы точек. Причем так, что бы расстояние от точек до нашей границы было максимальным, что бы можно было точно сказать к какой группе принадлежат точки. Когда мы добавляем новую точку - в зависимости от положения относительно нашей границы мы можем классифицировать эту точку и отнести ее либо к одной группе либо к другой.
В реальности у нас там может быть трех и более мерное пространство, и вместо линий уже выходят плоскости, которые разделяют множества.
Причем плоскости эти могут быть кривыми, в зависимости от алгоритма который вы выбрали. Линейный SVM по проще, но прямыми вы в некоторых случаях не сможете оптимально построить классификатор, потому существуют и другие варианты, в которых секущие плоскости просто строятся чуть по другому.