Здесь нужно знать геометрию объектов, а не их центр и матрицы преобразований.
Ещё нужно знать из каких примитивов они состоят. Если это сфера, то алгоритм один, если объекто сложный и состоит из набора плоскостей (треугольников), то надо проверять пересечения каждой этой микроплоскости.
Если это OpenGL, то задача решается через Stencil Buffer
Короче говоря, оооочень мало данных для ответа на вопрос.
Если упростить, то можно "вписать" объекты в сферу или параллелепипед и проверять коллизии этих простых объектов. Это уже школьная геометрия, 6-й класс.