Ну если говорить о рендере игрового движка, то нужно смотреть в сторону графических движков. В OpenGL, DX есть примитивы которые позволяют отрисовывать линии, сферы и т.д. Они состоят из вершин и материала(способ отображения вершин, цвет). Но если уж говорить о игровых движках, то на сколько я знаю, они рендерят текстуру, а это растровая графика к сожалению. Но есть разные обходные пути. К примеру если говорить о 2D. То есть Skia. Она рисует как примитивы, так и текстуры. Если переключить ее отображение через контекст GPU, то она будет внутри работать следующим образом:
Создаст квадрат из вершин, натянет на него текстуру и будет отрисовывать всю твою графику на этом квадрате. Она будет выглядеть как векторная, но по факту будет растровой