Самое крутое что есть, это пожалуй,
potrace.
Но не надейтесь что он сразу выдаст отличный результат. Более-менее сложные изображения скорее всего придется дорабатывать вручную.
incscape для начального авто-трейса использует использует именно эту библиотеку.
