Я не эксперт, но вроде для ts не нужен babel.
Для ts используется "ts-loader" или "awesome-typescript-loader". В доке вроде есть краткий конфиг вебпака для React + ts.
Я пару месяцев назад делал свой стартовый конфиг для проектов, он очень прост и легко масштабируем, если хочешь можешь взять за основу его
https://github.com/Riveran/react-redux-ts-scss-boi...