ну... начнем с программирования
потому что, хоть многие решения для автоматизации и содержат разные рекордеры и GUI для создания автотестов - серьезную автоматизацию на этом никто не рассматривает
Так что Java или Python (на них чаще всего автоматизируют).
Ну и, кроме того, автоматизация тестирования чего? Мобилок, веба, апи, железок?
Вопрос очень расплывчатый
Такой же и ответ получится:
- изучить тестирование
- изучить автоматизацию