Есть два варианта.
1. Изучать нейронные сети, их архитектуру, что делается для чего, что делает один слой, что делает другой слой, какие функции активации к ним применять и прочие вещи, которые нужно знать при работе с нейросетями.
2. Делаете кроссвалидацию и вместе с ней тупой GriedSearch, перебирая десятки, сотни, тысячи, миллионы гиперпараметров, а так же их комбинации, в надежде получить хороший результат.