С изучения дискретной математики. Теория множеств, теория графов. Затем можно выбрать направление: бионика, нейросети, семантические сети и т.д.