Напрямую можно симулировать нейроны, и даже математика вся уже написана. Но на современном железе получится запустить не более миллиона (плюс/минус два порядка) нейронов, а в человеческом мозге около 100 млрд. Тензорфлоу оперирует матрицами, а операции над ними хорошо векторизируются и имеют производительные реализации не только для центрального процессора, но и для GPU и кластеров, вследствие этого получается обсчитывать на пару порядков больше нейронов.
