Ну логично, что анализируется поток звуков, в конкретном примере "ok google".
И анализируется он постоянно, фоново, и без трафика, а внутренними средствами гуглофона.
Это как пример того, как телефон в блокировки получает информацию о том, что на него приходит звонок внешний.
Так и тут.
И только после того как ключевое "ok google" сработало - телефон пытается "услышать" и распознать все, что будет сказано в определенный промежуток времени или же до определенной паузы.
