До загрузки скрипта интерпретатором байткод хранится в pyc-файлах, а во время выполнения в оперативной памяти. Достоинство хранения на диске, очевидно, в постоянстве. Можно не повторять относительно долгие процедуры парсинга и компиляции при каждом запуске, а сразу переходить к выполнению.
