Ниже речь о винде.
Немного терминологии: CriticalSection - объект, который можно использовать только внутри одного процесса. Mutex - именованный объект и может применяться для взаимодействия процессов.
Далее, для работы с секцией и с Mutex'ом существуют специальные API, которые скрывают детали реализации, так что проблемы доступа в чужой процесс нет. Секция же точно может храниться в памяти своего процесса: на стеке или в "обычном" адресном пространстве.