Тебе ещё много всего нужно изучить, прежде чем приступить к этому.
Ведь, используя 4 ядра вместо 2-х, можно получить и более высокую производительность, верно?
Не всегда. Если алгоритмы, которые можно "распараллелить", если те, которые нельзя.
Но как это реализовывается?
У любой актуальной ОС есть такие сущности, как процессы и потоки (threads). И у большинства языков есть средства для работы с этим всем