Под капотом используется HarfBuzz для определения расстановки глифов.
State of Text Rendering. Статье уже более 10 лет, но она позволяет понять как исторически развивался рендеринг. Behdad, я думаю, был одним из ключевых разработчиков в рендеринге.
FreeType, собственно, растеризует глифы с заданными координатами, шрифтом, цветом и прочими характеристиками.
Modern text rendering with Linux: Overview
Добавлено
Хочу лишь добавить, что в основе рендеринга различных текстовых процессоров, браузеров лежат почти одни и те же упомянутые выше технологии.