Mail.ru скорее всего использует своё решение. Это нормальное явление, когда большие компании имеют свой технологический суверенитет. Исходники вы скорее всего врятли найдёте да и они вам не помогут, т.к. идеи и реализации там тесно связаны с другими наработками компании.
Вам же подойдёт готовое решение на js. Например
https://quilljs.com.
Изучаете документацию, делаете свой редактор в своём визуальном стиле и радуйтесь жизни