Именно, держат открытыми сокеты, это не дорого, даже вебсокет соединения (а они чуть сложнее) одна машина может удерживать
миллионами.
В общем случае у телеграмма много серверов плюс есть прокси-сервера, все они держат подключения (клиент -> сервер) и сервер решает кому о чем сообщать.
Для мобильных систем, так уж сделаны операционные системы, чтобы они просыпались по сигналу сервера, вместо разработки своей инфраструктуры (что даст лишнюю нагрузку на мобильники и их батарейки) используют push систему от эпл или гугла, кстати во время блокировки телеграмма роскомнадхором, это использовалось как инструмент доставки служебных сообщений, так как ее блокировка полностью блокировала бы работу всех мобильников в стране.