Интересует именно бэкенд.. Я не думаю, что при каждой вбитой букве в строку поиска, он теребит бд, наверное как то кэшируются запросы, но как это может быть с другой стороны.. Вообщем жду ваши предложения!
Раньше они упоминали что используют SphinxSearch для поиска на Хабре.
Возможно, что до сих пор на Хабре и на Тостере он и используется.
Или ElasticSearch
Возможно, будет полезен Stumper API для таких целей.
При постоянном обновлении (после однократного создания) full-mesh "дерева" на Вашей стороне, можно быстро находить нужный контент по поисковой строке.