Как по клику на «li» добавлять ему класс?

Лучше вешать обработчик на родительский элемент или документ, а не на все элементы списка, потому что так будет один обработчик, а не столько, сколько элементов списка (это ещё не считая того, что они могут быть добавлены динамически и обработчика на новом элементе не будет, если сделать $('li').on(...)).

Вот набросал на JSFiddle.

$(document).on('click', '.dropdown-menu li', function(e) {
	var $li = $(this);
  $li.siblings(".active").removeClass('active');
  $li.addClass('active');
});