Application server - основной сервер, где обрабатывается логика ваших приложений, которую нельзя обрабатывать на клиентах. Application server имеет доступ к серверу баз данных (Database server). Очень часть Application server и Database server размещают на одном сервере, пока это позволяет нагрузка на приложение.
На Application server как правило устанавливают веб-сервер и обработчик какого-либо языка программирования. Например, apache + php, nginx + ruby и пр. Иногда встречаются и более экзотичные варианты. Всё зависит от того, какими инструментами ведется разработка приложения.
На Database server устанавливают какое-либо ПО для СУБД. Например, MySQL, SQL Server, Oracle Database и пр. Через специальные библиотеки и конфигурационные файлы Application server "привязывается" к Database server.
Loadbalancer используется для того, чтобы, в случае наличия нескольких Application серверов, направить пользовательский запрос на менее загруженный Application server. Тут есть много разных вариантов реализации.
Utils и Tools - фишки исключительно очень больших проектов. Например, если нужно пересчитывать количество записей в базах по сложным медленным запросам или удалять ненужные изображения на дисках сервера - для этого и предназначены эти инструменты.