Посмотри в SQL у тебя ограничена макс память? Если там всё норм, посмотри индексации особенно контента при RBS немного замедляется взаимодействие с файлами. незначительно но работают внутренние процессы по переливки файлов, архивации, доставки и сопутствующие процессы.
Ты профайлером смотрел, что происходит при нагрузке. Ещё есть такая история, как только SQL начинает подъедать он кушает всё что ему нужно, а потом этот пик не отпускает (особенно с процами) для возможных прыжков.
Самое интересное кроется в нодах поисковой системы их 5 штук точнее (noderunner)
Проверь насколько часто делается Full Crawl. Если раз в час, то убирай его раз в сутки, у тебя слабая инфраструктура для его работы (Он работает отлично при том что каждая их нод на отдельном серервере + некоторые службы собраны в кластер). Если ты убрал все ноды и весь пайплайн поиска, хоть и на отдельный сервер но зато все, они откушают в легкую от 2 ГБ памяти в режиме ожидания, покушают процессор и нагрузят сервера + если у тебя частый Full crawl они тебе нагрузят БД вечными инсертами, это ты должен был выяснить при профайлинге SQL и выявлением что стало причиной.
Если всё таки, ты разобрался и уверен что это SQL и вечные инсерты и загруз со стороны поиска, то настраивай поиск более тщательней через PowerShell ONLY!