Во втором надо условие Period_id in (902,855)) перенести во фразу join, вот так:
SELECT [FormId], count(F.Id)
FROM [Application].[FormFieldsDataContent] F with(nolock) join
[Schema].ProjectForms A with(nolock) on A.Period_id in (902,855) and F.FormId=A.Id and F.PeriodId=A.Period_id
group by [FormId]
Видимо у вас таблица ProjectForms большая, без этого условия в нужном месте из нее выбираются все данные, удолвлетворяющие условию (F.FormId=A.Id and F.PeriodId=A.Period_id), а потом, уже из результирующей большой выборки делается отбор A.Period_id in (902,855).
В первом примере это условие стоит во вложенном запросе, соответственно вложенная выборка будет значительно меньше.
На самом деле вложенные запросы, как правило выполняются дольше joinов, поэтому мой вариант, скорее всего будет работать еще быстрее.