"Почему () => 'test'()() возвращает «() => 'test'()()»" - если под возвращает вы имеете в виду, что видите такой вывод в консоли, то это просто консоль вам показывает результат выполнения последней инструкции, а именно код описанной функции. Вы просто описали функцию, вызова тут нет.
Про лямбду: можете считать это таким жаргоном - чаще всего под лямбдой подразумевается лямбда-выражение служащее для объявления анонимной функции.