Ты на правильном пути, но .replace() сам по себе не даст тебе гибко проверить href — потому что в $2 ты не можешь заинлайнить условие как в JS.
Используй функцию-замену вместо строки:
__html: text.replace(/\[(.+?)\]\((.+?)\)/g, (match, title, url) => {
return url.includes('site')
? `
${title}`
: title;
}),
}} />