Для этых целей есть
jQuery plugin: fieldSelection.
Определяет положение курсора в input text и textarea.
В помощь для реализации скажу:
При помощи этой библиотеки, вы должны проверять текст слева от курсора и заменять его при совпадении с регулярным выражением.