Sweet Cookies

В отдаленном светлом будущем скорее всего у нас будут псевдоэлементы ::spelling-error и ::grammar-error, мы будем из CSS переопределять стандартное подчеркивание. На данный момент вот так просто из CSS ничего сделать не получится.

куда копать

В девелоперской версии Хрома есть chrome.automation API, в котором по идее с помощью метода getTree() можно получить некое дерево, похожее на DOM, но на самом деле им не являющееся, и опять же по идее в нем должны быть элементы типа AutomationNode для слов, которые содержат ошибки, и у них есть некоторые свойства вроде цвета и подчеркивания. Сам я этим никогда не пользовался, но интуиция подсказывает, что стоит копать в эту сторону.

P.S.: Если вам нужно решение для сайта "здесь и сейчас", то думаю лучше будет совсем отключить проверку орфографии со стороны браузера и вместо нее вставить кастомную, в сети есть готовые решения.

вам не хватает не базовых знаний, а желания посмотреть, что происходит в полученных данных и в каком виде они приходят
https://api.cdnjs.com/libraries/jquery

это можно сделать по шагам во вкладке Sources браузера Chrome или воспользоваться плагином JSONView

Если только учитесь, то используйте склейку строк:

editor.setValue(editor.val() + textform);

Но это не самое быстрое решение. Когда созреете, то почитайте про текстовые ноды и каретку, они должны быстрее работать.

Тостер лагнул :)