Нужно использовать designMode document property. Открывать документ в designMode можно в iframe.
Как то так:
document.writeln(' iframe id="' + editor + '" /iframe ');
var edit = document.getElementById(editor).contentWindow.document;
edit.designMode = "On";
в коде парсер жрет "<" и ">" (
Я когда то писал с нуля WYSIWYG, если надо могу поискать исходники.