Как различать объект DOM и объект Object в JS?

м-да, IE не перестаёт удивлять
кроссбраузерный вариант

function isDomElement(obj) {
    try {
        // нормальные браузеры и IE9
        return obj instanceof HTMLElement;
    } catch(e) {
        // IE < 9
        return !!obj && !(obj instanceof Object);
    }
}

Не совсем, правда, безопасный. Например, в IE8 и раньше isDomElement(window) вернёт true.