var frame = document.getElementById('frame'),
title = (frame.contentDocument ? frame.contentDocument : frame.contentWindow.document).title;
Если не планируется поддержка IE7 и ниже, то просто:
var title = document.getElementById('frame').contentDocument.title;