Там все просто!
var options = {
title: "Название окна",
// Если есть готовая форма
//url: "URL формы",
// Либо можно свой html
// html: yourHtml,
height: 400,
// Парметры если надо что нибудь передать в модальное окно
//args: {
//},
dialogReturnValueCallback: function (result, reval) {
//Callback если необходимо
}
};
//Либо (Если подклюен на страницу SP.UI):
//SP.UI.ModalDialog.showModalDialog(options);
//Либо (Если его нет):
//window.OpenPopUpPageWithDialogOptions(options);