Опишу, в общем, как я поборол описанные мной же проблемы с API Одноклассников, вдруг поможет кому. Решение несколько сомнительные, но мне помогли повысить отзывчивость интерфейса и позволили правильно собирать статистику.
Крестик:
По клику на кнопку, вызывающей виралку, на window вещаю событие mousemove, вещать нужно по истечению некоторого таймаута, у меня это 500мс, потому что окно может открыться не сразу. Если окно даже и было открыто, а после чего сразу же закрыто, по клику на пустую область, например, событие все равно словится по истечению таймайту и его можно будет корректно обработать. С платежками в этом плане все немного сложнее, так как там не приходит событие о успешной транзакции, при клике на крестик, несмотря на то, что она была совершена, здесь пришлось проверять через сервер. Тут еще такой момент, пока тестировал, события ответа от модалки, приходили гарантировано раньше, чем событие движения мышки, что собственно и позволило сделать такой костыль.
Частота поднятия модалок:
При частых попытках поднять модалку, бывает что окно не всегда открывается, что отловить невозможно. Эмпирическим путем выявил, что максимально необходимый таймаут после последнего закрытия(!) API окна это 2500мс. В итоге пришел к решению, где все вызовы оборачиваются в очередь, и в случае клика на кнопку, дергающую API, пока таймаут не истек, на оставшееся время таймаута блокирую интерфейс, с просьбой немного подождать, после чего уже реально вызываю метод API.