devtools в Chrome. Ctrl-Shift-I
Вкладка Sources. Можно комфортно дебажить: брейкпоинты, watcher, стек и т.д.

Верстку можно изменить через темы:
www.yiiframework.com/doc-2.0/guide-output-theming.html
Контроллеры через controllerMap:
www.yiiframework.com/doc-2.0/yii-base-module.html#...
С моделями будет сложнее. В расширении не используется dependency injection, поэтому, как уже сказали, свой форк со всеми вытекающими.

Под вашу задачу можно так:

$('.add').on('submit', function(){
    var formData = new FormData(this);
    $.ajax({
          type: "POST",
          url: "engine/ajax/my_addotziv.php",
          data:  formData,
          processData: false,
          contentType: false,
          success: function(data){
            // -- code ---
          }
     });
    return false;
});

И смотрим доки по FormData https://developer.mozilla.org/ru/docs/Web/API/FormData

Смотрите кодировку базу данных.
Если, у mysql базы данных выставлена кодировка latin1, которая часто ставится по умолчанию, а вы при установке modx выбрали utf8, то при создании нового пользователя modx не сможет вставить русский текст, запишет ошибку в лог и молча(без сообщения в web интерфейс) завершит установку.
Ну а при попытке входа будет PHP Fatal Error.
Смените на базе кодировку:
alter database <databasename> character set=utf8;
И повторите установку.