Смотрите кодировку базу данных.
Если, у mysql базы данных выставлена кодировка latin1, которая часто ставится по умолчанию, а вы при установке modx выбрали utf8, то при создании нового пользователя modx не сможет вставить русский текст, запишет ошибку в лог и молча(без сообщения в web интерфейс) завершит установку.
Ну а при попытке входа будет PHP Fatal Error.
Смените на базе кодировку:
alter database <databasename> character set=utf8;
И повторите установку.
