Нельзя смешивать int и boolean.
Здесь несколько вариантов.
Самый простой - использовать exceptions, но это дорого.
Если функция возвращает 0, то в большинстве случаев это означает учпех. Можно в виде ошибки вернуть -1.
Другой вариант - возвращать класс типа ErrorType { errorCode, errDescription }.
Вариант сложнее - написать класс, внутри которого этот метод, но не статичный. И писать результаты выполнения в поля этого класса - errCode, errDescription
...
Вариантов масса, но только не такой как у тебя