Добрый день,
В shell/bash очень часто строки проверяют так: if [ "x" != "x$some_var" ]; then ...
таким образом исключается сравнение с пустой строкой.
Попробуй записать условие как:
if [ "x" != "x$(cat /etc/passwd | cut -d: -f1 | grep -q "$CUSTOM_USER")" ];