В Грузии и Армении без проблем открывается ИП на нерезидентов.
Налоги в Грузии околонулевые. Налоги в Армении 5%, но можно сделать сертификат IT и тоже будет около 0%.
При наличии ИП можно открыть расчётный счёт в банке и работать спокойно.
В Казахстане для открытия ИП необходимо сначала сделать РВП (аналог вида на жительство), поэтому нерезиденту практически невозможно открыть ИП. Можно открыть ТОО (аналог ООО), но это гораздо более сложная и дорогая история, для фрилансера нерентабельно.
Но в Казахстане закон прямо говорит, что если нерезидент не оказывает услуги внутри Казахстана, то он не обязан платить налоги в Казахстане. Поэтому юридически ничто не запрещает открыть счёт физ.лица и получать деньги на него и ничего не платить в КЗ. Но если просто гонять деньги через КЗ-банки, то сами банки могут через какое-то время заблокировать счёт за использование в бизнес-деятельности. Но до $10k/месяц казахские банки как правило вообще не интересуются ничем.
Ещё отдельный квест - найти банк в КЗ, который откроет счёт нерезиденту. Во всём СНГ счета физлицам-нерезидентам стали открывать сильно хуже чем раньше.