Здравствуйте, в окне texture paint включите режим маски (значок в виде квадрата рядом со словом view). Перейдите в edit mode и выделите нужную часть модели, затем переключитесь обратно в режим texture paint, выберите инструмент заливка, кликните по модели и у вас закрасится модель и краска не выйдет за края.
Примечание: если нужно закрасить всю модель, а не какую-то её конкретную часть, то просто не включайте режим маски.