Т.е. необходимо выделение без антиалиасинга? Если да, то у инструмента Lasso есть опция Anti-alias — просто снять галочку.
Если же нужно уже готовое выделение преобразовать в несглаженное — я бы перешел в режим редактирования быстрой маски выделения по [Q] и там бы повысил контрастность уровнями.