У иллюстратора во все времена традиционно плохо работает всё, что касается пиксель-перфект. Придется помучаться.
Много кто, и я в их числе, советуют не использовать эту функцию привязки к пиксельной сетке (которая в панельке transform и в диалоге создания нового документа). Вместо этого, нужно в настройках программы сделать пользовательскую сетку кратной одному пикселю (edit->preferences->guides and grid), и потом в меню view включить snap to grid (отобразить сетку можно с помощью CTRL+' ).
Этот костыль лучше и безглючнее