Большая разница между 4.0 и 4.1 —
Project Butter. Разница в плавности интерфейса значительна. Так же добавили Google Now (аналог Siri), но на данный момент сфера его применения в России очень ограничена. В 4.2 новинок практически нет, поэтому можно не так обращать на это внимание.
Так же, версия андроида — это показатель того, насколько быстро производитель будет выкатывать прошивки с будущими обновлениями. Допустим, в 5.0 появится очень нужная Вам киллер-фича — а для вашего смартфона прошивка выйдет через полгода-год после анонса. Поэтому многие выбирают смартфоны от Google, хотя и у них есть недостатки.
На мой взгляд, сейчас стоит брать смартфоны только с 4.1 либо уже анонсированным скорым обновлением.