В реальной жизни начальник не забивает гвозди и не скручивает провода. Он говорит, какому отделу что делать.
Менеджер среднего звена слушает своего начальника и говорит, что делать своим подчиненным. Примерно как в армии, короче, только добровольно (за денежку). То есть он работает лишь в пределах своего слоя абстракции, как вы выразились.
Ну и так далее.
Суть в том, что довольно сложно охватить всю картину в целом, которая включает в себя все гвозди и шурупы. Поэтому её приходится пилить на "слои", каждый из которых можно рассматривать отдельно и решать задачи не выходя за его пределы. То есть поделить нужно именно таким способом, чтобы это всё было возможно, а не абы как.
Ещё аналогия с компьютером. На верхнем уровне - это системный блок + монитор + клава + мышь. На этом уровне посредственный юзер его сможет собрать (подключить при переезде на новую квартиру). Следующий уровень уже включает начинку: жесткие диски, процессор, мат. плату, блок питания и т.д. На клавиатуре, например, можно рассматривать каждую клавишу отдельно. На этом уровне продвинутый юзер сможет пересборать комп под себя, починить, апгрейднуть и т.д., т.е. решать вполне реальные жизненные задачи. Ну а ещё глубже - это уже уровень микросхем и программирования (которое тоже имеет свои уровни, конечно же).