"уровни" в сетевой модели - это просто способ классификации протоколов в сетевом стеке.
В рамках одной сети возможна маршрутизация по физическим MAC-адресам (именно на них работает протокол Ethernet, например, который в модели OSI считается протоколом Канального уровня).
В рамках нескольких сетей адресация уже идёт по IP-адресам и используется уже IP-протокол.
То что для адресации между сетями необходим какой-то протокол сетевого уровня - не значит, что в локальной сети без него можно обойтись.
Протоколы уровней выше должны обязательно основываться на чём-то. Тот же TCP и UDP, например, обязательно строятся поверх IP-протокола, который принято считать протоколом сетевого уровня. => если ты хочешь в своей локальной сети использовать TCP, UDP или какой-то протокол, который строится поверх них (например HTTP, LDAP, IPP), то тебе обязательно придётся использовать протокол канального уровня в лице IP.
Есть протоколы, которые вполне могут работать и без IP, но дома ты их у себя врядли увидишь)