Побитовые операции нужня для того, что бы менять отдельные биты в значениях. По большей части, если не брать в расчет быстрые алгоритмы, то чаще всего побитовые операции необходимы для работы с масками. Частенько при помощи оных задают какие-то флаги, или как указал
Человек я та же маска подсети зная которую и зная IP адрес текущей машины можно узнать IP адрес хоста и весь диапозон IP адресов сети за счет банальной операции побитового и. Есть еще задачи связанные с кодированием информации, есть бит/байт стаффинг, упаковка данных (привет сдвиги) и т.д.
Словом без побитовых операций тяжко бы пришлось и тогда стало бы невозможно скажем при помощи FileApi открыть какой-то бинарный формат данных на клиенте.