Евгений

Смешались в кучу кони, люди!)
Вы используете LinearLayout, но хотите чтобы он работал как RelativeLayout. У вас, в разметке, написано что RecyclerView должен занимать все место на экране: от верхней панели до самого низа, из-за этого нижней панели и не видно. Используйте RelativeLayout как root контейнер и укажите чтобы RecyclerView занимал все место от верхнего контейнера до нижнего (layout_below="top_panel_id" и layout_above="bottom_panel_id").

В общем, можно пойти двумя путями:
1) Создать некий интерфейс RecycleFragment.SomeEventListener с методом onSomeEvent();
Обязать активити реализовывать его , проверять в onAttach. При нажатии на кнопку прокидывать событие в активити, где есть behavior и там делать всё, что нужно.
2) Похожий сценарий, если без behavior'a во фрагменте ну прям никак. Аналогичный интерфейс, называем его BehaviorProvider, метод getBehavior() возвращает behavior. Активити реализует его и отдаёт behavior по запросу. Точно так же проверять в onAttach, не забывать удалять ссылку.

Сделайте просто в виде какого то Layout, а в него уже вставьте элементы для навигации. Для Layout задайте ширину actionbar