Ошибка возникает поскольку поведение NestedSetsBehavior не позволяет делать insert сущности (в данном примере категории) не вызвав предварительно модифицирующий метод из этого поведения (Например: makeRoot() или prependTo()). Без этого непонятно какое место в древовидной структуре будет занимать новая категория.