Вероятно нужно по-отдельности искать что такое "система" и что такое "устойчивость (системы)", "нелинейная система", "(не)стационарная система".
В такой комбинации яндекс определение в первой строке выдаёт.
Через алфавитный указатель в учебнике, подозреваю, тоже легко можно будет найти.
Надеюсь, объединить определения тебе не составит труда.