Для начала могли погуглить следующие термины:
Собственный вектор
Собственное число
Характеристический многочлен
Ниль слои
Ниль пространства
А если глубина не важна + нет проблем с английским, крутой плейлист (возможно не по теме)
https://www.youtube.com/watch?v=kjBOesZCoqc&list=P... 