感觉有点晕，我记得状态方程是现代控制理论里的内容，不过根轨迹和相平面我们只在经典控制理论中提过。我试着回答一下吧：
根轨迹和相平面其实是两个不搭嘎的东西（个人感觉），一定要先弄清这些东西是干嘛的
根轨迹描述的是“对于一个线性系统，当开环增益变化时，闭环极点如何变化”，由于闭环极点涉及系统的稳定性问题，通常根轨迹是用来判断一个线性系统是否稳定的。描述闭环极点，使用的是s平面即
复平面，该平面每一个点对应一个复数，在根轨迹中即闭环极点的位置。
相平面在我们讲的时候是经典控制理论非线性系统章节的内容。它针对一阶、二阶系统，描述的是系统的一个状态变量（比如输出y）自身和其导数的关系（如y和y‘），它体现的是系统在一个初始状态下，其状态的变化趋势。我们常用极限环等来分析其《稳定振荡》的情况。
至于如何由状态方程来求根轨迹或相平面，感觉有点摸不着头绪。
如果给出的是
微分方程，可以从微分方程求
传递函数，进一步分析根轨迹。
如果给出的是状态方程，则可以通过比如d2y/dt2=dy'/dt=(dy'/dy)(dy/dt)=y'(dy'/dt)
代入状态方程进而直接得到y'与y的关系,来绘制相轨迹
追问那我如何去做相平面的稳定性分析呢？
追答我们是本科,用的是自己学校编的书,我们讲非线性系统的时候,没有提过"稳定性"的概念,只考虑过"自激振荡稳定性"
稳定的自振的话,在相平面里,表现为相轨迹的极限环内外,均卷向极限环.
不过如果这样考虑的话,如果相轨迹都是卷向原点的,个人感觉他是稳定收敛的,或许就是你所说的稳定