针对未知系统扰动与惯性参数下挠性航天器姿态跟踪控制和耦合挠性附件振动抑制问题，提出了一种自适应动态面滑模非线性姿态跟踪控制算法和一种自适应非线性主动振动抑制方法。姿态控制算法采用动态面控制技术，避免了复杂的微分运算，结合自适应控制和滑模控制，自适应估计未知的惯性参数和系统扰动上界，对系统扰动进行控制；振动抑制方法利用自适应控制，对非线性抑制算法的未知参数进行自适应处理，实现主动振动控制。Lyapunov稳定性分析证明了控制方案的可行性。仿真结果表明：该方案在小于30 s的时间内完成了姿态跟踪过程，需要的最大姿态控制输入不到8 N·m,迅速衰减了引起的振动。所提控制策略能够完成高质量的姿态控制和振动抑制性能，具有较好的适应性。