本发明公开了旋转机械转子动力学技术领域中的一种汽轮发电机组碰摩故障的弯扭耦合振动特性分析方法。该方法将逐步积分法的思想与传统传递矩阵法相结合，对非线性方程组中各量进行增量改造，将非线性微分方程转化为关于振动状态增量的线性微分方程；在对表达式进行增量改造基础上，建立起机组基于Riccati变换的弯扭耦合振动增量传递矩阵表达式，通过代入多次迭代计算的外力和外力矩，即可进行机组碰摩时弯扭耦合振动瞬态动态响应分析。本发明可适用于类似汽轮发电机组这样的复杂转子系统，分析结果更准确；也可用于强非线性系统的求解，拓展了传递矩阵法在非线性领域的应用。