耦合器用作输出的话，如果输出比例比较低，也会多波长输出，感觉放到滤波器后面输出更合适。如果想用光栅滤波，需要把耦合器改用环形器，而且需要调节滤波器使增益谱不要太宽，或者光栅带宽要窄，两者配合。

你提供的光谱图两个波长很接近，不知是否用的是保偏光纤或者保偏器件，有可能是双折射导致的双波长或多波长，建议在系统里加偏振控制器。