所有向环境排放污染物的单位都必须缴纳环境保护税。

教材未提及所有排放污染物的单位均需缴纳，且存在免税情形。