一、叶片上不同：
石菖蒲的叶片颜色为暗绿色，长度大约在20到50厘米，从底部对折，叶脉平行分布，稍微隆起。
水菖蒲叶片颜色稍浅，长度延伸很长，大约50到120厘米。
二、根部的不同：
石菖蒲根部形状为扁圆柱形，弯曲点很多，长3到20厘米，直径0.3到1厘米，表面颜色较深，为棕褐色或者灰棕色。
水菖蒲形状较之前者粗大一些，分枝较少，直径大约在1到1.5厘米左右，表面颜色略浅，最浅可偏至类白色。
三、花朵的不同：
石菖蒲花朵形状为三棱状，颜色为黄绿色或者黄白色，花期大约在2月份左右。
水菖蒲花朵形状更扁一些，花期在6到9月份，集中在春秋季。