石菖蒲和水菖蒲在叶片、花朵和根茎方面都有明显的区别。
首先，在叶片方面，石菖蒲的叶片呈现暗绿色，线形，长度大约在20-50厘米之间。叶片从基部对折，中部以上平展。而水菖蒲的叶片颜色稍浅，呈剑状线形，相对较长，大约在90-150厘米之间。
其次，在花朵方面，石菖蒲的花序为三棱形，长度为4-15厘米。肉穗花序呈圆柱状，上部直立或稍微弯曲，逐渐变尖。花朵的颜色为白色。而水菖蒲的花序略微扁平，肉穗花序近乎直立或斜向上，形状呈狭锥状圆柱形。花朵的颜色为黄绿色。
最后，在根茎方面，石菖蒲的根部呈扁圆柱形，长度约为3-20厘米，直径约为0.3-1厘米。根表面颜色较深，呈灰棕色或棕褐色。而水菖蒲的根部比石菖蒲更加粗大，直径约为1-1.5厘米，分枝较少。根的颜色稍浅，甚至可以达到白色。
总的来说，石菖蒲的叶片较短且暗绿色，花序为三棱形且花朵为白色，根部颜色较深；而水菖蒲的叶片较长且绿色，花序较扁平且花朵为黄绿色，根部较粗大且颜色较浅。两者在多个方面都呈现出明显的不同。
