石菖蒲是多年生草本植物。根茎芳香,粗2-5毫米,外部淡褐色,节间长3-5毫米,根肉质,具多数须根,根茎上部分枝甚密,植株因而成丛生状,分枝常被纤维状宿存叶基。叶无柄,叶片薄,基部两侧膜质叶鞘宽可达5毫米,上延几达叶片中部,渐狭,脱落;叶片暗绿色,线形,长20-30(50)厘米,基部对折,中部以上平展,宽7-13毫米,先端渐狭,无中肋,平行脉多数,稍隆起。
花序柄腋生,长4-15厘米,三棱形。叶状佛焰苞长13-25厘米,为肉穗花序长的2-5倍或更长,稀近等长;肉穗花序圆柱状,长(2.5)4-6.5(8.5)厘米,粗4-7毫米,上部渐尖,直立或稍弯。花白色。
成熟果序长7-8厘米,直径可达1厘米。幼果绿色,成熟时黄绿色或黄白色。花果期2-6月。