黄连与黄芩在根茎、叶片和花朵方面有明显的区别。首先，在根茎方面，黄连的根茎呈黄色，会有分枝，具有很多细小的须根。而黄芩的根茎非常肥厚，属于肉质的，底部伏地或上升，高度可达30-120厘米，底部的径约为2.5-3毫米左右。
其次，在叶片方面，黄连的叶片有一定的革质感，长度约为3-8厘米，宽度约为2-3厘米，顶端呈卵状三角形。而黄芩的叶片为坚纸质，长度约为1.5～4.5厘米，宽度约为0.5～1.2厘米。叶片的顶端相对较钝，底部呈圆形，整体呈披针形至线状披针形。叶片上面呈暗绿色，而下面的叶色相对较淡。
最后，在花朵方面，黄连的花朵形状为线形或活线状披针形，长度约为5-6.5毫米，顶端逐渐尖锐，并具有蜜槽。黄芩的花朵则呈紫色、紫红色或蓝色，长度约为2.3-3厘米，花柱十分细长，先端较为尖锐，微裂。
综上所述，黄连与黄芩在根茎、叶片和花朵方面存在明显的差异。
