外表通常为一列表皮，表皮下面有下皮层（Hypodermis），为数列厚壁细胞，内部为薄壁细胞组成的基本组织。一般具网状中柱（Dictyostele），因根茎叶隙的纵向延伸和互相重叠，将维管系统分割成束，横切面观可见断续环状排列的周韧型维管束，每一维管束外围有内皮层，网状中柱的一个维管束又称分体中柱（Meristele）。分体中柱的形状、数目和排列方式是鉴定品种的重要依据。在环列的分体中柱的外方，有叶迹维管束。如绵马贯众等。有的根茎具双韧管状中柱。木质部排成环圈，其里外两侧均有韧皮部及内皮层环，中央有髓部，如狗脊。

蕨类植物根茎的木质部无导管而有管胞，管胞大多为梯纹。在基本组织的细胞间隙中， 有的具间隙腺毛，如绵马贯众。

根茎类中药的横切面显微鉴别，首先应根据维管束类型和排列形式，决定其为蕨类植物根茎，还是双子叶植物或单子叶植物的根茎。根茎中常有分泌组织存在，如川芎、苍术等有油室；石菖蒲、干姜等有油细胞。单子叶植物根茎中常有粘液细胞，其中常含草酸钙针晶或针晶束，如半夏、白及等。厚壁组织也常有存在，是重要的鉴别特征之一，如苍术的木栓层中有石细胞带，黄连（味连）的皮层及中柱外方部位均有石细胞。多数根茎类中药含有淀粉粒，有的含有菊糖而无淀粉粒，如苍术等。