线粒体的内外膜均由磷脂双层组成，其中镶嵌有蛋白质，类似一般的细胞膜。然而这两层膜具有很不同的特性：包围整个细胞器的外膜约含50%质量的磷脂，并且包含很多酶，参与肾上腺素的氧化，色氨酸的降解及脂肪酸的延伸等等。

而线粒体内膜包含100多种不同的多肽，蛋白相对磷脂的比例相当高（质量比3：1，大约一个蛋白分子对15个磷脂）。此外，内膜富含一种少见的磷脂心磷脂，是细菌的质膜所特有的。

外膜包含很多称作“孔道蛋白”的整合蛋白，具有相对大的内部通道（大约2-3纳米，医学教育|网搜集可允许离子和小分子通过。而大分子不能通过外膜。内膜不含孔道蛋白，通透性很弱，几乎所有离子和分子都需要特殊的跨膜转运蛋白来进出基质。