从rRNA进化树上，古菌分为两类，泉古菌门（Crenarchaeota）和广古菌门（Euryarchaeota）。另外未确定的两类分别由某些环境样品和2002年由Karl Stetter发现的奇特的物种纳古菌门（Nanoarchaeum equitans）构成。

Woese认为细菌、古菌和真核生物各代表了一支具有简单遗传机制的远祖生物的后代。这个假说反映在了“古菌”的名称中（希腊语archae为“古代的”）。随后他正式称这三支为三个域，各由几个界组成。这种分类后来非常流行，但远祖生物这种思想本身并未被普遍接受。一些生物学家认为古菌和真核生物产生于特化的细菌。

古菌和真核生物的关系仍然是个重要问题。除掉上面所提到的相似性，很多其他遗传树也将二者并在一起。在一些树中真核生物离广古菌比离泉古菌更近，但生物膜化学的结论相反。然而，在一些细菌，（如栖热袍菌）中发现了和古菌类似的基因，使这些关系变得复杂起来。一些人认为真核生物起源于一个古菌和细菌的融合，二者分别成为细胞核和细胞质。这解释了很多基因上的相似性，但在解释细胞结构上存在困难。

目前有22个古菌基因组已经完全结束了测序，另外15个的测序工作正在进行中。