人类历史上第一个氨基糖苷类抗生素是1940年发现的链霉素，这一结构系从链霉菌分泌物中分离获得，主要应用于对结核病的治疗。链霉素有比较严重的耐药性问题，且会损害第八对脑神经造成耳聋，对链霉素的结构改造一直以来都是研究的课题，但始终没有成功的案例。

1957年，人们从卡那霉素链霉菌Streptomyces kanamyceticus中提取出卡那霉素，用于治疗革兰氏阴性菌感染，为了解决卡那霉素耐药菌株的问题，人们在卡那霉素的基础上进行结构改造，开发了阿米卡星、妥布霉素等新药。

1963年，人们从小单孢菌发酵液中分离了庆大霉素，这是一种氨基糖苷类物质的混合物，有较好的抗革兰氏阴性菌和相对低的毒性，应用比较广泛。

1970年代，人们又从链霉菌中提取出了新霉素、核糖霉素等新的氨基糖苷类抗生素，这些新药虽然抗菌活性没有此前发现的药物高，但是耳毒性和肾毒性却大大降低，比较早的氨基糖苷类药物更加安全。