火药由硫磺、硝石、木炭混合而成。很早以前，我们的先人对这个三种物质就有了一定认识。早在新石器时代人们在烧制陶器时就认识了木炭，把它当做燃料。商周时期，人们在冶金中广泛使用木炭。木炭灰分比木柴少，强度高，是比木柴更好的燃料。硫磺天然存在，很早人们就开采它。在生活和生产中经常接触到硫磺，如温泉会释放出硫磺的气味，冶炼金属时，逸出的二氧化硫刺鼻难闻，这些都会给人留下印象。古人掌握最早的硝，可能是墙角和屋根下的土硝，硝的化学性质很活泼能与很多物质发生反应，它的颜色和其他一些盐类区别不大，在使用中容易搞错，在实践中人们掌握了一些识别硝石的方法。南北朝时的陶弘景“草木经集注”中就说过：“以火烧之，紫青烟起，云是硝石也。”这和近代用火焰反应鉴别钾盐的方法相似(硝石的主要成分是硝酸钾)。硝石和硫磺一度被作为重要的药材，在汉代的《神农本草经》中，硝石被列为上品中的第六位，认为它能治20多种病。硫磺被列为中品药的第三位，也能治10多种病。这样人们对硝石和硫磺的研究就更为重视。虽然人们对硝石、硫磺、木炭的性质有了一定的认识，但是硝石、硫磺、木炭按一定比例放在一起制成火药还是炼丹家的功劳。