在《西游记》中，孙悟空进入太上老君的炼丹房，把五个葫芦里的“九转金丹”全部吃掉，后来被抓，放进八卦炉烧炼的故事，大家都已非常熟悉。这个神话故事虽然是文学家编造出来的，但却是有历史事实作素材的。至迟在春秋战国时期，就有人在寻觅长生不老药，秦始皇派徐福带领童男童女出海，也是为了求长生不老药，汉武帝更是招致方士进行炼丹活动。从此，炼丹风气便在上层社会中盛行。道教创立后，有一部分道士专门从事炼丹，企图炼制“九转还丹”(也就是“九转金丹”)，希望人吃了可以脱胎换骨，长生不老，得道成仙。炼丹家的目的当然是不可能实现的，但他们在把各种矿物、金属以及植物作为药物，混在一起烧炼的过程中，却发现了物质的变化，进而认识到物质变化是自然界的普遍规律。同时，他们炼出了许多化学药物，积累了大量的化学知识。关于火药的知识，就是由炼丹家首先积累起来的。
火药，顾名思义就是“着火的药”。至迟在唐中叶时(公元9世纪)炼丹家就已经认识到，把硫磺、硝和炭混在一起加热，会发生爆燃，引起火灾，烧伤人的手面，烧毁房屋。因此，以硫磺、硝、炭为主要成分配成的药，就叫火药。火药引入医学，便成为医药，用作治疮癣、杀虫、辟湿气瘟疫的药物。火药引入军事，便成为火器，在军事科学技术方面引起了重大的变革。
大约在10世纪初的唐代末年，火药开始在战争中使用。唐哀宗天祐年间(公元904—907年)，有人在战争中使用了火箭、火炮。火箭是把火药缚在箭头附近，点燃后用弓射出；火炮是把火药捆扎成包，点燃后用抛石机抛射。五代时，除火箭、火炮外，还制成了火球、火蒺藜等。初期的火药武器，爆炸性能不佳，主要是用来纵火。
宋代是火药武器的重要发展时期，其成就主要体现在如下两个方面：
一是爆炸性能增强。北宋曾公亮主编的《武经总要》(成书于1044年)中，记载有三个火药配方，其中硝、硫、炭三者的比例分别为60%：30%：10%；61.54%：30.77%：69%；74%：26%，接近后世黑火药的比例。《武经总要》中还记载有一种“霹雳火球”，点燃后声如霹雳，这是制造爆炸性火药武器的开端。随着硝、硫提炼精度和加工工艺的提高，火药的爆炸性能也不断增强。据《金史》记载，公元1232年，元兵攻打金南京(今河南开封)时，金兵曾使用一种叫“震天雷”的武器，“火药发作，声如雷震，热力达10%：16%；德国为75%：10%：15%。半亩之上，人与牛皮皆碎迸无迹，甲铁皆透”，可见爆炸威力之强。
一是管形火器的出现。这是军事史和兵器史上的一个重大事件，表明人们已在更高层次了解了火药的性能，能够更加有效地控制和操纵烈性火药。最先出现的管形火器是火枪，是公元1232年发明的。它用巨竹制成，用以喷射火焰。公元1259年，又发明了突火枪，也是用巨竹制成，内安子窠，点燃后“子窠发出，如炮声，远闻百五十余步”(《宋史》卷一九七，一步为五尺)。这是后世火炮的原始形式。到了宋末或元代，管形火器已改用铜或铁制造，大型的叫火铳，小型的可拿在手上的叫手铳，已经具备近现代枪炮的雏型。
在十二三世纪时，火药及火药武器经海上中外交通和陆上蒙古兵西征，先后传入伊朗、阿拉伯和欧洲，并成为文艺复兴时期攻破封建城堡的有力武器。