唐朝末年，火药已被用于军事。唐昭宗天佑元年(公元904年)杨行密的军队围攻豫章，部将郑蹈“以所部发机飞火，烧龙沙门，带领壮士突火先登入城，焦灼被体”。这里所说的“飞火”，就是“火炮”、“火箭”之类。“火炮”是把火药制成环状，把吊线点燃后用抛石机抛掷出去；“火箭”则是把火药球缚于箭镞之下，将吊线点燃后用弓射出。
五代时(10世纪左右)，在我国战场上，又出现了“火毽”、“火蒺藜”。用火药做成火药包，加上助燃的沥青和有毒的砒霜等物即成“火毽”；如果在“火毽”中再塞进些有刺的铁蒺藜，那就是“火蒺藜”。“火毽”和“蒺藜火球”也均装有引线，点燃后用抛石机抛向敌人，“火毽”可以使敌人灼伤中毒，“火蒺藜”则能把敌人刺伤、刺死。
到了宋代，战争接连不断，促进火药武器的加速发展。北宋政府建立了火药作坊，先后制造了“火药箭”、“火炮”等以燃烧性能为主的武器和“霹雳炮”、“震天雷”等爆炸性较强的武器。到了元代又出现铜铸火铳，称为“铜将军”。现在发现的世界上最早的大炮，就是元朝至顺三年(公元1332年)用铜铸造的，至今仍保存在中国历史博物馆里。这种炮，元末农民起义军曾使用过，重量大约有300斤到500斤。到了明代，火药武器又有了进一步的发展，出现了“飞弹”。“飞弹”也叫“震天雷炮”，球形，用竹木扎成，再在表面糊以纸，球身装上两个像鸟翅膀一样的东西，球内装上火药和引火线，引火线烧完，火药就会爆炸，杀伤力比较大。
但这些相对于近代西方火器而言，还只是处于初生阶段，火药发挥真正的威力是在传入欧洲并得到改进之后。