第二代导弹是50年代末至60年代中期发展的，主要型号是美国的“大力神”Ⅰ、“民兵”ⅠA、ⅠB和“民兵”Ⅰ，苏联的SS-7和SS-8等。这一代导弹主要是提高导弹的生存能力和作战性能，发动机改为固体推进剂，反应时间有所缩短，核弹头加装了突防装置，命中精度、威力和可靠性都有所提高。这一代导弹的最大起飞重量为80吨，最大射程为11000公里，命中精度CEP最小已达560米，弹头威力最大1000万吨梯恩梯当量。
