百式冲锋枪外观与设计与MP-18冲锋枪极为类似,木质枪托搭配反冲式枪机,并使用左侧进弹及双排弹荚,结构简单,但无法进行半自动射击;除了既有设计之外,百式冲锋枪在制造上将枪管镀铬以降低磨损及帮助清理,某些枪上还安装了防火帽以降低后座力;为了节省弹药,在设计上加入了降低射速的零件,但除了基本设计以外这把枪支却发生了因为定位问题而出现的特殊设计。虽然日军投入经费进行冲锋枪的开发,但是对于冲锋枪的用途却没有明确认知,百式冲锋枪的成本是当时陆军步兵标准兵器三八式步枪的三倍,加上冲锋枪子弹的超高消耗量,日军高层事实上并不热衷这种单兵武器;日军高层的思维仍然停留在“如果可以一发子弹杀死敌人,又何必发射一堆子弹消耗资源”的想法。在这想法下冲锋枪是不可能成为单兵标准武器,而日军将冲锋枪的定位视为小型轻机枪:在远处先进行单发精准射击,近距离再以全自动射击。
为了这种定位,百式冲锋枪安装了脚架以及可以设计了可以瞄准到1500米外的表尺(当然,冲锋枪根本打不到这种距离);除了脚架以外,日军近距离接战准则中必须使用刺刀进行白刃战以节省弹药,百式冲锋枪就与同时期其他的日本步兵用机枪一样安装上刺刀座,成为独特的设计:一款有脚架(轻机枪功能)有刺刀(白刃战用)的冲锋枪。加装如此多设备的冲锋枪是否可以稳定射击并没有使用者经验证实,但是能确定的是这些多余设备浪费了资源也抵消了冲锋枪的优点,一款武器在错误的作战思维概念下造成如此结果在日军中不仅有百式冲锋枪如此,但百式冲锋枪是最明显的例子。