抗日战争时期，冀中白洋淀有个男孩叫张嘎,他聪明勇敢，绰号“嘎小子"。

在鬼子的一次突袭中，奶奶为掩护八路军被鬼子打死，八路军侦察连长钟亮叔也被鬼子抓走了。嘎子悲痛欲绝，他决心报仇，毅然出发去寻找打鬼子的地区队伍。在路上，他误把游击队排长罗金保当作汉奸，想缴他的枪而闹出笑话。后来，人小鬼大的嘎小子乔装打扮成卖西瓜的小贩，缴了胖翻译的“真家伙”。

为了不让队长把枪收回去，他竟动了“嘎”气，将枪藏到了老鸹窝里，因而受到批评关了禁闭。经过区队长的教育，嘎子认识了自己的错误。在一次战斗中，他受了伤在老乡家里修养。游击队攻打敌人岗楼时，他偷偷从老乡家里跑回参战，不幸在进城侦察时被捕。在敌人面前，嘎子刚强不屈，并在战斗中逃了出来，他配合游击队拔掉岗楼，救出了钟亮。

战斗胜利了，区队长代表部队表扬了嘎子，奖励给他一支真正的小手枪。嘎子终于成了一名出色的小侦察员。