小家鼠别名小耗子、小鼠类，体型小，体重9~20克；体长60~100毫米；尾长短于体长或等于体长。头较小，吻短，耳圆形，约11~14毫米，明显地露出毛被外。体背毛呈棕灰、灰褐或暗褐色，毛基部黑色，腹面白色、灰白色或白黄色；尾两色，背面较深为暗褐色，腹面稍浅呈沙黄色；四肢细弱，后足较短，仅略大于耳长，不足19毫米。雌鼠乳头5对。毛色随季节、环境变异较大。四足背面呈暗褐色或污白色。头骨略细长，吻部短，脑颅低平，额骨微向上拱。 门齿孔较长，其后缘超过第一上臼齿前缘的连接线。无眶上脊和颞脊。听咆小，且较扁平。上颌门齿的后缘有一极明显的缺刻，为其分类鉴定的主要特征。