东汉灵帝中平元年(184)置，为四中郎将之一，统兵征讨黄巾，时以卢植任之。建安中，鄢陵侯曹彰任北中郎将。三国魏设有北中郎将一人，为出镇北方的地方军事长官，为刺史加官，秩比二千石，为第四品武官。与左东、右西和南中郎将，同隶属于光禄勋，下辖有司马以及中郎、侍郎和郎中等郎官，宿卫禁中。魏、晋、南北朝沿置，地位重要，多有较固定的辖区和治所。西晋时多镇邺，东晋及南朝常兼徐、兖等州刺史；或持节，都督徐、兖、幽、并等州军事，银印青绶。南朝宋、齐多以宗室为之。梁或置或罢。东魏天平元年(534)都邺后，于洛水置北中郎将府。晋、南朝宋、齐沿置，晋、南朝宋四品。梁初沿置，后省。北魏、北齐皆从三品，北齐时掌京畿北方的关隘渡口。