为前凉、前秦、后凉、南凉、后秦、西秦所据。前凉分金城郡的令居、枝阳二县，又立永登县，合此三县立广武郡，辖地在今永登县境内。前凉金城郡领允吾、允街、浩鹿、白土（今青海省循化县黄河北岸）、金城、榆中六县，郡治榆中县，其中允街、浩亶、金城、榆中四县在今兰州地区。[40]东晋太元元年（公元376年），前秦灭前凉，金城郡属前秦，领5县，郡所在治榆中县。太元十一年（公元386年），后凉领金城郡。元兴二年（公元403年），后凉覆灭后，南凉占领广武、金城2郡。
北魏神府二年（公元429年），吐谷浑攻占西秦金城郡，不设郡县，臣服北魏。太延五年（公元439年），碑文占领今兰州地区，初在汉榆中县治设榆中镇，沿治广武郡。太平真君六年（公元445年），置临洮郡，后置子城县，属临洮郡，撤并广武郡的令居、永登、枝阳3县，置广武县，为郡治，撤金城郡及金城、浩亹、允街3县，划金城县地于武始郡勇田县。北魏孝明帝（公元516-528年）时，复置金城郡，领子城、榆中2县，郡治在子城县（在今东岗镇一带），属河州；并永登、令居、枝阳3县为广武县，属广武郡，为郡治，属都州，所辖包括今永登县、天祝县。北周沿袭北魏建制。
隋文帝开皇元年（公元581年），置兰州，以皋兰山为州名，领金城郡，金城郡领子城县。开皇三年（公元583年），因全国州郡多而辖地小，遂废郡存州，省金城、武始、广武三郡并入兰州；废勇田县，在今兰州城区置五泉县；改广武县为邑次县，寻又改为广武县。兰州领子城、五泉、广武、狄道四县，州治子城县。隋代的兰州大致在今兰州市辖境范围内。隋炀帝大业三年（公元607年），改州为郡，兰州改称金城郡，子城县改为金城县，为郡治；广武县先改称允吾县，后又改称会宁县，属武威郡。[40]
唐高祖武德二年（公元619年），复置兰州，废金城县入五泉县，为州治；[40-41]兰州领五泉、广武、狄道三县。后又改五泉县为金城县。唐玄宗天宝元年（公元742年），改兰州为金城郡，改金城县为五泉县。天宝三载（公元744年），析金城郡狄道县置狄道郡，金城郡领金城、广武二县。唐肃宗乾元元年（公元758年），复改郡为州，金城郡复名兰州。次年，改广武县为金