真正意义上的幕府制度，形成于秦汉，成熟于魏晋。 秦汉是封建官制体系草创时期，分工不细，机制不完备，各级长官难以单独完成朝廷赋予的职守。
于是，三公郡守开府自辟椽属、令史以为辅佐差使，就成为一种制度而保存下来。 这些属官，初为官内编制，但在实践中逐渐与正规职官有别。
在地方上更为明显。 西汉州刺史为朝廷派出巡察郡国的官员，不能像郡守那样设置开府。 一个刺史统数郡国，照顾不过来，遂“皆有从事史假佐”（《后汉书·百官志》），人员大多由刺史自己招聘。 东汉时,刺史正式成为州级行政长官,更有了“皆自辟除”僚属的权力，幕僚机构随之膨胀。
魏晋南北朝时期的封建官制紊乱，政治动乱，幕僚职能空前活跃，使幕府制度发展成熟。
参军、记室、军师、主簿等幕称的出现，标志着不同于正官系列的幕僚机制在分工、职能方面趋于细化完善。
汉代，三司（大司空、大司马、大司徒）开府，到了魏晋，凡有将军或持节都督等诸军事头衔而开府仪同三司者,不计其数,幕僚侵代和超越正官的现象也逐步达到顶峰，甚至幕府成为取代中央的霸府，并转换成新王朝的行政中枢。
隋、唐统治者一度废禁自辟幕僚制度，但此后仍延续下来,并日趋完善。 唐代节度使幕府编制是法定的,但朝廷又承认无编制限额的惯例。
这时，辟用方式更加多样，拓宽了自聘幕僚的途径，强化了幕主与幕僚之间的主客关系。 宋代中央对幕府制度限制较严，聘用由自辟改为中央任命，大量幕职编入正官。
凡签书判官厅公事、节度观察防御团练推官、判官、节度掌书记、观察支使等幕职官由中央任命。 这意味着直接向中央政权负责，又有监督主官的职能，是幕府制度发展的一个转折。
