公元1843年（清道光二十三年），洪秀全创立拜上帝教，冯云山和他共同密图革命。
冯云山一向与贫苦农民接触，使他同情广大农民的困苦，并产生对现实社会的不满和憎恨，到鸦片战争后，又看到清朝的腐朽和民众普遍反清，于是离开原来的阶级，走上起义的道路。
公元1851年（清咸丰元年/太平天国辛开元年）二月，洪秀全在武宣东乡称天王，立幼主，封军师，建立太平天国。
授冯云山为前导副军师。太平天国采取以主（天王）和军师构成的政体，君主为最高元首，临朝不理政，政务由军师负责。形成了这种把农民民主主义和君主制独特地结合在一起的政权。
拜上帝会密谋起义时，洪秀全称天父第二子，冯云山称天父第三子，杨秀清称天父第四子，韦昌辉称天父第五子，杨宣娇称天父第六女，杨宣娇丈夫萧朝贵称为“帝婿”，石达开称天父第七子。
太平天国称呼制度，尊者为兄，卑者为弟。现存天兄圣旨，从戊申年九月间萧朝贵假托天兄下凡直到庚戌年正月天兄下凡所有说到冯云山、杨秀清、萧朝贵的地方，都把冯云山名列杨、萧上。
从这个排班来看，那时是以冯云山坐第二把交椅的。再从李秀成自述原稿所说“谋立创国者出南王之谋，前做事者皆南王也”的群众公认来论，冯云山也是应该第二把交椅的。只因到决定起义时，杨秀清、萧朝贵要夺取起义领导权，要夺取军师的权位，由萧朝贵假托天兄下凡，用天兄的意旨命令洪秀全、冯云山去“避吉”（太平天国讳凶为吉，避吉就是躲藏），把他们甩在一边。军师权位遂为杨、萧所夺。冯云山的副军师只是一个虚衔，实权都在杨、萧手。
