1916年夏，叶圣陶与胡墨林女士幸福地结合，一个美满的家庭诞生了。胡墨林，浙江杭州人。父亲早逝，由姑母胡铮子抚养。北京女子师范学校毕业后，在南通女子师范学校任教。1911年，王伯祥认识了计硕民先生，茗谈之际，叶圣陶亦在座。
计先生回家后，与其岳母及妻姐胡铮子女士谈起叶圣陶，说可与内侄女胡墨林议婚。于是由王伯祥、顾颉刚为媒交通信息，互换庚帖及相片，议定婚期。到结婚之日，两人才始见面。婚后，他送胡夫人去南通，自己仍回上海任教。婚后十四年，他这样回忆说：“我与妻结婚是由人家作媒的，结婚以前没有会过面，也不曾通过信。结婚以后两情颇投合。那时大家当教员，分散在两地，一来一往的信在半途中碰头，写信等信成为盘踞心窝的两件大事。到现在十四年了，依然很爱好。对方怎样的好是彼此都说不出的，只觉很适合，更适合的情形不能想象，如是而已。”
