建中靖国元年（1101年）七月，苏轼在常州（今江苏常州）去世，临终前以不见苏辙为憾。苏辙得知后，在悲痛中为其撰祭文，不久又作《追和轼归去来词》，其后作《东坡先生墓志铭》。
崇宁元年（1102年）五月，宰相蔡京当国，党祸复起，苏轼等已去世的元祐党人，原追复官告并缴纳；苏辙等在世之人，并不与在京差遣。同年，朝廷削苏辙五官，降授朝议大夫。
崇宁二年（1103年），苏辙为避祸，独自迁居汝南。十月，朝廷罢苏辙提举太平宫之职。苏辙住在许州，又被授以太中大夫致仕。
崇宁三年（1104年）正月，苏辙在颍川定居，因感于元祐时人所剩无几，于是筑室曰“遗老斋”，自号“颍滨遗老”，终日读书著述、默坐参禅，谢绝宾客，决口不谈时事，将所感皆寄托于诗中。
崇宁五年（1106年）九月，撰成《颍滨遗老传》及《栾城后集序》。次年，著《论语拾遗》。
大观二年（1108年），苏辙复任朝议大夫，迁任中大夫。
政和元年（1111年），撰成《栾城第三集序》。
政和二年（1112年）春，游颍昌西湖，泛赮水，并有诗作。九月，以太中大夫职致仕。十月三日（10月25日），苏辙逝世，享年七十四岁。十二月，朝廷追复苏辙为端明殿学士，特赠宣奉大夫。原拟葬苏辙于眉州祖茔，但后来仍葬于郏县小峨眉山苏轼墓旁。
