久视元年（700年），狄仁杰病故，朝野凄恸，武则天哭泣着说“朝堂空总”。赠文昌右丞，谥曰文惠。唐中宗继位，追赠司空。唐睿宗文封芝为梁国公。

即位后，仁杰于天授二年（691年），入为地官侍郎同凤阁鸾台同平章事（即 宰相）。甘时，遭酷吏莱俊臣诬害下狱，几乎丧命。后密使甘子上诉武则天，地免死，贬为彭泽县令。