有过则改的上一句是：见善则迁。这句话的意思是，要多和善良温柔的人学习，出现错误就及时改正它。该句出自春秋战国时期左丘明的《左传·宣公二年》，晋灵公滥杀无辜，臣子士季进谏，灵公跟他承诺一定会改，士季闻言，便高兴地对他说：“见善则迁，有过则改，过而不改，是谓过矣。人谁无过？过而能改，善莫大焉。”