怀璧其罪的上一句是：匹夫无罪。这句话的意思是，平民百姓本来没有罪，但只要身藏宝玉，就会被判定为有罪。该句出自《春秋左传·桓公十年》，其引申义是，普通的百姓一般都家境清贫，如果有宝玉，一定是通过不合法的途径得来的。后来该句常用来比喻那些因为有才华而被害的人。