显失公证的行政处罚给公民、法人或者其他组织造成损害国家是否应当承担行政赔偿责任?引起行政赔偿争议以后是否可以提起行政赔偿诉讼?对此，存在两种截然相反的观点。
一种观点认为，因显失公正的行政处罚造成损害引起赔偿争议的，不能提起行政赔偿诉讼，主要理由是：显失公正的行政处罚仍然属于行政机关在法律规定的自由裁量权范围内所作的行政行为，只是存在合理性问题，但不属于违法行为。根据违法责任原则，行使裁量权的行为不产生国家赔偿责任。
我国《行政诉讼法》第5条规定，“人民法院审理行政案件，对具体行政行为是否合法进行审查”，而不是审查具体行政行为是否适当。《行政诉讼法》第54条第4项又规定“行政处罚显失公正的，可以判决变更”。这里，如果“判决变更”在性质上属于合理性审查，它就与《行政诉讼法》第5条规定的合法性审查不完全一致，因为《行政诉讼法》第5条规定并没有给合理性审查留有余地。行政处罚显失公正应当视为合法性审查的标准之一。
对于显失公正的行政处罚决定，作出原处罚决定的机关、复议机关均有权依法定程序予以变更，法院也有权在行政诉讼中作变更判决。显失公正的行政处罚决定经有权机关变更以后，原处罚决定就自然失去效力。例如，有权机关将罚款1000元的处罚决定变更为罚款100元，而前一个罚款决定已经执行，被处罚人显然应当有权要回他依据变更后的处罚决定不应缴纳的900元。又如，行政机关没收了被处罚人用于轻微违法的豪华小汽车后即依法定程序将汽车变卖，而法律又授权处罚机关没收用于违法的工具，经有关机关将没收决定变更为罚款后，被处罚人显然有权要求赔偿。而提起行政赔偿诉讼正是其索赔的最有效的法律途径。因此，显失公正的行政处罚造成损害引起行政赔偿争议，受害人提起行政赔偿诉讼的，法院应当受理，并依法作出裁判。
同样，原告在要求变更显失公正的行政处罚的同时一并提起赔偿诉讼的案件，法院应一并审理。对显失公正的行政处罚，赔偿请求人于法院判决变更后单独提起赔偿的，必须依法由作出显失公正的行政处罚的行政机关就赔偿问题先行裁决，对裁决不服才可以向法院提起行政赔偿诉讼。
