《行政处罚法》第三条第二款明确规定：“没有法定依据或者不遵守法定程序的，行政处罚无效”。这是行政处罚法定原则的具体表现，同时也表明行政处罚的实施必须依照法定依据和法定程序进行，以防止行政处罚权的违法行使，但这一规定与行政行为的“推定有效”原则(又称“效力先定”原则)及《行政诉讼法》等法律的有关规定不相协调。
首先，行政行为一经作出，就具有法律约束力，自始就推定为合法有效，当事人应当依照行政行为所决定的内容加以履行，这是行政法上公认的规则。作为行政行为之一种的行政处罚，当然也具有这种特征。行政机关作出的行政处罚，是代表国家行使管理权，一经作出就具有强制力和执行力，即使它是不符合法定条件的，在没有被有关国家机关经过一定程序确认为违法并撤销其效力之前，它仍然是有效的，仍然对有关当事人具有法律约束力。当事人如果认为行政处罚缺乏法定依据或者违反法定程序而构成违法处罚，也不能自行否认其效力，而必须先履行行政处罚决定，然后通过行政复议及行政诉讼程序确认该行政处罚是否违法。
其次，依据《行政处罚法》的规定，没有法定依据或者不遵守法定程序的，行政处罚无效。这一规定是否意味着对于符合此类情形的行政处罚，当事人从一开始就可以拒绝接受?从《行政处罚法》第六条的规定来看，对行政处罚不服的，当事人有权依法申请行政复议或者提起行政诉讼。这里所讲的“对行政处罚不服的”，既包括对被最终确认为合法的行政处罚的不服，也包括对被最终确认为违法的行政处罚的不服。即使行政处罚被确认为违法，根据《行政处罚法》第四十五条、《行政复议法》第二十一条、《行政诉讼法》第四十四条规定，当事人在行政复议或者行政诉讼过程中仍应履行原行政处罚决定。显然，简单地规定“没有法定依据或者不遵守法定程序的，行政处罚无效”，会对复议和诉讼期间行政处罚决定不停止执行这一规定带来很大的影响，不利于这一规定的贯彻实施。
再次，行政处罚最终被确认为无效的原因有诸多情形，除了没有法定依据或者违反法定程序之外，还包括主要证据不足的、超越职权的以及滥用职权的情况。对符合这五种情形之一的具体行政行为，《行政诉讼法》明确规定人民法院均应判决撤销，否定其效力。而《行政处罚法》仅仅规定了没有法定依据和不遵守法定程序的行政处罚无效，因而是不全面的。
