这取决于违法行为的性质和法律规定。《责令限期改正通知书》本身不是行政处罚，而是要求纠正违法状态的行政命令。根据《中华人民共和国行政处罚法》第三十三条，违法行为轻微并及时改正，没有造成危害后果的，不予行政处罚。初次违法且危害后果轻微并及时改正的，可以不予行政处罚。同时，许多单行法律法规也规定，当事人按期改正后，可以免予或从轻处罚。例如，某些市容管理、消防领域的法规规定，逾期不改正的，才予以罚款。因此，关键在于：1. 是否“及时”改正；2. 违法行为是否“轻微”；3. 是否造成“危害后果”；4. 具体法律如何规定。您应保留好已改正的证据（如整改后的照片、第三方证明等），以便在后续可能的处罚程序中作为申辩理由。