我能繼續開未付稅款的發票嗎？
不能，但如果是增值稅進項發票，賣方稅務局開具的發票可能包含在失控票中，所以進項不能抵扣，需要轉出，所以進項不能抵扣，但還是不能退。以上是正式取得發票的情況。如果不是正常業務的發票，除了交這個稅，還會面臨罰款。
公司想繼續開發票該怎麽辦？
盡快去稅務局補繳欠款。攜帶稅務登記證、納稅申報表和代理人身份證明；稅收征收制度是指稅務機關依照稅法的規定征收納稅人應納稅款的法定制度。它是稅收征收管理的中心環節，直接關系到國家稅收的及時足額入庫；納稅人、扣繳義務人應當依照法律、行政法規的規定或者稅務機關依照法律、行政法規的規定確定的期限繳納或者解繳稅款。不按規定期限繳納或者解繳稅款的，稅務機關除責令限期繳納稅款外，從滯納稅款之日起，按日加收滯納稅款0.5%的滯納金。
納稅人未繳納欠稅的，應當定期向主管稅務機關報告其生產經營、資金往來、債權債務、投資及欠稅原因、欠稅清償計劃等情況。申報間隔時間由各地根據欠稅程度確定，但最長不得超過三個月。納稅人有合並、分立、撤銷、破產和大額資產處置的，應隨時向主管稅務機關申報。稅務機關通知納稅人按規定格式申報，稅務機關據此建立欠稅檔案，實現對每個納稅人的動態監控。"