因為單位犯罪是單位集體決定的。而甲設立公司，目的是虛開發票謀取非法利益，是甲的個人決定。
《最高人民法院關於審理單位犯罪案件具體應用法律有關問題的解釋》中指出：個人為進行犯罪違法活動而設立的公司、企業、事業單位實施犯罪的，或者公司、企業、事業單位設立後，以實施犯罪為主要活動的，不以單位犯罪論處。