根據《稅收征收管理法》的規定，扣繳義務人未征收稅款的，稅務機關應當向納稅人追繳稅款，並對扣繳義務人處以罰款。對於公司的罰款，稅務機關在稅務行政處罰決定書中明確指出，公司是罰款的對象，公司應當承擔繳納罰款的責任。