是可以的
根據《征管法》第七十三條 納稅人、扣繳義務人的開戶銀行或者其他金融機構拒絕接受稅務機關依法檢查納稅人、扣繳義務人存款帳戶，或者拒絕執行稅務機關作出的凍結存款或者扣繳稅款的決定，或者在接到稅務機關的書面通知後幫助納稅人、扣繳義務人轉移存款，造成稅款流失的，由稅務機關處十萬元以上五十萬元以下的罰款，對直接負責的主管人員和其他直接責任人員處壹千元以上壹萬元以下的罰款。
但是，稅務局做出這些決定時是必須由縣級以上局長簽署文書才可以的，不是隨便就可以查銀行信息的。