皮山縣位於新疆維吾爾自治區南部，塔克拉瑪幹沙漠南緣，喀喇昆侖山北麓。東與和田縣、墨玉縣接壤，西與葉城縣接壤，南與克什米爾實際控制區印巴接壤，北與買買提縣、巴楚縣接壤。
位於東經77° 31′至79° 38′，北緯35° 22′至39° 01′。全縣南北長423公裏，東西寬67.5-144.5公裏，總面積41400平方公裏，其中山區占37.9%，平原占22.6%，沙漠占39.5%。適宜耕地占2.3%，適宜牧草占13.1%。
縣人民政府位於國道315旁，距自治區首府烏魯木齊1811.6公裏。