河南蒙古族自治县位于青藏高原东部，青海省的东南部。东临甘肃省甘南藏族自治州夏河县、碌曲县，南临甘肃省甘南藏族自治州玛曲县，西北与青海省果洛藏族自治州玛沁县和海南州同德县毗连，北与自治州泽库县为邻，是全省唯一的蒙古族自治县。