Храм находится у подножия горы Као (1397 м), на восточной стороне, в 6 км от реки Меконг, символизирущей океан или Ганг, южнее города Тямпатсак в провинции Тямпасак. Храмовый комплекс Ват Пху занимает внушительную территорию (84 га) у подножья горы, являющейся у индусов священной, так как она имеет форму лингама (мужского начала). Обращен комплекс лицевой стороной к реке.
Ват Пху первоначально ассоциировался с городом Шрестапура на берегу реки Меконг к востоку от горы Лингапарвата, которая позже стала называться Као. Во второй половине V века город уже был столицей царства, связанного с государствами Ченла и Тямпа, примерно в это время были построены первые храмововые сооружения на горе.
Храм был посвящён Шиве, а воды реки под храмом считались священными. В данном храме мастера оттачивали свое мастерство, проводили время в медитациях, а по мнению некоторых ученых, храм также использовался для человеческих жертвоприношений.
По меньшей мере, в годы правления Яшовармана I в 10 веке, Ват Пху уже входил в Кхмерскую империю со столицей Ангкор. Шрестапура переместился в новый город, расположенный к югу от храма. Позднее сооружения были перестроены, при этом частично использовали каменные блоки изначальных храмов. Тот храм, который сохранился до настоящего времени, был построен в периоды Кох Кер и Бапхуон 11 века. Когда империя приняла буддизм тхеравады, храмовый комплекс был немного перестроен.
В 12-13 веке, кхмеры приняли буддизм, и храм был переквалифицирован в буддистский. Теперь по всему святилищу можно наблюдать расставленные статуи Будды, однако они не столь примечательны, как например, в китайских пагодах.
Огромная территория комплекса наполнена чудесными и памятными вещами помимо храмов и дворцов, тут можно увидеть и след Будды, изображение в форме слона, крокодилий камень и множество других занимательных скульптур.
Храмовый комплекс Ват Пху был причислен ко Всемирному Наследию ЮНЕСКО в 2001.