Jako zdroj tepla je možno použít jak povrchovou vodu, tak také podzemní vodu. Povrchová voda se hodí pouze ve vyjímečných případech. Vzniká ohrožení znečištěním (vodní řasy, koloidní suspenze), a nebezpečí, že bude teplota v průběhu roku kolísat (tání sněhu).
Jako zdroj tepla pro tepelná če rpadla voda/voda se zpravidla používá podzemní voda. Podzemní voda má v průběhu roku konstantní teplotu, která je přibližně s 10 °C poměrně vysoká. Z toho vyplývá vysoké výkonnostní číslo. Soustavu tepelného čerpadla je možno používat monovalentně.
Je třeba mít na zřeteli vyšší pořizovací náklady, neboť pro využívání spodní vody je nutno vrtat studně vratné vody a sací studně.
Zásadně přitom vzniká povinnost úředního ohlášení u vodohospodářských úřadů.
Před rozhodnutím pro spodní vodu jako zdroj tepla je nutno přezkoušet, zda je spodní voda ve vhodné hloubce v dostatečném množství a kvalitě k dispozici. Analýzu vody a stavbu studně musí v každém případě provést zkušený studnařský podnik.