Teplo, které je potřeba pro tepelné čerpadlo, nemusí mít příliš vysoký potenciál, tedy není potřeba žádný geotermální pramen. Je jen potřeba zajistit dostatečné množství hmoty, ze které je možno toto teplo čerpat tak, aby její teplota neklesala, případně aby klesala co možná nejméně.
Jako nejčastější zdroj tepla se používá země a to ve formě vrtů, případně plošných kolektorů. Dále je možné teplo odnímat z vody, případně ze vzduchu.
