Õhk-vesisoojuspumba tööpõhimõtte aluseks on termodünaamika II seadus, mis määrab ära iseeneslike protsesside suuna ning ütleb, et soojus ei saa minna iseenesest külmemalt kehalt soojemale.
Küll aga saab soojust pumbata. Lihtsustatult seisneb seadme tööpõhimõte selles, et välisosas asuv kompressor surub gaasilise külmaaine kokku, mille tagajärjel see kuumeneb: soe külmaaine suunatakse soojusvahetisse, kus ta omakorda loovutab soojuse radiaator- või põrandküttesüsteemile. Selles protsessis ei toimu sooja tootmist, vaid välisõhust võetakse soojus ära ja pumbatakse see kompressori abil küttesüsteemi.
Võrdluseks võib tuua veepumba tööpõhimõtte. Kui vesi kõrgemalt madalamale voolab ise, siis alt üles on vaja teda pumbata. Sellisel juhul on pump lihtsalt transpordivahend. Täpselt sama funktsiooni täidab kompressor õhk-vesisoojuspumbas: kui kütteperioodil liigub soojus ruumist läbi välispiirde õue ise, siis tuppa tagasi tuleb ta tuua soojuspumbaga.
