Тепловые насосы «грунт-вода» в качестве теплообменников используют вертикальные геотермальные зонды (оптимальны для небольших участков) или горизонтальные геотермальные коллекторы со значительной площадью размещения. При использовании геотермального зонда незамерзающий теплоноситель, забирающий тепло у грунта, циркулирует в двух U-образных пластиковых трубах в вертикально расположенной скважине диаметром, равным диаметру CD-диска. Поскольку на глубине 10 метров температура грунта примерно постоянна в течение года, использование геотермальных зондов особенно эффективно зимой, при низких температурах окружающей среды. Оптимальная глубина погружения геотермального зонда зависит от теплопотребления, теплопроводности грунта, а также мощности теплового насоса. При новом строительстве она составляет в среднем 100 метров. В летний период геотермальные зонды можно эффективно использовать для пассивного охлаждения помещений.

Геотермальные коллекторы для тепловых насосов «грунт-вода» представляют собой горизонтально расположенную систему труб, размещаемую ниже горизонта промерзания грунта — примерно на глубине от 1,0 до 1,5м. Для одноквартирного дома площадь размещения коллектора должна составлять 200-250 м2. Этот участок нельзя занимать постройками или бетонировать, делая непроницаемым, поскольку грунт получает тепло благодаря дождевым водам и солнечному излучению.