Izmjenjivači topline mogu biti napravljeni od niza različitih materijala, iako se metali, kao što je nehrđajući čelik, obično koriste zbog svoje sposobnosti da apsorbiraju i provode toplinu. Osim metala, za izradu izmjenjivača topline mogu se koristiti i keramika, metalni i keramički kompoziti, te plastika. Svaki od ovih materijala nudi svoje prednosti, što ih čini pogodnim za različite primjene.
Metali nude dobru toplotnu provodljivost, apsorpciju toplote i otpornost na visoke temperature, ali keramika se može koristiti za aplikacije na višim temperaturama od preko 1000 stepeni, koje bi topile metale poput bakra, gvožđa i čelika. Keramika se takođe koristi sa visokim i niskim temperaturama abrazivnih i korozivnih tečnosti.
Plastika, ili polimeri, takođe mogu da se odupru koroziji i prljanju, kao i da su jeftiniji i lakši od metala. Iako se mogu izraditi tako da imaju dobru toplotnu provodljivost, plastika općenito nije prikladna za primjenu na visokim temperaturama. Međutim, s hladnijim aplikacijama, kao što je grijanje bazena ili tuša, plastični izmjenjivači topline rade savršeno dobro.
Kompozitni izmjenjivači topline pružaju prednosti svojih matičnih materijala, kao što su manja težina i otpornost na koroziju plastike uz toplinsku provodljivost i otpornost na toplinu keramike ili metala.
Drugi materijali se također istražuju za upotrebu u izmjenjivačima topline, kao što su male ugljične nanocijevi, koje se koriste kao hladnjaci za uklanjanje topline za elektronske uređaje zbog svojih odličnih svojstava provodljivosti topline.