1886年に温泉が発見された。その後1899年（明治32年）に幌別から当地までの道路を開削し開湯した。この地はペンケユと呼ばれていたが、チェコスロバキアのカルルスバード温泉に似た泉質であったことから、カルルス温泉と名付けられた。
日露戦争後期から陸軍の保養所が置かれたことにより、知名度が上がり栄えた。
戦中、戦後と温泉地は衰退したが、昭和32年9月27日厚生省告示第310号により国民保養温泉地に指定。1961年（昭和36年）にはスキー場が開かれた。また新たな源泉掘削の成功により、各旅館に内湯を備える事が可能になった。カルルス