東京都立青山高等学校を経て、1950年（昭和25年）に文学座付属演劇研究所に入所。『崑崙山の人々』にて初舞台を踏んだ。
1963年（昭和38年）の文学座分裂の際には、芥川比呂志、神山繁らと行動を共にし、福田恆存が創立した現代演劇協会附属・劇団雲の創設に参画。1975年（昭和50年）の雲の分裂時には芥川らと離れ、福田が新たに結成した劇団昴に参加、中心俳優の一人として活躍した。
東映、日活など各社の映画やテレビドラマに数多く出演。東映では、石井輝男監督作の映画や『仁義なき戦い』シリーズの常連であった。石井演出の『徳川いれずみ師 責め地獄』（1969年）では悪の刺青師・辰蔵に扮した。その一方で、同年の千葉真一主演映画『日本暗殺秘録』では理不尽な融資打ち切りに遭う温厚な経営者や、テレビドラマ『野性の証明』では沈着冷静に捜査する刑事など、善人・悪人と分け隔てなく演じている。上記作品の他には別項の映画・テレビドラマに出演した。本人は「よく考えてみると、ぼくのやりたいのは、全部、狂人なんだな」と語っていた。
声優としては、洋画でピーター・フォーク、ジーン・ハックマンなどを持役とし、特に『刑事コロンボ』のコロンボ役は小池の当たり役になった。アニメでは『長靴をはいた猫』の魔王ルシファ、『どうぶつ宝島』のシルバー船長などがある。
水面下で文学座離脱・劇団雲結成を画策した首謀者のひとりとされているが、文学座で仲間だった北村和夫によると、文学座の分裂で袂を分かった後も、小池は毎年、死去するまで杉村春子の誕生日に薔薇の花束を贈っていたという。
1985年（昭和60年）3月23日、肺不全のため東京都中央区築地の国立がんセンターで死去。54歳の若さだった。墓地は、世田谷区北烏山の専光寺（烏山寺町内）。
小池の『刑事コロンボ』としての最後の吹き替えは、「黒のエチュード」（120分版）であった。これは、小池が死去する2年前に収録されたものであった。