微笑の国（1942年1月7日、日活多摩川） - 職工伊藤
将軍と参謀と兵（1942年3月7日、日活多摩川） - 当番兵
第五列の恐怖（1942年14月16日、日活多摩川） - 木村一等兵
シンガポール総攻撃（1943年4月29日、大日本映画）
マライの虎（1943年6月24日、大日本映画東京） - ハッサン
重慶から来た男（1943年11月11日、大日本映画東京）- 中原精一
菊池千本槍 シドニー特別攻撃隊（1944年1月14日、大日本映画東京）- 藤尾博之
街の人気者（1946年3月7日、大映東京）- 負傷する工員
君かと思ひて（1946年7月4日、大映）- ***平
絢爛たる復讐（1946年7月25日、大映）- 演出助手B
道院の花嫁（1946年9月24日、大映）- 清谷
狸になった和尚さん（1946年11月19日、大映）- 四木先生
二死満塁（1946年12月3日、大映）- 加藤選手
踊子物語（1947年1月7日、大映）
花咲く家族（1947年5月13日、大映）
看護婦の日記（1947年7月1日、大映）
初恋物語（1947年8月19日、大映）
いつの日か花咲かん（1947年12月16日、大映）
運命の暦（1948年1月27日、大映）
山猫令嬢（1948年3月9日、大映）
親馬鹿大将（1948年5月2日、大映）
音楽二十の扉（1948年8月30日、大映）
死美人事件（1948年10月25日、大映）
検事と女看守（1949年2月7日、大映）
毒薔薇（1949年6月6日、大映）
虹男（1949年7月18日、大映東京）
花の日月（1949年9月4日、大映）
人生選手（1949年12月6日、新東宝）
窓から飛び出せ（1950年3月26日、新東宝）
私は狙われている（1950年4月2日、大映東京）
復活（1950年6月10日、大映）
密林の女豹（1950年8月12日、大映）
二十歳前後（1950年10月3日、大映）
鉄路の弾痕（1950年12月23日、大映）
偽れる盛装（1951年1月13日、大映）
消防決死隊（1951年2月10日、大映）
月が出た出た（1951年3月3日、新東宝＝昭映プロ）
その人の名は云えない（1951年5月11日、藤本プロ＝東宝）
西城家の饗宴（1951年6月15日、大映）
有頂天時代（1951年7月6日、新東宝＝綜芸プロ）
戦後派お化け大会（1951年8月3日、新東宝＝藤本プロ）
月よりの母（1951年8月24日、新東宝）
ホープさん サラリーマン虎の巻（1951年10月19日、東宝） - 風間京太
のど自慢三羽烏（1951年11月16日、大映）
めし（1951年11月23日、東宝）
群狼の街（1952年1月14日、大映）
呼子星（1952年2月15日、大映）
ラッキーさん（1952年2月21日、東宝）
息子の花嫁（1952年3月14日、東宝）
金の卵 Golden Girl（1952年5月14日、東宝）
三等重役（1952年5月29日、東宝） - 若原
恋の応援団長（1952年6月19日、新東宝）
東京のえくぼ（1952年7月15日、新東宝）
東京の恋人（1952年7月15日、東宝）
初恋トコシャン息子（1952年8月6日、井上プロ）
クイズ狂時代（1952年9月4日、東映）
続三等重役（1952年9月4日、東宝）
狂妻時代（1952年10月30日、東宝）
一等社員 三等重役兄弟篇（1953年1月3日、東宝）
吹けよ春風（1953年1月15日、東宝）
夫婦（1953年1月22日、東宝）
午前零時（1953年2月12日、東宝）
ひまわり娘（1953年3月26日、東宝）
プーサン（1953年4月15日、東宝）
母と娘（1953年5月27日、東宝）
続思春期（1953年7月1日、東宝）
天晴れ一番手柄 青春銭形平次（1953年8月19日、東宝）
幸福さん（1953年9月1日、東宝）
サラリーマンの歌（1953年9月8日、東宝）
花の中の娘たち（1953年9月15日、東宝）
太平洋の鷲（1953年10月21日、東宝） - 航海参謀
一等女房と三等亭主（1953年11月11日、新東宝）
純情社員（1953年12月1日、南旺映画）
赤線基地（1953年12月8日、東宝）
若い瞳（1954年2月24日、宝塚映画）
坊ちゃん社員（1954年3月3日、東宝）
続坊ちゃん社員（1954年4月4日、東宝）
一等マダムと三等旦那（1954年4月13日、新東宝）
かくて夢あり（1954年6月27日、日活）
若者よ!恋をしろ（1954年7月7日、東映）
学生心中（1954年7月27日、日活）
娘ごゝろは恥づかしうれし（1954年8月3日、今村プロ）
土曜日の天使（1954年8月22日、東宝）
初恋カナリヤ娘（1955年1月8日、日活）
ここに泉あり（1955年2月12日、中央映画）
坊ちゃん記者（1955年3月4日、日活）
のんき裁判（1955年4月24日、新東宝）
サラリーマン 目白三平（1955年5月17日、東映）
制服の乙女たち（1955年5月25日、東宝）
アツカマ氏とオヤカマ氏（1955年7月19日、新東宝）
くちづけ（1955年9月21日、東宝）
続サラリーマン 目白三平（1955年9月27日、東映）
やがて青空（1955年10月18日、東京映画）
風流交番日記（1955年11月8日、新東宝）
青い果実（1955年11月29日、東宝）
へそくり社長（1956年1月3日、東宝）
花嫁会議（1956年1月14日、東宝）
驟雨（1956年1月14日、東宝）
見事な娘（1956年3月6日、東宝）
続へそくり社長（1956年3月20日、東宝）
愛情の決算（1956年3月28日、東宝）
夜間中学（1956年4月18日、日本芸術学部）
婚約三羽烏（1956年4月24日、東宝）
妻の心（1956年5月3日、東宝）
はりきり社長（1956年7月13日、東宝）
新婚第一課（1956年7月20日、東宝）
ある女の場合（1956年8月22日、東宝）
兄とその妹（1956年9月19日、東宝）
のんき夫婦（1956年10月3日、東京映画）
殉愛（1956年10月31日、東宝）
おかしな奴（1956年11月7日、東宝）
大安吉日（1957年1月22日、東宝）
御用聞き物語（1957年2月26日、東宝）
続御用聞き物語（1957年2月26日、東宝）
大番（1957年3月5日、東宝）
美貌の都（1957年3月13日、宝塚映画）
象（1957年4月9日、東宝）
サラリーマン出世太閤記（1957年6月19日、東宝）
新しい背広（1957年8月27日、東宝）
大学の侍たち（1957年9月22日、東宝）
続サラリーマン出世太閤記（1957年11月12日、東宝）
次郎長意外伝 大暴れ次郎長一家（1957年12月22日、東宝）
社長三代記（1958年1月3日、東宝） - 長谷川清（社長秘書）
負ケラレセン勝マデハ（1958年1月9日、東京映画）
続社長三代記（1958年3月18日、東宝） - 長谷川清（社長秘書）
東京の休日（1958年4月15日、東宝）
弥次喜多道中記（1958年4月29日、東宝） - 喜多利屋喜多八
杏っ子（1958年5月13日、東宝）
結婚のすべて（1958年5月26日、東宝） - 声の出演
風流温泉日記（1958年8月19日、宝塚映画）
鰯雲（1958年9月2日、東宝）
続々サラリーマン出世太閤記（1958年9月16日、東宝） - 木下秀吉
裸の大将（1958年10月28日、東宝） - 山下清
弥次喜多道中記夫婦篇 弥次喜多道中双六（1958年12月7日、東宝） - 喜多利屋喜多八
社長太平記（1959年1月3日、東宝）- 大森雄吉
続社長太平記（1959年3月15日、東宝） - 大森雄吉
狐と狸（1959年4月28日、東宝）
男性飼育法（1959年5月19日、東京映画）
サラリーマン出世太閤記 課長一番槍（1959年6月16日、東宝） - 木下秀吉
新三等重役（1959年8月9日、東宝）
サラリーマン十戒（1959年9月20日、東宝）
日本誕生（1959年10月25日、東宝）
新・三等重役 旅と女と酒の巻（1960年1月15日、東宝） - 八代波吉
サラリーマン御意見帖 男の一大事（1960年2月14日、東宝）- 一心太助
黒い画集 あるサラリーマンの証言（1960年3月13日、東宝） - ... 石野貞一郎
サラリーマン出世太閤記 花婿部長No.1（1960年3月29日、東宝） - 木下秀吉
新・三等重役 当るも八卦の巻（1960年4月26日、東宝） - 八代波吉
ハワイ・ミッドウェイ大海空戦 太平洋の嵐（1960年4月26日、東宝）- 連合艦隊/戦務参謀
サラリーマン御意見帖 出世無用（1960年5月28日、東宝）- 一心太助
新・三等重役 亭主教育の巻（1960年7月12日、東宝）- 八代波吉
新・女大学（1960年8月28日、東宝）
がんばれ！盤獄（1960年10月16日、宝塚映画）
サラリーマン忠臣蔵（1960年12月25日、東宝）
名もなく貧しく美しく（1961年1月15日、東宝）- 片山道夫
出世コースに進路を取れ（1961年1月26日、東宝）- 和尚・畑野弘海
続サラリーマン忠臣蔵（1961年2月25日、東宝）- 寺岡平太郎
七人の敵あり（1961年3月18日、東宝）- スパイ社員・桑田壮介
別れて生きるときも（1961年4月4日、東宝）- 朴泰泳
社長道中記（1961年4月25日、東宝）- 桑原武
続社長道中記 女親分対決の巻（1961年5月30日、東宝）- 桑原武
アッちゃんのベビーギャング（1961年9月17日、東宝）- 小出津春男
南の島に雪が降る（1961年9月29日、東宝）- 小林伍長
小早川家の秋（1961年10月29日、東宝） - 久夫
ベビーギャングとお姐ちゃん（1961年12月9日、東宝）- 小出津春男
椿三十郎（1962年1月1日、東宝）- 見張りの武士・木村
放浪記（1962年9月29日、東宝）- 藤山武士
江分利満氏の優雅な生活（1963年、東宝）- 江分利満
白と黒（1963年4月10日、東宝）
われ一粒の麦なれど（1964年、東宝）
侍（1965年、東宝）
けものみち（1965年、東宝）
女の中にいる他人（1966年、東宝）
日本のいちばん長い日（1967年、東宝）- 徳川侍従
首（1968年、東宝）
新撰組（1969年） - 土方歳三
幻の殺意（1971年、東宝）
日本沈没（1973年、東宝）- 田所博士
男はつらいよ 葛飾立志篇（1975年、松竹）
八甲田山（1977年、東宝・シナノ企画）
ホワイト・ラブ（1979年、東宝） - 上村圭介
連合艦隊 （1981年、東宝）- 山本五十六連合艦隊司令長官
ハイティーン・ブギ（1982年、東宝）
父と子（1983年、サンリオフィルム）
ゴジラ（1984年、東宝） - 三田村総理大臣
そろばんずく（1986年、フジテレビ・AtoZ・ニッポン放送）
マルサの女（1987年、東宝）
刑事物語5・やまびこの詩（1987年、東宝）
YAWARA! （1989年、東宝、MYCALグループ） - 猪熊滋悟郎
耳をすませば（1995年、徳間書店、日本テレビ、博報堂、スタジオジブリ） - 西司朗 ※声の出演
愛する 日活 ... 上條老人 1997.10.04
あの、夏の日－とんでろじいちゃん （1999年、プライド・ワン、ピー・エス・シー）
老親 ろうしん （2000年 企画制作パオ、「老親」製作委員会）
母のいる場所（2003年 企画制作パオ）
恋する彼女、西へ。 （2008年、シナジー）
星の国から孫ふたり（2009年 企画制作パオ、星の国から孫ふたり製作委員会）
テレビドラマ [編集]
大河ドラマ竜馬がゆく（1968年、NHK） - 西郷吉之助
不信のとき（1968年、日本テレビ）
金曜ドラマ赤ひげ（1972年10月～1973年9月、NHK） - 新出去定
それぞれの秋（1973年、TBS）
大河ドラマ勝海舟（1974年、NHK） - 大久保忠寛
となりのとなり（1974年10月～1975年3月、日本テレビ）
日本沈没（1974年10月～1975年3月、TBS） - 田所博士
江戸の旋風II～（1976年4月～1978年4月、 フジテレビ）
大河ドラマ風と雲と虹と（1976年、NHK） - 平良将
冬の桃（1977年、NHK） - 西東三鬼
すぐやる一家青春記（1977年7月～10月、TBS）
土曜ワイド劇場「田舎刑事時間よ止まれ」（1977年、テレビ朝日）
せい子宙太郎（1977年11月～1978年5月、TBS）
江戸の渦潮（1978年5月～11月、フジテレビ）
江戸の激斗（1979年5月～12月、フジテレビ）
江戸の朝焼け（1980年、フジテレビ）
歴史の涙（1980年2月25日、TBS） - 阿南惟幾（陸相） 役
土曜ドラマ 戦後史実録シリーズ / 空白の900分－国鉄総裁怪死事件－（1980年10月11日・18日、NHK） - 下山総裁 役
仕掛人・藤枝梅安（フジテレビ）
蛇蠍のごとく（1981年、NHK）
胡桃の部屋（1982年、NHK）
大河ドラマ 徳川家康（1983年、NHK） - 太原雪斎
土曜ワイド劇場牟田刑事官事件ファイルシリーズ（1983年～、テレビ朝日）
大河ドラマ春の波涛（1985年、NHK） - 福澤諭吉
NHK特集「THE DAY その日～1995年・日本～」（1985年～1986年、NHK）
水曜グランドロマン「ハラスのいた日々」（1989年、日本テレビ）
安川刑事シリーズ（1989年～1991年、フジテレビ）- 安川刑事
火曜サスペンス劇場弁護士・朝日岳之助シリーズ（1989年～2005年、日本テレビ） - 朝日岳之助
凪の光景（テレビ朝日、1990年）
日本一のカッ飛び男（1990年、フジテレビ） - 倉田武人
七人の女弁護士（1991年～1993年、テレビ朝日） - 保坂正国
定年、長い余白（1993年、TBS）
イエローカード（1993年、TBS）- 矢坂三郎 役
連続テレビ小説かりん（1993年10月～1994年4月、NHK）
東芝日曜劇場お兄ちゃんの選択（1994年、TBS）
パパ帰る‘96（1996年、ANB）
ドラマ新銀河今夜もごちそうさま（1997年、NHK）
番茶も出花（1997年～1998年、TBS）
飛んで火に入る春の嫁（1998年、テレビ東京）
土曜ワイド劇場牟田刑事官VS終着駅の牛尾刑事そして事件記者冴子シリーズ（2001年～2005年、テレビ朝日）
少年たち3（2002年、NHK） - 沢田
仔犬のワルツ（2004年、日本テレビ） - 倉田房雄（特別出演）
終りに見た街（2005年、テレビ朝日） - 背負い籠の老人
HOTEL（TBS）
マグロ（2007年1月4日･5日、テレビ朝日） - 石田・組合長
拝啓、父上様（2007年、フジテレビ）
父親が警察官という家庭に生まれる。
桂樹の名はオリンピックの勝利のシンボル月桂冠のもととなる月桂樹にちなんで命名したという。1934年に前橋市立桃井小学校を卒業、宇都宮の陸軍幼年学校を受けるが不合格となり県立前橋中学校に進学。芝居や映画は元々好きであったが、在学中は友人からよく映画などに誘われてもきちんと校則を守り、一度も映画館に足を運ばなかったというまじめ人間だった。しかし中学4年の時に父親が病死したため、千葉県市川市に住んでいた伯父を頼って一家が引っ越し、桂樹のみ父親の同僚の家に下宿して通学する。前橋中を準卒業という形で出て、
その後は日本大学専門部芸術科（現在の日本大学芸術学部）に進むも学費が払えぬようになり、
1941年に中退する。
大学時代にアルバイトで伯父の勤めていた朝日新聞社検閲部の給仕を勤め、津村秀夫や飯沢匡などの映画評論家や映画記者と接するうちに映画の世界に憧れを持つようになる。平凡なサラリーマンにはなるまいと思い、相談した伯父からは自分の好きなことをやれと勧められ、また給仕仲間から一緒に役者にならないかと誘われる。日活、東宝、松竹の入社試験を受け、唯一学歴を問わなかった日活へ入社、日活演技研究所の研究生となる。1942年に『微笑の国』の工員役でデビューし、さらに3作品に出演する。翌1943年に日活の製作部門が新興キネマ、大都映画と合併し新会社大日本映画製作株式会社となり、自動的に専属となる。ここでは『菊池千本桜』の松尾大尉役で主演するが、
8月に徴兵検査を受けて甲種合格となり、
12月に召集される。
終戦により復員して、1946年の『君かと思ひて』で戦後初出演、折原啓子の恋人を演じて二枚目として売り出す。1951年『その人の名は言えない』で急遽出演できなくなった千秋実の代役として主演したことがきっかけで、二枚目でも三枚目でもない独自の演技が周囲に認められはじめ、次第に頭角をあらわす。1951年に東宝のサラリーマン物『ホープさん』で主役を務め、そのユーモラスで明るいキャラクターが注目され、1952年に藤本真澄に誘われて東宝と契約。源氏鶏太原作の『三等重役』やそれに続く森繁久弥が主役の『社長シリーズ』（1956年～1971年）のすべてに出演。真面目で頑なな秘書役など、
平凡で健全な一般庶民を演じて人気を得た。
1955年に今井正監督の『ここに泉あり』で毎日映画コンクール助演男優賞を受賞、さらに1958年には出演百本記念映画として制作された『裸の大将』で実在の画家・山下清を演じ、同映画コンクール主演男優賞に輝く。精神薄弱者（当時の名称）を馬鹿にした映画だと一部からは非難されたが、劇中でのどもりながらの台詞「兵隊の位にすると…」は流行語になった。1960年に『黒い画集・あるサラリーマンの証言』、1961年には松山善三の監督デビュー作『名もなく貧しく美しく』に主演し、喜劇のみならずシリアスなドラマでも活躍、特に『黒い画集』ではキネマ旬報男優賞、ブルーリボン大衆賞、毎日映画コンクール主演男優賞と、各映画賞を総なめにした。1963年には岡本喜八監督、山口瞳原作の『江分利満氏の優雅な生活』で戦中派の中年サラリーマンを演じ、毎日映画コンクール主演男優賞、日本映画記者会賞最優秀男優賞を受賞する。
『裸の大将』や『黒い画集』などで小林と長く接してきた堀川弘通監督に
「きわめて平凡な人間の姿から非凡な演技がほとばしり出るかけがえのない俳優」と評される。
しかし、映画界が衰退していくにつれ小林に向く企画も減り始めてからは、植木等の無責任男や加山雄三の若大将の台頭もあって次第に小林の演じる庶民像は時代とのズレが目立ち、批評家からは戦前の古いモラルの殻からぬけきれず、戦後の時代になってもそれを背負って生きている、良くも悪くも戦中派の代表格と評されるようになる。この頃からテレビの出演が増え始め、その明るいキャラクターから1966年にはTBSの『おはよう・にっぽん』の司会者に抜擢されたが、視聴率が上がらず降板する。
1973年、小松左京原作のベストセラー小説を映画化した『日本沈没』では、日本の危機を示唆する田所博士役を演じ、翌1974年から放送されたテレビドラマ版『日本沈没』でも引き続き同役を演じて好評を得た。1983年にはフジテレビの『森田一義アワー 笑っていいとも!』のテレホンショッキングに出演。1984年には9年ぶりに復活した『ゴジラ』で三田村清輝内閣総理大臣役を演じた。
テレビ朝日の『牟田刑事官事件ファイル』では1983年の第一話から2007年の最新話まで主役を務めているが、NHKの金曜時代劇『山田風太郎からくり事件帖～警視庁草紙より～』出演期間中の2001年に緊急入院するなど健康状態が危ぶまれた。最近ではツーカーの「ツーカーS」のCMに出演している。
アニメーション作品では、ウォルト・ディズニーの『わんわん物語』で主人公・トランプ、スタジオジブリ制作の映画『耳をすませば』で「地球屋」の主人・西司郎（主人公の恋人の祖父）を演じた。
甥のさいとうあきひこはNHK『ステージ101』にヤング101のメンバーとして出演し、音楽活動を続けていた。
2010年9月16日、心不全のため亡くなった。享年86。
