小林桂樹的生日是1923年11月23日，出生于日本群馬。

1923年生，父親為警官，從小受到嚴格的家庭教育。大學時代在朝日新聞社打工時，開始有志於電影事業。後進入東寶電影公司主要演小職員角色，奠定了他喜劇演員的基礎。1955年出演《這裡有泉水》，獲每日電影競賽最佳男配角獎；1958年以《裸的大將》獲最佳男演員獎；因主演《黑色畫集、某職員的證言》獲最佳男主角等多個獎項。70年代后以參加電視劇拍攝為多。

小林桂樹曾經參與的電影有三紳士艷遇(1963), 日本沉沒(1974)。