スクリーンでは時に冷徹、時に無骨な男を演じる玉山鉄二ですが、プライベートでは家族思いの良き夫・良き父親としての顔を持っています。
玉山は2012年2月14日のバレンタインデーに一般女性との入籍を発表しました。妻は女優の杏に似た透明感のある美女と報じられており、知人の紹介を通じて知り合い、半年ほどの真剣交際を経てゴールインしたとされています。結婚発表時のコメントでは「彼女の優しさや素朴さに惹かれ、自然体でいられる存在」と、パートナーへの深い敬意を表明していました。
子どもに関しては、2012年8月に長男が誕生し、2017年には第二子となる長女が誕生しています。仕事がオフの日は子どもたちと公園で遊んだり、学校行事に参加したりする姿も目撃されており、家庭内での穏やかな時間が俳優としての強固なメンタリティを支えていることは間違いありません。