仲代达矢于1932年12月13日生于东京目黑区一个贫民家庭。早年作为独生子女，仲代达矢少年时代十分孤独，战后才有了一个弟弟。

仲代少年时曾目睹过俳优座（日本话剧团体。1944年2月成立于东京，是日本5大剧团之一）的公演，对千田是也的演技感到震撼。所以在1952年，高中毕业后的仲代，选择作为第4届学生进入俳优座培养所。当时仲代一边在酒吧工作一边致力于演员修行，这一时期的半工半读生涯为他日后在宽广的戏路中塑造各种角色打下了坚实的基础。

1959年他与同是演员的宫崎恭子结婚。1959年，仲代在小林正树的六部（1961年放映）超大型作品（总放映时间约10小时）《做人的条件》中扮演主人公，该作（原作：五味川纯平）摄影时间超过一年半，仲代表现出令导演钦佩了演技。1961年因《做人的条件完结篇》获《每日电影》最佳男主角奖。同年，仲代扮演罪犯的影片《野兽该死》公映。那个时候，各个电影公司都在与仲代进行交涉，希望能与他签定专属的契约合同。另一方面，市川昆的《键》（1959年），成濑巳喜男的《娘·妻·母》（1960年）、《女人步上楼梯时》（1960年），小林正树的《切腹》（1962年）（凭借该片获“蓝丝带奖”的最佳男主角奖）、《怪谈》（1964年）、《夺命剑》（1967年），丰田四郎的《忧愁平野》（1963年）、《四谷怪谈》（1965年）、《杀人狂时代》（1967年）等等，仲代身体力行地与日本最优秀的导演们进行很好的合作。1968年，仲代还参加了意大利电影《野兽拂晓亡》的演出，饰演一个墨西哥、印第安混血的美国人反派角色。1970年，仲代在山崎丰子原作、山本萨夫导演的政治金融电影《华丽的一族》（1974年）、《不毛地带》（1976年）中扮演了主角。

仲代虽然没有与电影公司签定专属的契约，不过他在东宝映画的演出成绩最为卓越。1972年，仲代在NHK的大河剧《新平家物语》中扮演平清盛，甚至清盛出家后的戏份，仲代是真的剃了发才完成扮演的。正是这部戏，仲代引起了黑泽明导演的注意，他先是以反面角色出现在1961年的《用心棒》中，与黑泽明电影中的常客主角三船敏郎演对手戏。

翌年，仲代又参加了《椿三十郎》的演出，1963年，仲代又在黑泽的作品《天堂与地狱》中扮演一名警察。

1980年，他主演了黑泽明导演的著名影片《影子武士》，获当年《每日电影》“蓝绶带奖”的最佳男主角奖。1985年又主演了黑泽明导演的《乱》，这部片不仅使黑泽明荣获第58届奥斯卡奖最佳导演，也让仲代达矢蜚声国际，成为继三船敏郎之后，黑泽明的最佳拍档。

黑泽明曾这样评价仲代达矢在《乱》中的表演：

“没有只言片语，甚至没有太多形体动作，他必须传达出一个最强大的意志、最伟大的灵魂是如何走向崩溃的。他眼睁睁看着自己的城堡被烈火浓烟所吞噬，然后一步步从一尺多高的台阶上走下来。我要求他不能踉跄，也不能看脚下，每次排演的时候，我自己一试，都要两三个人搀扶着才行。正式拍摄的时候，城堡是真的在燃烧，我们只能拍一条。如果他打跌了，就会削弱场面的力量，但我们也只能接受。结果仲代达矢做得太完美了，没有走错哪怕一小步，他眼神黯淡无光，就像真的梦游者或者疯子。”