秦汉官制设有少府，少府设尚方令，尚方丞，其职责掌御刀剑及玩好器物，到汉末分为中、左、右三尚方，之后历代沿袭，到了唐代，尚方宝剑成了至高无上的象征，本来就是皇帝的御用兵器，赐予元老重臣，赋予特权，在外即可先斩后奏。

《汉书朱云传》：汉成帝时，诤臣朱云上书：“臣愿赐尚方斩马剑，断佞臣一人张禹之头。”张禹时为丞相，且是汉成帝刘骜的老师，正受宠幸。成帝大怒：“小臣居下讪上，廷辱师傅，罪死不赦。”命御史将朱云绑下，朱云紧抱殿前栏杆，据理力争，以至栏杆为之折断。左将军辛庆忌为朱云求情，幸免朱云一死。这就是“折槛朱云”的著名故事。朱云要求的尚方斩马剑，即民间俗谓的尚方宝剑，也叫上方宝剑。