“尚方”是专门为皇室制造刀剑兵器和珍服器玩的机构，秦已有之，汉负盛名。由于“尚方”所制的宝剑，锋锐无比，利可斩马，所以又被称为“斩马剑”。
中国古代非常重视礼法，由于尚方制剑只能由皇室使用，所以这种宝剑从产生之初就被赋予了皇权和特权。
“尚方宝剑”的称谓源于西汉成帝时，据《汉书·朱云传》记载，直言敢谏的朱云希望皇帝赐给他一把“尚方斩马剑”，用以诛杀皇帝的老师安昌侯张禹。
结果朱云不但没有得到“尚方宝剑”，反而差点丢了性命，这就是历史上著名的“折槛朱云”的故事。在汉以后的几个朝代中，用“尚方宝剑”诛杀奸臣贼子仍然只是人们心目中的美好愿望。
以尚方剑为名，象征专断权力，并有隆重的授剑仪式开始于元代。
据《宋史》记载，在忽必烈时，道士张留孙以神道治愈了皇后的病，“帝后大悦，命尚方铸宝剑以赐”。此时的“尚方宝剑”虽有专断权力的象征，但还没有被用于政务和军事。
建立尚方宝剑制度，并赋予以专断、专杀和便宜行事的权力，开始于明朝万历。据《明史》记载，万历20年，宁夏叛乱，万历皇帝先后赐总督魏学曾、巡抚叶梦熊尚方剑督战，结果战胜。
自此赐尚方剑，授予专断、专杀和便宜行事权力做法开始逐渐频繁起来。直至崇祯17年，李自成进军山西时，崇祯帝还演出了一场赐尚方剑的闹剧。
“尚方宝剑”反映出的是一种人治观念。纵观历史，在汉唐盛世，政治清明时期，“尚方宝剑”只是人民思想中的象征物，在明朝中后期，他才成为现实中的一种制度。真实的包青天生活在宋朝，是不可能有“尚方宝剑”的。
