日本近代的仲裁制度以及仲裁法的引进是以１８９０年（明治二十三年）《民事诉讼法》第八篇——仲裁程序的制定为开端的。在此之前的有关具体情况，在历史文献上几乎没有记载。
随着日本国家的主权恢复和中央集权的加强，日本政府曾于１８８６年颁布了《民事诉讼法草案》，但在此《民事诉讼法草案》中遗漏了关于仲裁程序的规定。为此，负责此项工作的调查委员会把当时德国《民事诉讼法》第十篇的内容翻译过来补充进去，经过法律委员会审议，最后成为明治二十三年法律二十九号《民事诉讼法》第八篇“仲裁程序”，其中条文几乎是德国仲裁标准对应的文字翻译，这就是一直延用至今的，尚无多大修改的日本仲裁法。
因此，可以说日本仲裁制度是完全模仿德国的仲裁制度而来。
日本的仲裁制度主要体现在两个方面，一方面是仍附属于日本《民事诉讼法》第八篇《关于公示催告程序及仲裁程序的法律》，另一部分体现在日本签订的国际条约与双边条约里。
日本国内法律《民事诉讼法》第八篇７８６条到８０５条，从仲裁协议、选任仲裁员、仲裁程序、仲裁裁决等几个方面加以规定。
日本已经签署、批准的国际公约有１９２３年《日内瓦仲裁条款议定书》，１９２７年《日内瓦外国仲裁裁决公约》，１９５８年《承认及执行外国仲裁裁决公约》，１９６７年《关于解决各国和其他国家的国民之间投资争端的公约》。
双边条约有：《中日两国贸易协定》（１９７４），《日美友好商贸通航条约》（１９７３），《日苏通航条约》（１９７３），《日本波兰通商条约》（１９５８），《日本捷克斯洛伐克通商条约》（１９５９），《日本巴基斯坦友好通商条约》（１９６０），《日本秘鲁通商条约》（１９６１），《日本阿根廷友好通商条约》（１９６７），《日本英国通商条约》（１９６２），《日本萨尔瓦多商贸协议》（１９６３），《日本罗马尼亚通商条约》（１９６９），《日本保加利亚通商条约》（１９７０），《日中通商条约》（１９７４），《日本匈牙利通商通航条约》（１９７５）。
仲裁协议是指当事人之间达成的，将已经发生或将来可能发生的一定实体法律争议，以和解为限，提交仲裁人仲裁的意思表示（第７８６条）。
（１）协议约定的争议具有可仲裁性。仲裁协议约定提交仲裁的争议须为法律规定可以通过仲裁裁决来解决的争议，如果当事人约定提交仲裁的争议依法不具有可仲裁性，则协议无效。日本《民事诉讼法》第７８７条规定：“如果同一定的权利、义务关系和由这种关系而发生的争议无关，关于未来争议的仲裁协议，应属无效。”日本仲裁关于仲裁协议的可仲裁性是和国际上通行的做法相一致的。１９５８年《纽约公约》第２条规定，“仲裁协议中的争议事项所适用的法律是可以仲裁的”。
（２）不能成为当事人和解的标的物是不能仲裁的。如《日本破产法》规定，破产的案件不能进行仲裁，同时日本《民事诉讼法》第７９３条规定仲裁协议出现如下情况也应无效：ａ．仲裁协议中指定特定的人为仲裁员而其中一人死亡，或由于其他原因缺席，或拒绝接受职务，或仲裁员解除其委托，或不当的拖延、履行职务的；ｂ．当仲裁员票数相等，意见相左时，其所签仲裁协议无效（日本《民事诉讼法》第７８８条规定，“如在仲裁协议上没有规定关于仲裁员的人选时，当事人应各选定一名仲裁员，即仲裁员可以是两名”，因此会出现此情形）。
关于仲裁协议是否一定要求书面形式，日本法律并无明文规定，但在实践中对于口头的仲裁协议也加以认可。
日本国际商事仲裁协会推荐的仲裁条款为“当事人之间就直接或间接与本合同所产生的所有争议、辩论或异议，将在日本国（如东京、大坂、神户、名古屋）按照日本国际商事仲裁协会的《商事仲裁规则》仲裁解决。裁决为最终的，对当事人具有约束力”。
日本海运集会所推荐的仲裁条款为：“任何关于合同或协议所产生的争议将提交给日本海运集会所，（东京、神户）按照日本海运集会所《海事仲裁规则》仲裁，仲裁员的裁决为最终裁决并对双方具有约束力。”
日本国际商事仲裁协会和美国仲裁协会根据《日美贸易中促进商事仲裁的使用》，协商推荐下列仲裁条款：“当事人之间就直接或间接与合同有关所产生的所有争议、辩论或异议，将按照１９６２年９月１６日签订的《日美贸易仲裁协议》仲裁解决。裁决为最终的，并对双方具有约束力。”
