按照传统的说法，中国武术起源于古代战争，战国时期士兵们在战争中掌握的一些搏击竞技技巧经过慢慢的发展与演化就形成了后来的中国武术。但是也有一些观点认为中国武术起源于原始社会。当时的人类用棍棒等工具与野兽搏斗，人们觉得野兽可以和很多人对抗 ，就开始模仿野兽的动作，从最开始的熊、狼、到鹤、蛇、螳螂等等。少林武术有很多也是相形拳，这个时代叫做拳术时代。而商代产生田猎更被视为武术训练的重要手段。武术的起源没有确定的时间，先人在狩猎时掌握了搏斗的技巧，这些都为以后士兵在战场上应用搏斗技巧铺好了路。除了这两种观点之外《中国武术——历史与文化》一书却提出武术虽然部分来自军事需要，但是大部分还是来自民间的私斗。军事用途的武术和民间武术的要求不同。对于中国武术的起源的观点大致就这三种说法。无论是哪一种观点都各有各的道理，毕竟中国武术的起源不能限制在某一段时间某一项活动上。
中国武术自它出现之时起就和搏斗有关，武术在各各朝代由于军事等原因得到不同程度的发展。春秋战国时期，各诸侯国都很重视格斗技术在战场中的运用。
齐桓公举行春秋两季的“角试”来选拔天下英雄。在商周时期，武术为舞蹈的一种形式。通常利用“武舞”来训练士兵，鼓舞士气。周代设“序”，“序”等学校中也把射御、习舞列为教育内容之一。战国时期剑的制造及剑道都得到了空前的发展，将领、游侠、剑客、一些帝王、大夫以上的人都必须配剑和日本一样是一种礼仪。剑起源于
黄帝时期，是短兵器的一种，脱胎於矛形刺兵及短匕首。据黄帝本纪云：「帝采首山之铜铸剑，以天文古字铭之」；又据管子地数篇云：「昔葛天卢之山发而出金，
蚩尤受而制之，以为剑铠」。可见黄帝与蚩尤都已铸剑为兵。弓剑的出现要比箭的出现早的多，弓箭至少出现于距今2万年前，但是直到距今约5600年的
新石器时代才出现用剑杀人的实例。
秦汉时期，盛行角力、击剑，有宴乐兴舞的习俗。
鸿门宴中即有项庄舞剑。其形式更接近于今天武术的套路。汉代枪的应用达到颠峰，各种枪法开始出现。据传
华佗首创“五禽戏”，使得中国武术得到广泛推广。
三国时期四处弥漫在战火之中，武术没有较大的发展，但是士兵的格斗术有很大的提高，逐渐演变成后来的武术招式。
北魏时期
少林寺的建立可谓是对中国武术文化具有深远意义，少林寺僧众习武源远流长，少林建寺初期，即有武装僧众保卫寺庙财产。隋朝末年，天下大乱，群雄混战，割据洛阳的
王世充与占据关中的
李世民在嵩山一带厮杀。少林寺洞察时局，决定站在李世民一边。寺僧率众以拒伪师，帮了一代英主的大忙。李家天下坐稳后，少林寺“屡被恩宠”，还被特准建立武装僧兵。从此，少林寺形成育经拜佛与练武并重的传统。之后少林寺慢慢就成了中原武林的泰山北斗。并且有着“北宗少林，南崇武当”的说法，可见少林寺对中国的影响之大。
到了唐朝
武则天设立了武举制度，并用考试的办法授予一定的称号，这大大促进了武术的发展。此时武术已经成为一种文化形式，这个时期武举人的选举大大刺激了武术的发展，并且产生了流派，各大武林门派纷纷成立。也是在这段时期，中国武术开始影响到
东南亚各国。
宋元时期，以民间结社的武艺团体在乡村习武成风，镖局、帮会、派系、浪迹江湖，有习练枪棒的“英略社”，习练弓射的“弓箭社”等。也出现了浪迹江湖，习武卖艺为生的“路歧人”。有单练、对练的形式。 所谓的武林也是继宋元之后才出现的。中原武林给大家的印象应该是最深的，中原指今河南省一带； 广义的中原或指黄河中、下游地区，或指整个黄河流域。中原是“北起并州上党，西届司州弘农，东达扬州淮南，中至新蔡、安丰。”这个范围主要是现在的河南，还包括山西南部，江苏西部及安徽西北部少数地方。“客家之源在整个古
中原地区，具体说长城以南、长江以北的辽阔地带。”这样说来，上面所说的中原，那就是个“小中原”了，客家先民在900多年的三次大迁徙，“他们途中经过除河洛地区”之外的其他辽阔地区。受到秦陇文化、燕赵文化、晋赵文化、齐鲁文化、荆楚文化、吴越文化的多元影响。可见“古中原”地区多么广阔。