日耳曼人发源于欧洲西北部，斯堪迪纳维亚才是最正宗的日耳曼发源地。“日耳曼人Germani”是古罗马人用来指称罗马文明世界的东北边境之外，莱茵河东岸、多瑙河北岸（也就是现如今大约在德国、波兰、荷兰、丹麦、瑞典南部这一范围之内）那些操着相似的语言、野蛮而未开化部落的泛称。
这种情况可以参看中国古代对于戎狄的称呼。所以日耳曼人本身并非一个严格意义上的民族，而是一个语言、文化、习俗相近的众多部落的集合。
一般来说，日耳曼人分成三个分支：
东支日耳曼人，如哥特人、汪达尔人和勃艮第部落。
西支日耳曼人，如法兰克人、勃艮第人、巴伐利亚人、盎格鲁人、萨克森人、切鲁西人、卡狄人（后来的黑森人）、日德兰人（朱特人）等等。
北支日耳曼人，如伦巴底人等。
在公元前一世纪罗马征服高卢之前，一些日耳曼人就已经迁居到莱茵河以西，生活在现今比利时到瑞士以北。屋大维带领下的罗马人在公元前后试图征服过日耳曼人居住之地，也取得过阶段性的胜利，一直打到易北河，但是日耳曼人战斗力惊人，在条顿堡森林战役中将罗马军队全歼。此后罗马撤回莱茵-多瑙边境，没能征服日耳曼人。
公元五世纪开始，罗马帝国衰落，日耳曼人在人口和匈人入侵的压力之下，不停入侵西南方向的罗马帝国。最终在公元五世纪中后期，西罗马帝国被他们眼中的蛮夷—日耳曼人灭掉。后来日耳曼人在罗马帝国的废墟上建立了法兰克王国，范围大约就是今天的德国、意大利和法国。
其中，盎格鲁人、萨克森人渡过英吉利海峡，侵占了英国南部。所以英格兰也是日耳曼人建立的国家。
所以笼统来讲，今天的西欧、中欧大部分国家都算是日耳曼人的后代。
最开始的有关日耳曼人的记录来自于前2和前1新世纪的古典风格文学家。从约200年逐渐日耳曼人逐渐应用一种自身的文本。先前的历史时间仅有根据考古学和应用语言学（比较语言学）的方式来资格证书了。
日耳曼语言根据对每个日耳曼语言（歌法语、古规范法语、古英语、古斯堪的纳维亚语）的细心较为和日耳曼语言与其他印欧语言的较为语言学家能够大部分复建日耳曼语（也称“前日耳曼语”或“泛日耳曼语”）。这种较为最关键的结果是：
日耳曼语归属于印欧语言，在这个语族中它归属于其西方国家的一支。
在印欧语系中日耳曼语与凯尔特语和古意大利文最贴近。这三种语言表达一起构成古欧洲语言。前3或2上千年时，换句话说青铜器时代的初期，古欧洲语言是中欧的语言表达。但其精准的地址和时间今日早已难以资格证书，或是异议非常大。
日耳曼语言中间十分类似，这很可能表明他们有较长的一同演变的时间。大部分语言学家将前日耳曼语从凯尔特语和古意大利文提取的时间列入前2上千年上半叶。
日耳曼语提取后它仍然与凯尔特语有触碰。一些凯尔特语的语汇被日耳曼语使用。除此之外日耳曼语对芬兰语也是有危害。一些日耳曼语的语汇在芬兰语中发生（例如君王，日耳曼语为kunningaz，芬兰语为kuningas，或是戒指，日耳曼语为ringaz，芬兰语为ringas等）。
最开始应用“日耳曼人”这个词的是古希腊史学家波希多尼。他在约前80年时第一次应用这个词。或许他在与中欧的某一个今日没法资格证书的小中华民族触碰时听到了这个词并将它用于叫法全部的日耳曼中华民族。有可能那样一个小中华民族的姓名之后变成了全部中华民族群的名字。
日耳曼人的历史公元51年恺撒在他的《高卢战记》中应用了日耳曼人这一名字。恺撒在东部地区高卢战争中，将来自于莱茵河东部地区的已凯尔特化的敌人以及他混合人口数量通称为日耳曼人。而在这里为前希腊人将欧洲西部的中华民族称之为湖人，而欧洲东部的中华民族被称作赛阿拉瓦人。到这时截止，罗马帝国优秀人才了解到日耳曼人并不是湖人，只是一个单独的中华民族群。
塔西佗说湖人称莱茵河东侧的中华民族为“日耳曼人”，之后这种中华民族自身也称自身为日耳曼人。依据这一描述这个词有可能是以凯尔特语回来的。严苛地说仅有从这个时候逐渐大家才可以将这种中华民族称之为日耳曼人。欧洲北边的青铜器时代的人基本上能够肯定是日耳曼人。而说白了的烈刃人和日耳曼人中间的关联也有异议。全新的基础理论根据对江河和地名大全的科学研究觉得日耳曼人的造成地在今天法国中间山区地带的北边。但大部分专家学者对这一基础理论持猜疑心态。
塔西陀时期，每个日耳曼中华民族都意识到相互之间存有一种直系血亲。一些在罗马帝国部队中服现役的日耳曼人有时候会自称日耳曼尼(Germani)，而这些日常生活在莱茵河东侧的随意日耳曼人则没有一个专业用于称呼自己的团体姓名，直至西元11新世纪时，她们才选用了diutisc(当代法语deutsch，意为“归属于大家的”)这一修饰词来源于称，从而这个词才时兴起来。对于Germani这个族名及该族所用语言，其确切涵义尚不可考。