1895年，海尔担任叶凯士天文台首任台长。1897年，他又被聘为芝加哥大学天体物理学教授。进入20世纪之后，海尔又开始规划筹建一座不隶属于任何大学的独立的一流天文台。在加利福尼亚州帕萨迪纳东北方48千米处有一座海拔1800米的威尔逊山，经考察那里是进行天文观测的极佳地点，海尔便筹划在此建一座新天文台——威尔逊山天文台。经过他多方奔走，这一规划获得了卡内基基金会的一大笔资助。于是他一面留任叶凯士天文台台长(直至1905年)，一面又开始了威尔逊山天文台的筹建工作，并在1904～1923年任该台台长。
威尔逊山天文台率先开展的一项工作是对太阳的观测研究。为了细致地研究太阳光谱，就必须有色散度很高的太阳光谱仪，它体积庞大，又很沉重，无法直接挂在望远镜的终端，因此最好的办法是将它固定在实验室中。那么怎样才能保证太阳横空而过时，其光束始终不变地射向该光谱仪呢。海尔采用了一种“定天镜”系统，它由两块平面镜组成，凭藉其相对位置的变化和不断地绕轴转动，可使得太阳光束始终沿水平方向投向某个固定方位，然后在那里安装高色散的太阳光谱仪进行观测。这种仪器被称为“水平式太阳望远镜”。根据这一构想，威尔逊山天文台建成了第一架这样的望远镜，但它未及使用就被一场大火所焚毁。这时海伦·斯诺小姐慷慨捐款10000美元，建成了第二台水平式太阳望远镜，它又被命名为“斯诺望远镜”。1904年，海尔用它拍摄到第一张黑子光谱片。通过对黑子光谱的分析，他获得了黑子温度低于日面其他区域温度的结论。海尔还发现，由于阳光照射下地面上升气流的湍动，水平式太阳望远镜的成像质量往往不理想，于是他又构想出一种新方案，让定天镜反射出来的太阳光束不是在水平方向保持恒定，而是垂直地从上到下保持恒定，同时还用一座空心圆塔将这条太阳光束保护起来，使它与塔外地面上的上升热气流相隔离，然后在塔的底部装上一块平面镜把射来的太阳光束反射到太阳光谱仪等设备上。这种装置被称为塔式太阳望远镜，简称太阳塔，其成像质量远比水平式太阳望远镜好得多。1908年，海尔建成了高约18米的太阳塔，凭藉它所获得的高质量、高色散的太阳光谱，他发现太阳黑子区有些谱线竟是双重甚至三重的。这是什么原因造成的呢。他想起了荷兰物理学家塞曼的重要发现。1896年塞曼指出，在强磁场中的光源发出的谱线会发生分裂，如果视线方向和磁力线方向平行，谱线就分裂为二，两子线分别离开谱线中心位置，各自向红端与紫端位移；如果视线方向和磁力线方向垂直，谱线就分裂为三，除上面两条子线外还会在该谱线的原来位置上存在一条子线。塞曼还指出，磁场强度越大时分立子线间的间距也越大，这一重要发现后来被定名为塞曼效应。通过仔细的研究，海尔发现太阳黑子谱线的分裂现象正是由于黑子具有强磁场而引起的，他还据此推算出黑子的磁场高达十分之几特斯拉(1特斯拉等于10000高斯)。
1912年，海尔又主持建成了高46米的更精良的太阳塔，并配以高色散的太阳光谱仪。用它对太阳的进一步观测研究发现，不仅黑子存在磁场，而且整个太阳还存在着普遍磁场，其磁场强度比黑子磁场要微弱得多，1930年他测得太阳普遍磁场的强度为万分之四特斯拉。
使用上面提到的两座太阳塔，海尔等人对太阳黑子进行了长期的观测研究。他发现黑子也有通常偶极磁场所拥有的N极和S极，而且太阳表面以赤道为分界的南北两个半球上，所有的双极黑子群中的前导黑子和后随黑子都具有不同的极性，不同半球上的前导黑子的极性正好相反，后随黑子的极性也正好相反。
在海尔以前，天文学家都根据太阳黑子的多寡来划分，认为太阳黑子存在着11年的周期性，但海尔等人却在1913年发现，当一个11年的太阳黑子周结束而下一个黑子周开始时，在同一半球上的黑子群与上一周的黑子群相比，前导黑子与后随黑子的S、N磁极正好颠倒过来了。于是海尔在1919年提出，若考虑黑子的磁性，太阳活动的真正周期不是11年，而是22年，称为黑子的磁周期。同年他还提出了黑子群的磁分类法。
1923年，海尔研制成太阳单色光观测镜，它与太阳单色光照相仪相类似，是用扫描方式来获得太阳的单色像，但其终端不是使用底片拍照，而是用人眼进行目视观测，它更适合于对色球层中的太阳活动现象进行长期的、连续的监测。
海尔的这些工作，开创了用物理方法对太阳的深入研究，天体物理学中的重要分支——太阳物理学从此诞生。因此人们常将海尔誉为太阳物理学之父。