该坦克装有1门105mm线膛炮，它是英国国防部技术研究所研制、维克斯（Vickers）公司生产的。日本在引进一部分维克斯公司生产的L7A3式105mm火炮后，从1978年度开始由日本制钢所特许生产。为减小该炮的后坐力，将驻退机改为同心式，还改进了复进机。该炮采用立楔式炮闩，可自动开闩和闭闩。
火炮射速为9～10发/min，方向射界360°，俯仰范围为-6°～+9°，手动操纵时均可增加0.5°，借助液气悬挂调节射界能增大±6°。火炮身管长为口径的51倍，即5.340m，没有炮口制退器，没有隔热护套，中部装有抽气装置。火炮重心位于炮耳轴附近，因而没有弹簧补偿装置。更换炮管十分方便，10min内即可完成。火炮防盾布置在炮塔外面。炮管寿命理论值为250发，实际上大约为150发。该炮配有半自动供弹机，能自动提取炮弹，并将炮弹输送至炮尾。
日本曾考虑过自行研制火炮，但为了提高74式坦克的火力、节省研制费用以及考虑到与美国M60坦克火炮的通用性，因此决定采用北约国标准坦克炮。 105mm火炮发射脱壳穿甲弹和碎甲弹。从英国购买的脱壳穿甲弹的弹丸重6.12kg，初速为1490m/s，为了提高74式坦克的火力，从1983年度开始在日本特许生产美国的M735105mm尾翼稳定脱壳穿甲弹，初速为1501m/s。碎甲弹的初速为730m/s，弹丸重11.26kg，是日本自行设计和生产的，研制了近4年，1975年度开始批量生产。防卫厅从1976年2月开始采购4批碎甲弹，共24700发，每发约10万日元，总共价值24.1亿日元。74式坦克105mm线膛炮配用的碎甲弹有缺陷，在实弹射击训练中先后发生过3次炸膛事故，虽然已查明原因，并采取了必要的改进措施，但仍将剩余的1万发弹收回各弹药库，立即采取了禁用措施。
该坦克弹药基数55发。1977年曾对少量的74式坦克的炮弹存放位置进行过简单的改进，去掉位于车体前部右侧的105mm弹药仓，将这里的炮弹分散布置在战斗舱两侧，这是接受第四次中东战争的教训加以改造的，但炮塔后部平衡尾舱里仍存放炮弹。 该坦克的火控系统由火炮双向稳定器、红宝石激光测距仪、模拟式弹道计算机、潜望式瞄准镜等组成。
火炮双向稳定系统装有1个存储器，坦克在一时遇上剧烈回转或极度倾斜，目标超出俯仰范围的情况下，当车辆恢复原来位置时，存储器能使火炮继续捕促目标。但是，假如倾斜度过大，超出了存储器的10°左右范围，就超出了存储器的能力，稳定器便失去作用。
炮长通过装在控制装置上的总开关控制火炮稳定系统，即使稳定器处于工作状态，如果扳动炮长的火炮控制手柄，亦可使火炮进行高低和方向转换。
红宝石激光测距仪与J3车长潜望式瞄准、观察镜组成一体，装在车长指挥塔正面，它的测距范围为300～5000m，精度为±10m，每分钟工作10次。车长和炮长都有测距按钮，紧急情况下可由炮长操纵。测距数据自动输入弹道计算机，并显示在计算机显示窗里，在车长瞄准镜和炮长瞄准镜内也可看到。在测定距离时激光束不易受到外部影响，并能检测假回波。
模拟式计算机装在炮塔内右前部，位于车长和炮长之间，一般情况下由车长使用，炮长也可进行控制。当不用激光测距仪时，也可手动输入距离数据。计算机输入的参数还有炮耳轴倾角、风速、风向、气温、湿度；炮膛磨损、发射药温度、弹药类型这些数据均为人工输入。解算出的火炮高低角和方向角显示在车长和炮长瞄准镜内，但不包括射击提前角。随后火炮自动移动，炮长只需将瞄准十字线对准目标，按下激光测距按钮，再按下火炮击发装置，即可射击。该坦克的射击提前角是车长凭经验和感官能力，根据一个提前角以5个密位为单位进行估算的。
J3车长潜望式瞄准镜为单目式，与火炮和计算机联动，为观察、瞄准、激光测距三合一型，作观察用时，视场40°，放大倍率为1×。在车长指挥塔上还有5个潜望镜，每边各2个，另1个朝后。
J2炮长潜望式主瞄准镜为炮长观察、瞄准两用单目式潜望镜，同样与火炮和计算机联动。作观察用时，视场28°，放大倍率为1×；作瞄准用时，视场9°，放大倍率为8×。还有1具作为炮长辅助瞄准具的J1昼夜红外瞄准镜，装在防盾内，并列安装于火炮右边，夜间观察距离约在1000m以内。
装填手有1个潜望镜位于炮塔顶部舱口前方，能360°回转。
在火炮防盾左边，固定装有主动式红外/白光探照灯供瞄准使用，白光氙气灯的照明距离为3000m，红外探照灯为1200m。
该坦克的火炮和炮塔的控制采用全电动系统，这是该坦克的一大特点，也是吸取第四次中东战争中参战坦克的教训而改进的。因在这次中东战争中发现，由于火炮和炮塔使用电液式控制系统，液压油容易着火。 在全电动系统中使用一台自制的惯性小、灵活敏度高、效率高的电动机，这样，整个炮塔系统的体积减小了，并且提高了可靠性和生存力。全电动系统有电动和手动两套操纵装置，可由车长和炮长进行控制，必要时，车长可超越控制。全电动系统使火炮回转360°所需时间约15s，俯仰速度4°/s，炮塔的回转与火炮的俯仰可同时进行，当火炮调向车后方向时，须采用手动控制，其仰角不得低于+2°，一是为了乘员的安全，二是避免火炮与车体碰撞。 该坦克主炮左侧安装有一挺7.62mm并列机枪，用于近距离作战和辅助测距。该机枪是战后日本为装备国产二代新坦克及二代新装甲车而自行研制的，并首先装在74式坦克上使用。该机枪的原型是步兵使用的62式机枪，两者通用部件很多。
该机枪不具备勃朗宁机枪所特有的散热护套，机枪靠炮塔内机枪安装孔里设置的强制冷却系统吹出冷风冷却，不用机枪时，可用这个系统为战斗舱通风。
该机枪的标准射速为650发/min，但可通过前后移动位于机枪右侧后下方、装填柄与握把中心之下的快慢机调到低于200发/min或高于1000发/min的射速。采用7.62×51mm NATO枪弹，携弹4500发。
M2式12.7mm高平两用机枪装在位于车长指挥塔和装填手舱口中心线上的简单支架上。车长和装填手都可以从各自的舱口探出身来手控射击。该机枪是由美军提供的。
该机枪对空射速为1050发/min，平射时为400发/min，可进行360°环形射击，高低射界为-10°～+60°，初速为850m/s。采用北约国通用标准枪弹，携弹600发。
