行为研究中的一个最古老的课题是：动物行为中有多少是先天本能又有多少是后天习得的？哺乳动物比较善于学习，而昆虫和鸟类则有着丰富的本能行为，因而有关本能行为的研究常常是以虫、鸟为研究对象。美国学者W.克雷格曾对鸽类进行长期研究，他于1918年指出：本能行为并非仅仅是一连串定型的反射动作；在开始时动物在欲望驱动下表现出烦躁不安、四向搜索，这时的动作很多是习得的，只有当找到适宜刺激（例如食物）时本能行为才进入完成阶段而出现定型的反射动作；之后可能有一段时期动物厌恶原刺激，最后进入安适无欲状态。与此同时，德国学者O.海因罗特借在动物园工作之便，对鸭和鹅进行了系统研究。他强调寻找同源行为，就象在比较解剖学中研究同源结构一样，这样可以阐明行为的进化途径。另一位德国学者 J.von于克斯屈尔则指出：在动物所感受的周围环境中，只有一部分关键刺激是真正起作用的。正是这些刺激触发了动物的体内机制使本能反应“释放”出来。这些见解给早期行为研究工作者以很大影响。 荷兰学者N.廷伯根与K.Z.洛伦茨同被视为现代行为生物学的奠基人。他早期的研究集中于寻找诱发本能行为的关键刺激，所涉及的行为包括：细腰蜂的捕猎及反巢行为，幼雏向母鸟的乞食行为，以及三棘鱼的生殖行为等。三棘鱼生殖行为包括占域、求偶、交配、产卵及育卵等一系列相接的动作。他据此把K.Z.洛伦茨的学说进一步推广：一个本能动作的完成促进了下一个本能动作的发生，于是形成一个行为链。1949年他转到英国去工作。50年代起他开始对海鸥作系统的比较研究，试图推导出海鸥信号行为进化路线。
奥地利学者 K.von弗里施的研究兴趣始终环绕着动物如何获取信息和交换信息这一方向。他早年便在鱼身上建立起食物与颜色及声音的条件反射，从而证实了鱼具有色觉及声觉。之后，他同样证实了蜜蜂有色觉。20世纪中叶，他发现了外出寻食的蜜蜂，借助舞蹈动作通知在巢蜂群关于蜜源的方向和距离。
自50年代起，行为生物学和比较心理学逐渐接近，双方互相取长补短。以50年代在英国出现的以N.廷伯根为首的学派为代表，很多学者对实验室的工作和野外工作是并重的。宏观上，由非洲荒漠、南美丛林，直到两极地带都有人在工作。对野生动物在原地进行隐蔽观察、拍摄电影、“标记追捕”、在空中水下、以及用无线电追踪等方法均被行为学家所使用。微观上E.R.肯德尔等人在80年代对海兔学习行为的一系列研究已深入到细胞和分子水平。所以，1973年K.von弗里施、K.Z.洛伦茨和N.廷伯根共获诺贝尔生理学奖一事不仅是表彰他们本人的杰出贡献，也是标志着行为生物学在生物学研究领域中已进入了一个发展的新时期。
固定行为模式与动物间的沟通
固定行为模式(fixed action patterns、FAPs)的研究，是行为学研究重要的一步，归功于康拉德·劳伦兹以及他的良师益友奥斯卡·海因洛斯。这个研究是由海因洛斯和劳伦兹所做，而后由劳伦兹发表。
劳伦兹的描述中，以发生在可辨识的刺激(称做信号刺激或释放刺激)产生的本能反应来解释固定行为型态。这些固定行为型态能够在不同物种间比拟，且行为的相似和差异能够轻易的和型态学上的相似和差异做比较。
在海因洛斯所做最重要且最常被引用的鸭科(包括鸭、雁、鹅)研究中使用了这个方法。动物行为学家认为接受刺激并产生固定行为型态是一只动物与同物种的成员在行为上或外在表现上的共同特色，且少量几种固定行为型态便能在动物的沟通行为中扮演重要媒介。
最为复杂的调查研究是由卡尔·冯·弗利所进行的被称做舞蹈语言的蜜蜂之间的沟通方式。
劳伦兹以对自然中的固定行为型态和动物发出这些行为的情况，发展了一个动物沟通方式的演化的理论。
群体行为学与当代的发展
群体行为学，中文也可以称做社会行为学。在1970年，英国的动物行为学家克鲁克(John H. Crook)发表了一个重要论文，他将比较行为学和群体行为学做出分辨，并认为当时的行为学研究将动物以个体为单位做研究，应该算是比较行为学。而未来的动物行为学家应该更重视群体的行为与它们的群体结构。
艾德华·威尔森在1975年出版了《社会生物学:新综合》(Sociobiology: The New Synthesis)。从那时开始，行为研究更为重视群体的观点。这也是受到艾德华·威尔森和理察·道金斯(Richard Dawkins)的达尔文主义的影响。
行为生态学的发展也参与了行为学的改变。此外，动物行为学也与比较心理学结合，使得现代的行为研究，统合了动物的认知、比较心理学、动物行为学、社会生物学、行为生态学。
比较心理学与行为学的差异
比较心理学也探讨动物的行为，但是相对动物行为学来说，比较心理学属于心理学的一门，而不是生物学的一门。因此，比较心理学用人类心理学的角度来研究行为；而动物行为学从动物的解剖学、生理学的角度来研究行为。早期的比较心理学将重心放在人工环境下的行为，且专注于学习行为的研究；而早期动物行为学则是将重心放在自然环境，并且通常用本能来描述动物的行为。这两个学门的互补性大过竞争性，但是两者有不同的观点，而且有时候会在一些研究问题上产生冲突。
在20世纪，比较心理学研究在北美洲有较大的发展，而动物行为学研究在欧洲较为风行，两种学科也导出了不同的哲学思想基础。实际上的差异是，在早期的比较心理学研究中，是从很少数的物种行为中得到广泛延伸的知识；而动物行为学家是从许多不同物种的行为中找出规则，而且动物行为学比比较心理学使用更多的比较方法。
在北美，多数的动物行为学家属于大学心理学系。
动物行为研究所需设备
在国内最有代表性的是淮北正华生物仪器设备有限公司生产的ZH-SBS型动物行为实验站,该实验站最具有四大实验模块,学习记忆类\焦虑类\神经精神类\药物成
瘾类,国内医学院校,药厂及科研院所新建行为学实验室均采用此系统,
ZH-SBS动物行为实验站，是指通过对动物行为的视频、光电和生物电等信号的采集，并结合计算机图像处理、点阵分析和生物电信号分析技术，提取动物行为的轨迹并据此计算各种行为学指标的软硬件系统。
ZH-SBS动物行为实验站是一个综合性的分析系统，包括多个子系统，每个子系统对应一个动物行为学分析模型，而每个分析模型应用于一个或一类特定的实验或研究。软件系统分为 21个模块，Morris水迷宫系统（Morris water maze,MWM）、八避迷宫系统[放射型迷宫(Radial Maze)、Barnes巴恩斯迷宫、Y迷宫系统(Y-Mazes)、T迷宫(Y-Mazes)水迷路、避暗视频跟踪系统、跳台视频跟踪系统、斯金纳箱、穿梭视频跟踪系统(Shuttle Box System) 、开场系统(Inner open field test)、自发活动视频跟踪系统、洞板系统、高架十字迷宫系统(Elevated Plus Maze)、Zero迷宫（O迷宫）、悬尾视频跟踪系统(Tail suspension)、强迫游泳视频跟踪系统(Forced Swinming)、焦虑监测系统(Vogel Test System)、黑白箱实验系统、社交行为实验系统、学习无助系统 (Leamed Helplessness)、震惊条件反射系统(Startle Response System)、场景恐惧实验系统(FCS)、CPP偏爱箱视频跟踪系统(ConditionedPlace Preference Experiment)、CPA条件位置厌恶系统、动物实验跑台（平板跑步机）、被动转轮记录系统、自主转轮记录系统、转圈实验系统(rotameter system)、大小鼠疲劳系统、睡眠剥夺系统、爬杆记录系统、大小鼠抓力测定仪、小动物骨骼强度仪、双足平衡测试仪、步态行为测试系统、疼痛自动分析系统、电子压痛仪、冷热板仪、足趾容积测量仪、鼠尾光照测痛仪、热刺痛仪
，共计21个。每个子系统既可单独使用，用于某个特定的实验或研究，也能集成起来组成一个综合性的ZH-SBS动物行为实验站，对动物的各种行为进行全方面的分析研究。
本系统包括观察装置和分析软件二大部分。其中观察装置负责采集动物的行为信号，主要应用了先进的视频采集技术和LED阵列等技术；而分析软件对采集的行为信号进行实时/离线分析，从中提取出动物的行为轨迹和特征，并据此计算出多个行为学参数，软件还提供数据库、多种数据接口等功能
Ø 产品构成：软件+各组件及附件+图象采集系统+隔音箱（选配）
Ø 产品特点：采用软件视频跟踪，离线分析、无线遥控软件智能识别开始及结束实验、一套软件配合不同硬件可做不同实验，节约资金及场地
基本包软件
可以在条件性位置偏爱实验（Conditioned Place Preference Experiment）、黑白箱实验、Open Field实验、悬尾（Tail Suspension）实验、强迫游泳（Forced Swinming）实验、MORRIS水迷宫、Y迷宫（不带电）、高架十字迷宫、T迷宫、八臂十字迷宫等实验任意选择其中一项。 在基本包软件上可以方便地增加其他模块。所有结果数据以excel格式输出，可用SPSS统计。
