17、18世纪,研究动物行为的人更多了,开始了比较不同物种行为的研究和行为的理论探讨。如德国人约翰(Johunn Pernaller)研究了不同鸟的行为差异,涉及取食地、社会行为、筑巢、领地、季节性羽毛色彩变化、迁徙、鸣叫和育雏等方面;法国的勒雷(Chorles George Lereg)对狼、狐的捕食行为及野兔的恐惧表现有过生动的描述,提出了动物依靠它们的记忆和生活经验能够聪明地生活。
1859年,达尔文的《物种起源》的发表,对动物行为学的研究产生了深远的影响。他的《人类的由来》(1871)一书研究比较了人与动物,及本能行为。19世纪末,人们使用迷宫,研究老鼠的学习行为。劳埃德(C.Lioyd MOrgun)研究鸡的本能、学习、模拟行为。现代行为学中许多术语,如Behaviour(行为)、Animod Behaviour(动物行为),都出现在他的论著中。
早在19世纪上半叶,G.居维叶和E.G.圣提莱尔便就动物学研究方法发生过争论:前者强调实验室研究,后者主张在自然条件下进行观察。在他们的影响下,有关动物行为的研究,形成了两个传统。代表前一传统的多是生理学家和生理心理学家。如 И。П。巴甫洛夫、美国E.L.桑代克和B.F.斯金纳等。他们在实验室里对狗、猫、大鼠等的学习行为进行了大量研究。经典条件反射和操作式条件反射便是他们的贡献。另一个传统的代表主要是具有博物学倾向的动物学家,如奥籍德国人 K.von弗里施、奥地利人K.Z.洛伦茨和荷籍英国人N.廷伯根等。他们在自然环境中通过观察和实验,分析行为的动因,探讨行为的适应功能,并力求推导行为的进化途径。