河马的祖先目前还并不是非常明确，主要有两种说法，一是认为河马和野猪有着共同祖先，亲缘关系非常近，二是认为河马和一种生活在沼泽的碳兽是近亲，可能与鲸鱼有着共同的祖先，不过目前这种说法都没有得到明确的化石证据。
1. 和野猪亲缘关系更近
曾经美国加州大学的博士后简·雷纳德·布瓦塞等人研究和分析了32种偶蹄目动物的化石，最终得出了一个惊人的结论，就是野猪和河马存在很大的相似之处，它们不仅都属于偶蹄目，而且都有着较为突出的吻部，不过也有人认为这样的说法并不严谨，偶蹄目动物都可能具有这样的特征，所以并不能说野猪的祖先就是河马的祖先。
2. 和碳兽亲缘关系更近
碳兽是一种已经灭绝的出现于渐新世时期的偶蹄目动物，它的外形和河马也非常类似，尤其是下颌骨、四肢等部位的结构与河马没有太大区别，而且科学家将其和河马进行了基因对比，还发现了一个更加惊人的结论，就是河马和碳兽都和鲸的祖先存在一定的联系，不过碳兽也有自己独特的点，就是它的上臼齿上长有五个形似半月的齿冠。
而碳兽和河马与鲸鱼之间的这种基因联系，也让科学家认为这一假说的可靠性更高，毕竟鲸鱼也是由偶蹄目动物巴基兽进化来的，不过也有古生物学家不接受这样的说法，他们认为目前发现的最古老的鲸鱼化石就已经可以追到5300万年前了，而目前河马中最古老的物种化石则只有1500万年，时间的跨度实在太大，因此这一说法存在质疑。
但是也有人认为如果碳兽真的是河马的祖先，那么鲸鱼和河马之间的时间跨度则可以缩短至少1200万年，而要真正的佐证这一点，也只有等到更多的化石被发掘，才能填补上大部分的河马进化的生态位，因而找到河马和鲸鱼的具体位置。
