"巴尔虎"一词，是一个以游牧地区名称而得名的部族名称（也有一说法是以部落首领巴尔真巴特尔的名字命名的）。巴尔虎蒙古部是蒙古族中最古老的一支，他们最早在贝加尔湖东北部的巴尔虎真河（今俄罗斯境内巴尔古津河）一带从事游牧和渔猎生产。

按蒙古人以山河湖泉及游牧驻地名称命族名的习惯，他们便被称为"巴尔虎"（ 巴尔古津的音译）了。后来，巴尔虎蒙古人随着不断迁徙，分散到贝加尔湖东部和南部。清康熙年间，分散到贝加尔湖东部的一部分巴尔虎蒙古人迁徙到大兴安岭北部一带，后被清政府编入布特哈八旗，驻牧在大兴安岭以东布特哈广大地区，另一部分成为喀尔喀蒙古（今蒙古）诸部的属部。1732年，清政府为了加强呼伦贝尔地区的防守，将包括索伦（今鄂温克）、达斡尔、鄂伦春族和巴尔虎蒙古族士兵及家属3796人迁驻呼伦贝尔牧区，以防俄国人侵扰。其中275名巴尔虎蒙古人便驻牧在今陈巴尔虎旗境内，当时编入索伦左翼镶白旗、正蓝旗。1734年，清政府又将在喀尔喀蒙古车臣汗部自愿加入八旗的2400多名巴尔虎蒙古人迁驻克鲁伦河下游和呼伦湖周边，即今新巴尔虎左、右两旗境内。为区别这两部分巴尔虎蒙古人，便称1732年从布特哈地区迁来的为"陈巴尔虎"，即"先来的巴尔虎蒙古人"之意；1734年从喀尔喀蒙古车臣汗部迁来的则被称为"新巴尔虎"，即"新来的巴尔虎蒙古人"之意。1919年陈巴尔虎人由索伦旗分出来，成立了陈巴尔虎旗