地域歧视的现象由来已久。齐国的晏婴出使楚国，楚王当着他的面说齐人“善盗”(喜欢偷东西)，虽属故意羞辱，但也说明当时已存在地域歧视。如此说来，地域歧视至少已有两千多年的历史了。
地域歧视产生的前提是地域差异，即不同区域间因种种原因存在着差异，如在生活方式、生产方式、思想意识、风俗习惯等各方面既有发达程度的不同，也有价值观念和习惯方面的不同。在这些差异中，以物质为主的方面有一定的客观标准，但以精神和观念为主的方面更；的是主观标准。例如中原的儒家从先秦时就强调“华夷之辨”，歧视边远地区的少数民族。当时少数民族的发展水平的确落后于华夏诸族，但华夏人在精神上的优越感却只是一种虚幻的自信，并没有得到少数民族的认同。
随着不同区域间人口的流动，相互间的文明或野蛮、贫穷或富裕、先进或落后就会显现在对方面前，而相对野蛮、贫穷、落后的一方，一般处于弱势地位。尽管流动人口只是当地人口的一部分，但由于外界只与他们接触，对他们的印象也就成为对当地全部人口的印象。所以，一个地方外迁或流出的人口的形象，往往会成为整个地方的形象。
例如，北宋南宋之际，大批河南人随宋室南迁，由于这批河南人中包括了皇族、高官、名流、巨商、富户，在南宋首都临安(今杭州)举足轻重，杭州人非但不敢歧视，还学着说河南话，以至今天的杭州方言还带北方味。但到大批河南人因天灾人祸四出逃荒时，操河南方言的人就成为被歧视者。
自古以来，一个地方的人受到歧视，基本上都是发生在这一地区由盛转衰、由富变贫、由中心而边缘之后。
当河南处于“天下之中”，农业发达，商贾云集，洛阳、开封拥有首都或陪都地位之时，其他地方人既不会也不敢歧视河南人，还以能成为河南人为荣。今天全国不少家族都自称祖先是河南人，就显示了河南曾经具有的无与伦比的地位。其实，其中不少人根本不是河南人，或者是从外地迁入河南，从此再也不提真正的祖籍。但近代以来，河南经常与“水旱蝗汤”连在一起，河南人的优点往往被遮蔽了。
要消除地域歧视，首先应注意缩小地域间的差异，特别要促进贫困落后地区的发展。其次，要在人口自由流动、信息充分交流的基础上，改变相互间片面、主观、滞后的认识。政府必须在法律上保证每个公民的平等权利，媒体要作客观、全面的报道，注意引导。对被歧视者而言，一方面要理直气壮地维护自己的权益，另一方面也要正视自身的缺点，自尊自强。