1914年的移民可以看作开拓团的前身，在“满洲国”建国以前，满铁作为代表日本执行国策的唯一机关，从事铁路附属地的行政、教育、卫生及其他全满洲的经营事务。“满洲国”建国以后，满铁则负责以铁路为中心的水陆交通业、以抚顺煤矿为中心的矿业以及担任东亚全局的经济调查，为了协助开拓事业，满铁建立了铁路自卫村、义勇军满铁训练所、满铁辅导义勇军开拓团以及拓殖科。
日本的试验移民阶段到“九一八”事变结束，此前大都是零星、分散的，而到“九一八”之后，新的“武装移民”则因统治秩序的需要应运而生。中国东北抗日武装力量的主力“抗日联军”成为关东军的心腹之患，使“满洲国”治安陷入了紊乱状态，而抗日武装与当地群众联系密切，要彻底消灭极为困难。在这样的形势之下，关东军认为不能仅仅依靠军队的武装镇压，主张把“武装移民”插入抗日力量比较活跃的区域，以阻隔当地人民与抗日武装的联系，试图以“饥饿政策”将抗日联军置于死地。此外，日俄战争后，俄国也并没有因为战败而放弃对满洲的争夺，而是不断在中俄边境增兵设防，日本为了防御俄国的进攻，将一半移民安置在边境地区，一旦开战，这些移民地带不仅可以解决兵源和军需供应不足的问题，还可以起到巩固边境的防御作用。1932年1月，日本茨城县国民高等学校校长加藤完治、东京帝大农学系教授那须皓、桥本传左卫门、铃木梅太郎等向日本拓务省当局提出《满蒙移植民事业计划书》，主张以在乡军人为主体在全国范围内募集移民，“移民案”得到了日本拓务省的认可。“武装移民”是由“全副武装的退伍军人组成，所有人员每人一支步枪，此外，还有两门迫击炮，威克斯式机关枪三挺，在警备上相当于屯田兵制的‘屯垦大队’”，堪称潜伏在农村的“预备役关东军”。
1937年战争爆发后，日本开始实施的百万移民计划较之此前的“武装移民”有很大不同。移民大多是来自日本长野县、琦玉县、山形县等贫困地区的农民而非军事武装人员，他们不仅仅分布在重要的军事地点、战略地点和军事铁路沿线，也更深入、更大范围地进入了东北农村地区，并且一路从辽宁向北朝黑龙江转移。“日俄战争之后，日本获得的辽东半岛租借地和南满铁路经营权地点都在辽宁，转移则反映了日本对东北战略经营方向的改变。东北北部黑龙江地区地域辽阔，人际矛盾相对不像南部那么集中。把日本移民开拓团都安排到北部地区，这样便于解决他们的土地问题，省得和当地居民发生冲突，同时也可以减少东北人民因丧失土地而奋起反抗的压力。日本对东北的移民很大程度是采取了‘寓兵于农’的政策，平时是务农的，一旦有战事的时候会武装起来，成为镇压东北抗日人民的日本训练地。”李淑娟说。
尽管移民政策是日本整体对外扩张政策的一部分，但这时期的日本开始极力淡化移民的侵略意图和野心。为此，1939年2月9日，由伪满洲拓殖委员、事务局长稻垣征夫呈请伪满国务院总务长官星野直树，“要求将日本移民改称‘开拓民’或‘开拓农民’，将‘移民团’改称‘开拓团’，将‘移民地’改称‘开拓地’，‘移民政策’改为‘开拓政策’”。1939年12月，日本颁布《满洲开拓政策要纲》，这是日本开拓团政策的最重要文件，正式采纳了上述名称。“移民这个办法可能要比其他的方式更隐蔽，通过移民，长期把东北地区语言日本化，通过通婚达到人口日本化，通过居住和教育来影响周围的人，达到东北领土的日本化。”
梦碎“满洲”
太平洋战争爆发后，日本在战争中开始越来越处于不利的局面，为了给太平洋战争提供稳定的后方基地，1942年日本仍然按照原定计划招募和派出开拓团，并制定了《开拓实践训》和《康德十年度开拓政策实行方案》。同时为了解决兵源短缺的问题，强征开拓团中年轻力壮的男人入伍，到1943年，一般开拓团三四十户的部落里，只剩下几名老弱病残的男性。“到1945年时局紧迫的5、6、7月间，在开拓团进行当地紧急招集，各团劳动力陷于枯竭，甚至老弱妇女都被动员为全力完成增产交售粮食目标的献身者”，而被送上战场的壮年男性，则成了战争的炮灰。