当时东北地区有一个强大的政权高丽，粟末靺鞨臣服于高丽，其首领改姓为大氏。唐朝出兵征伐高丽时，粟末靺鞨趁机建立了渤海国。渤海一度十分兴旺，创立了自己的文字、礼乐、官府制度，传位十余代。粟末靺鞨建立政权的时候，黑水靺鞨在做什么？他们是否也臣服了唐朝呢？
渤海政权的建立，是由于唐玄宗李隆基加封粟末靺鞨的首领大祚荣为渤海郡王、忽汗州都督府都督。也就是说，它是唐朝的一个藩属国，一个地方政权。这个政权传了十余代，将近二百年，史称海东盛国，国力很强。
渤海故地今天出土了很多文物，如渤海烧制的三彩，跟唐三彩简直一模一样，渤海人的墓碑也完全都是汉字。大量渤海国的官宦子弟来到唐朝留学，曾经有一个渤海的王子在长安留学后回国，唐朝著名诗人温庭筠赋诗相送：“疆理虽重海，车书本一家。盛勋归故国，佳句在中华。”（《送渤海王子归本国》）咱们两国虽隔着大海，但书同文、车同轨，两国的文化是一样的。中原人对民族的认同，看的就是文化，而不是血缘。渤海政权基本上是一个汉化了的政权。
粟末靺鞨建立渤海政权的时候，黑水靺鞨还在粟末的北边，仍然忠实于原来的高丽王朝。史书上记载，当唐朝跟高丽王朝打仗的时候，黑水靺鞨曾经出动十五万人的部队去援助高丽。当然这个数字是绝对不可信的，整个黑水靺鞨才有多少人？在部落时代，如果能集中起十五万人来，这简直是天方夜谭，这得需要多么强大的组织能力啊？所以这可能是一家之言。黑水靺鞨的下场可想而知，部落时代原始的武装力量，用木杆、石簇跟装备精良、训练有素的唐军作战，结果自然是惨败。黑水靺鞨惨败之后，知道自己几斤几两了，开始臣服于唐。唐玄宗李隆基时代，在黑水地区设立了黑水都督府，由黑水靺鞨的领袖出任都督府的都督，实际上就是我们现在讲的民族自治，朝廷实行羁縻、怀柔之策。唐朝还赐黑水靺鞨的领袖以国姓李。早期契丹的领导人，也被赐过国姓；党项的领导人也被赐李姓，唐王朝真是威名远播。安史之乱以后，唐王朝国势转衰，对于东北地区更是鞭长莫及了。黑水靺鞨转而投效粟末靺鞨建立的渤海国，因为他们本来就是一家人。
公元925年，辽太祖耶律阿保机灭掉了渤海国，黑水靺鞨又转而臣服于辽。自此，改族名靺鞨为女真。到了辽兴宗耶律宗真时期，为了避讳，就把“真”字的两点弄没了，所以有的史籍上又记载叫女直，此女直就是彼女真。
辽对女真采取分而治之的统治政策，把今天辽宁境内的女真编入户籍，征收赋税，称为熟女真。户口本上有你，你得交个人所得税，这部分人等于是辽的公民。今辽宁以外的地区，吉林、黑龙江、俄罗斯远东地界的女真人只给辽进贡，不入户籍，被称为生女真。后来建立金朝的女真人，就是生女真，而不是入辽户籍的熟女真。辽朝还在今吉林农安建立了黄龙府统军司，用来监视女真人，并且在宁江州设立榷场，跟女真人贸易。当然了，辽跟女真人的贸易，是贱买贵卖，甚至勒索，辽把这个称为“打女真”，就是成心不让你发展。女真人一直在辽的统治下，或者说在辽的压迫下过日子。