我国黑龙江流域和乌苏里江流域,自先秦以来就居住着肃慎、挹娄、勿吉等族,与中原各族互有联系。唐时一支鞣羯族,形成了黑水鞣羯和粟末鞣羯两个部,同唐在政治和经济上联系日益加强。八世纪初唐在黑水鞣鞫地区设置黑水都督府,任命鞠羯首领做都督。封粟末昧羯首领为渤海郡王,加授渤海都督府都督。这样黑龙江流域和乌苏里江流域开始建立了比较完整的行政机构,是唐帝国的一部分。
五代时期,黑水鞣羯发展成女真族,宋时建立了金政权,是当时我国东北地区的统治核心。元创立行省制度,设置了辽阳行省,管辖黑龙江流域和乌苏里江流域,包括库页岛在内的西伯利亚的东部地区。
明朝于1409年在黑龙江出海口奴儿干都城设置奴儿干都司,管辖以黑龙江流域和乌苏里江流域为中心的西起鄂嫩河、东至库页岛,南濒日本海,北抵外兴安岭的辽阔地区。明政府在那里驻守军队,设置驿站,派遣官员十次巡视奴儿干都司,并在奴儿千都城永宁寺内立碑两块,石牌上刻有汉、女真、蒙、藏四种文字,记载着建立奴儿干都司的经过和巡视奴儿干都司并到达库页岛的情况,这是黑龙江流域和乌苏里江流域,包括库页岛在内归明政府管辖的历史见证。清代初年,对这一地区继续行使管辖权。
清军入关时,沙俄乘机入侵黑龙江流域,强占雅克萨、尼布楚等城,1685年和1686年,由康熙帝命令清军组织两次雅克萨自卫反击战,打败了沙俄侵略军。1689年沙俄被迫同意谈判,在平等的基础上,签订了《尼布楚条约》。条约规定中俄两国以外兴安岭往东至海,格尔必齐河、额尔古纳河为界,外兴安岭以北,格尔必齐河、额尔古纳河以西属俄国,外兴安岭以南,格尔必齐河、额尔古纳河以东属中国。从法律上肯定了黑龙江流域和乌苏里江流域,包括库页岛在内的广大地区都是中国的神圣领土。