清初，黑龙江沿岸没有清军驻防，距离黑龙江地区最近的驻防城宁古塔也在千里之外。康熙帝为避免与俄军“我进则彼退，我退则彼进，用兵无已，边民不安”的历史重演，为达到东北边疆长治久安的目的，在经过慎重考虑后，最终决定，“于黑龙江（即瑷珲）、呼马尔二处，建立木城，与之（俄军）对垒，相机举行”。随后，命令宁古塔副都统萨布素等领兵前往黑龙江筑城屯田，防备沙俄的劫掠。萨布素（1629—1701），富察氏，满洲镶黄旗人。他出身寒微，人到壮年才挑补披甲，后任笔帖式（书记官）。顺治九年（1652），担任宁古塔总笔帖式。康熙元年（1662），又改任骁骑校一职。康熙十七年（1678）八月，萨布素接替升任奉天将军的安珠瑚，任宁古塔副都统。康熙二十年（1681），清廷平定“三藩之乱”后，解除了后顾之忧，遂把精力转向东北防务。康熙二十一年，康熙帝决定出师北上，全面反击沙俄侵略。康熙二十二年（1683）十月，清廷正式设黑龙江将军，萨布素被任命为第一任将军。黑龙江将军的设置，标志着东北三将军分辖体制的正式形成，对抗击沙俄侵略，开发和建设东北边疆都具有深远的意义。
萨布素临危受命之后，立即着手在黑龙江东岸建立瑷珲城（瑷珲，地名，是我国清代黑龙江将军辖区的军事重镇之一，在今黑龙江省黑河市爱辉区南三十五公里。也称作“艾浒、艾虎、艾呼、艾浑、爱珲”，皆为一些少数民族语的不同汉语译音。汉语称“黑龙江城”，满语称“萨哈连乌拉霍通”。1858年后始出现“瑷珲”字样），并以此作为将军驻地和前线清军大本营。康熙二十三年，萨布素又于黑龙江西岸新瑷珲地方另筑一城，移将军衙门于此，江东旧城留兵驻守。瑷珲城和黑龙江城夹江而立，形如双钳，宣告清军已经在黑龙江上布置好营垒。
康熙二十二年（1683）夏天，第一批乌喇、宁古塔官兵1500人到达瑷珲。康熙二十三年，又有乌喇、宁古塔及增派的达斡尔官兵1000人携带家属到黑龙江屯田驻守。康熙二十四年，清廷派遣盛京的八旗官兵前往黑龙江开垦耕地1500余垧，并教导素来以渔猎为生，不习农事的达斡尔、索伦人以耕作之法，使得他们“课耕有法，禾稼大收”。至此，清廷在黑龙江的军事基地已经建立，为进一步的军事进攻做好了准备。
（二）解决战争过程中的后勤供应问题
兵马未动，粮草先行，自古以来，莫不如此。保证充足的粮食供应，对清军能否在雅克萨之战中获胜尤其重要。
清朝以前，东北地区南部的辽河流域，始终是粮食生产基地。清初，经过顺治一朝和康熙初年的大力招民开垦，当地的粮食生产已经恢复到明代的水平，完全能够满足反击沙俄的军事需要。然而，如何把粮食运到黑龙江流域的八旗驻地，这是清军面临的首要的问题。从陆路运输行程数千里之遥，成本太高，只有依靠水路运输才能满足大军的作战需要。于是清廷决定从辽河将粮食运至松花江再经松花江运至黑龙江，然后从黑龙江逆流而上至瑷珲城和黑龙江城储存。为此，设立储备粮仓四处，“内地设于巨流河之开城（今辽宁省开原），边外设于邓子村（吉林省郑家屯），乌喇设于易屯门（今吉林省伊通） 及易屯口。农隙之时，运米贮于开城仓内，以春秋二季舟运至邓子村交卸。自邓子村至易屯门，百里无水路，车运至易屯门仓内，由易屯河（伊通河） 舟运出易屯口竟达混同江”。运送粮食的船只和水手，全部由东北三将军自己解决。为运送粮食，清廷总计建造运粮船只二百八十艘，动员水手两千七百人，他们从康熙二十二年起，连续向黑龙江前线运送粮食。
（三）修造战船，解决水路运输和战争的需要
以往清军向黑龙江前线运输粮食的船只，只有大船八十艘。然而这些大船主要是运载粮食和重武器，逆水行驶时，还需要纤夫在两岸拉纤而行，根本不能用来配合陆上部队作战。有鉴于此，议政大臣郎坦在“平罗刹之策”中向康熙帝建议再造小船五十六艘，专门用于战场上使用。康熙帝很重视这个建议，命令户部尚书伊桑阿，带领良匠，前往宁古塔修造战船，“前投诚入旗的林兴珠等系福建人，今着彼前往演习，庶有裨益”。
林兴珠（1628—？），原名进周，字而梁，民间尊称他为“林侯”，永春县升平里（今福建永春县蓬壶镇汤城村）人。清顺治六年（1649），与叔父林日胜追随郑成功举抗清义旗，聚众数千，据永春帽顶、马跳诸寨，牵制清军。林兴珠在郑成功帐下时见识过藤牌兵的威力，熟悉其使用技巧。顺治十三年（1656），清军攻破帽顶寨，林日胜与林兴珠降清。随后林兴珠在“三藩之乱”中反击吴三桂叛军有功，康熙十七年（1678），康熙帝召林兴珠入京，授銮仪卫銮仪使，赐封建义侯，属籍镶黄旗。雅克萨之战中，林兴珠曾两次奉命率福建藤牌兵前往反击沙俄侵略者，战功卓著。
（四）设置驿站，便于传递军情，加强与中央政权的联系
黑龙江将军萨布素修筑瑷珲和黑龙江两城之后，如何保障宁古塔将军与黑龙江将军之间的通讯联络，就成为当务之急。为此清政府决定：自黑龙江城至吉林乌喇城（今吉林市），沿途设置十个驿站，每站驿夫二十人，遇有紧急情况，乘蒙古马疾驰报告，寻常事宜则循十驿而行。康熙二十三年（1684）二月，户部郎中包奇、兵部郎中能特和理藩院郎中额尔塞，奉命前往吉林乌喇设置驿站。他们出发前，康熙帝亲自接见并且强调说：“此乃创立驿站之地，关系紧要，尔等会同彼处将军、副都统，询明熟识地方之人，详加确议安设。”包奇等人赴东北后，经过仔细丈量，从吉林乌喇城至黑龙江城有一千三百四十里，由于路途遥远，原来计划的十个驿站改为十九个。
（五）调兵遣将，部署全局
康熙二十三年（1684）九月，康熙帝考虑进攻雅克萨关系重大，下令八旗都统瓦山等人前往黑龙江，会同萨布素议定清军攻取雅克萨的计划，同时着手征调部队以加强前线清军的力量。如选派善于水战的福建藤牌兵五百人，前往东北前线助战；命直隶、山东、山西、河南巡抚，每省派熟悉火器兵二百五十人，并选贤能官员各四人，预备火器送京师以备协攻雅克萨城；调杜尔伯特、扎萨特蒙古兵五百人维护自墨尔根至雅克萨之间的驿站交通；副都统马喇等人所饲养的大批军马事先预备于嫩江岸边的齐齐哈尔，以保证战场上清军有充足的马匹使用；蒙古科尔沁十旗应于康熙二十四年进贡的牛、羊诸物，也被下令不必送到北京，全部改送黑龙江前线。
为加强前线清军的领导，清廷遣派八旗都统彭春赴黑龙江任清军主帅， 派副都统班达尔善、护军统领佟宝等参赞军务。
彭春（？—1699），也作朋春，董鄂氏，清朝将领，满洲正红旗人。顺治时袭一等公爵。康熙时先后担任太子太保、副都统、都统等职。曾与郎坦率兵视察被沙俄侵占的我国雅克萨一带形势。康熙二十四年（1685），彭春作为全军统帅与郎坦一同率何佑、林兴珠等将领统兵围攻雅克萨，获胜而还。
（六）肃清黑龙江中下游的俄军，稳定战略后方
清军进驻黑龙江之时，沙俄侵略军派格里高里·梅尔尼克指挥六十七名哥萨克乘船六艘，增援在恒滚河（今俄罗斯阿姆贡河）上的哥萨克匪帮。清军派索伦总管博定率军将其包围，收降、俘获了三十一人，逃匪被达斡尔族击毙十五人。清军由精奇里江上溯，平毁了多隆斯克和塞林宾斯克。各族人民也配合清军作战。康熙二十二年十一月，萨布素奏报：牛满河奇勒尔族奚鲁噶奴等杀罗刹（明、清时，称俄罗斯为“罗斯”或“罗刹国”）十余人；鄂伦春之朱尔铿格等于精奇里江杀罗刹五人；费牙喀人也击杀罗刹甚多。
康熙二十三年正月，清军将领鄂罗舜向黑龙江下游进击，招降俄军二十一人，获鸟枪二十杆并解救鄂伦春人质三人，光复了图古尔斯克和乌第斯克，残余的沙俄匪徒顺黑龙江入海，狼狈逃回老巢雅库次克。至此，在当地人民的配合下，清军拔掉了黑龙江中下游的许多侵略据点，从而得以集中兵力，攻打雅克萨城。
清政府在武装反击沙俄入侵的同时，也进行了一系列的外交努力，希望避免中俄两国战争，用和平谈判的方式解决沙俄侵略中国领土的问题。
早在康熙九年（1670）春，宁古塔将军巴海就奉命派员前往尼布楚投递文书，对沙俄侵略我国黑龙江流域提出质问，要求遣返逃犯根特木儿，并提议俄方派人来北京商谈具体问题，以期改善两国关系。但俄方却认为中国的克制行动是软弱可欺，并进一步提出一系列无理要求，最终导致北京的谈判未能取得任何结果，两国关系进一步恶化。康熙十五年（1676），俄国政府派尼果赖·加甫里洛维奇·米列思库以大使名义率使团出使北京。尼果赖出身于摩尔达维亚的贵族家庭，曾长期在摩尔达维亚的宫廷供职，后来他图谋篡夺君权未遂，按叛逆犯治罪，割去鼻孔间的软骨，并被驱逐出境。1671年，尼果赖经东正教会介绍前往莫斯科，在俄国外交事务衙门任议员，由于擅长搞阴谋权术，受到上司赏识，很快便在沙俄外交界显露头角。五月初五，尼果赖到达北京呈递国书之后，五月十五日和六月十一日，康熙帝先后在太和殿和保和殿两次接见俄国使团，以茶酒款待，希望与使团谈判解决中俄边界的争端。清廷提出：“嗣后勿于边界地方侵扰，若能如此，两国方能修好，派使交易。”尼果赖却装做不知晓俄军入侵中国的情况，拒绝谈判边界问题，并无理要求清政府每年运送白银、丝绸、宝物到俄国。沙皇政府派使团到中国，并非和中国谋求和平，真正的目的在于为进一步侵略获取情报。当时中国发生了三藩之乱，清政府正全力与叛军作战，东北边防空虚。康熙十五年（1676）七月二十四日，尼果赖使团离京回国。当时，俄国使团的外交活动是其军事侵略活动的一种辅助手段，是与在黑龙江流域的武力扩张紧密配合的。尼果赖到达北京的这一年，沙俄开始在东西伯利亚推行积极的扩张政策。他在北京期间，暗中勾结外国耶稣会传教士，窃取大量情报，回国后极力鼓吹并策划对中国的进一步侵略。尼果赖向沙皇汇报：“现在有两千名陛下的正规军，那么，不仅达斡里亚地区，而且中国长城以外的所有土地都可能臣服于陛下的统治。”
康熙帝试图通过外交途径索要根特木儿，制止俄军进犯，交涉十余载，作出了相当大的努力，但这些不懈的努力既没有、也不可能使侵略者回心转意。清政府是在外交努力未果，和平谈判落空的情况下为保卫国家领土主权的完整和人民生命财产的安全，才决定以武力驱逐沙俄侵略者。
清政府在积极备战的同时，仍没有放弃和平解决争端的努力。康熙二十二年（1683）九月，康熙帝谕令清朝理藩院尚书阿穆瑚琅，再次行文俄国外交机构，希望俄军撤离中国领土，免兴干戈，文中说：“若改前过，将根特木尔等逃人送来，急回本地，则两相无事，于彼为益不浅。倘犹执迷不悟，留我边疆彼时必致天讨，难免诛罚。”但俄国方面对清政府的严正警告置之不理，反而加紧对雅克萨的军事增援，招募哥萨克，贮存粮食物资，修筑工事，加固城防，准备与清朝进行武力对抗，一场战争已不可避免。