1964年2月25日，中苏两国为解决边界争端开始举行谈判。当年参加谈判的李凤林回忆说，“中方仍以中苏两国人民的友谊为重，愿意以那些条约为基础，全面解决中苏边界问题，不要求收回沙皇俄国通过那些不平等条约从中国掠取的150多万平方公里的土地”。但是，“苏方一直回避称这次谈判为边界谈判，而称之为苏中核定某些地段边界线的磋商”。

　　赫鲁晓夫后来的回忆却是另外一种说法，从法律上说，“那些岛屿应该归属苏联”。尽管如此，“我们还是愿意照顾住在边境地区的中国居民的利益，允许牧民在严格说来不属于中国的领土上放牧和砍柴。”最后阶段的谈判时，我们发现“中国人不肯接受我们的立场”。他们希望新签订的条约中包含这样一个条款，说明新的边界使100年前强加给中国的不公正待遇永久化了”。但是，“任何一个主权国家怎么可能签署这样的文件呢？假如我们签署了，我们就等于默认不公正待遇必须加以纠正——换句话说，我们将不得不放弃我们对有关领土的权力。于是，我们的代表团回到了苏联”。

　　谈判中，双方在界河归属问题上出现严重分歧。根据《中俄北京条约》，中俄东段边界以黑龙江和乌苏里江为界，但界河中的岛屿归属在条约中并未规定。按照国际通行的规则，界河中的岛屿归属应以主航道中心线为准。

　　中方坚持认为，珍宝岛从来就是中国的领土。《中俄尼布楚条约》、《中俄瑷珲条约》、《中俄北京条约》均标明，“珍宝岛也无可争议地是中国的领土”。“在1964年中苏边界谈判中，苏联方面自己也曾经不得不承认这些岛屿是中国的领土。”

　　而莫斯科的看法是，当前远东地区苏中存在的这条边界“是许多世代以前就形成的，是沿着自然的界线通过的，这条界线把苏联和中国的领土分割开来。”这条边界是由《瑷珲条约》、《天津条约》和《北京条约》在法律上规定的。苏联政府的立场是双方严格地、始终不渝地履行这些条款。

　　对此，中方认为，1860年以前，“珍宝岛所在的乌苏里江还是中国的内河”。自19世纪鸦片战争以后，帝国主义列强纷纷将不平等条约强加给中国，正是在这种情况下，“《中俄北京条约》才规定中俄两国以乌苏里江为界”。根据公认的国际法准则，珍宝岛位于乌苏里江主航道中心线中国一侧，因此，“无可争议地属于中国，并一直在中国管辖之下”。

　　然而，苏联政府搬出了《中俄北京条约》附图，说这张地图标明的分界线，在珍宝岛地区“直接沿乌苏里江的中国江岸通过”，企图“以此证明珍宝岛属于苏联”。但是，这张附图是“1861年勘界前沙皇俄国单方面绘制的”，当时中俄双方只勘分了兴凯湖以南的陆界，而“没有勘分乌苏里江和黑龙江的水界，只是在这张比例尺小于一百万分之一的附图上画了一条红线，表示两国以这两条江为界”。问题在于，“这张附图上的红线既不表明也不可能表明边界线在江中的确切位置，更不是为了划分岛屿的归属”。因此，“它根本不能证明珍宝岛属于苏联”。

　　事实上，《中俄北京条约》签订以后，“双方一直是按照主航道中心线划分岛屿归属，并进行管辖的。”沙皇俄国边界官员给中国方面的信件也一再证实了这一点。

　　有鉴于此，苏方代表在谈判中不得不承认，《中俄北京条约》附图的“红线不能表示江中边界的确切走向，也不可能划分岛屿归属”。并且不得不同意江中的边界和岛屿归属，应该“按照主航道中心线划分”。

　　谈判一直持续到8月，因无法达成协议，只好告一段落。但是，关于珍宝岛等岛屿归属问题的争论为后来中苏冲突埋下了种子。

　　“先礼后兵”

　　在1964年5月下旬召开的中央政治局常委会议上，毛泽东说，战备问题是从我们同赫鲁晓夫多年的斗争中引出来的。从赫鲁晓夫大反华的趋势来看，我们要考虑到万一他甘冒天下之大不韪，竟然把战争强加在我们头上。因此，我们必须下大力气加强抵抗武装入侵的准备。7月10日，毛泽东在会见日本客人时批评说：“苏联占的地方太多了”，大约在一百年以前，贝加尔湖以东的领土变成了俄国的领土，从那时起，海参崴、伯力、堪察加和其他地区，“凡是能够划过去的，他都要划。有人说，他们还要把中国新疆、黑龙江划过去……我们还没有算这笔账”。

　　9月10日，毛泽东在同法国客人谈话时解释说，他强调旧事重提，其实只不过是“采取攻势，说些空话”，使赫鲁晓夫“紧张一下”，并没有改变边界现状的意思，目的还是想要以目前边界现状为基础达到一个合理的边界状态、边界条约。

　　赫鲁晓夫下台后，中共中央采取一些措施，试图改善中苏关系，但未能取得成功。勃列日涅夫上台后，继续向中苏边界增兵，由赫鲁晓夫时期的10个师，增加到54个师，达100多万人。1960年以前，苏联在远东地区布置的导弹大约有70枚，20世纪60年代中期以后，导弹数量不断加强。不仅如此，苏联还在远东地区配备了50多架远程轰炸机、400多架中型轰炸机，这些轰炸机可以携带氢弹进行战略核攻击。

　　1968年，勃列日涅夫曾召集苏共中央全会，研究中苏战争的可能性。珍宝岛事件发生后，克里姆林宫不仅调动坦克、飞机，还调动了导弹，企图对中国发动“预防性战争”，或者对中国“为数不多的核设施”进行一次“外科手术式”的打击。

　　苏联原驻华外交官叶利扎维金回忆说，1966年至1967年，仅苏联驻华使馆就不止一次地主张在这个地区“对中国人上岛给予回击”。一方宣称这些江心岛是自己的领土，坚持上岛，一方必欲将对方赶走，并想方设法“给予回击”，冲突的发生自然愈演愈烈。