Через несколько дней русскому резиденту дали окончательный ответ: так как король не собирается заключать всеобщий картель, то и переговоры на границе не нужны, достаточно обменяться списками пленных. Судя по тону ответа Хилкова, он был в негодовании. Обвинив шведские власти в непоследовательности, князь не согласился и с приложенным списком русских пленных, так как, по его мнению, там были незнакомые имена, а размен шведских офицеров на русских купцов и крестьян посчитал невозможным вовсе, потому что последние оказались во владениях Швеции ранее начала боевых действий. Оскорбило его и то, что русских офицеров — представителей знатных семей приравняли к купцам и служителям, а его самого и его врача к крестьянам и слугам.
Но особенный эффект в Стокгольме произвело письмо канцлера Головина от 9 августа 1705 года. Он начал с того, что назвал предложения Королевского совета вздорными и несовместимыми с европейскими обычаями. В саркастическом тоне обычно очень дипломатичный Головин писал, что царь Петр лучше знает европейские обычаи и соответствует христианским ценностям, чем король Карл. Российские власти пошли дальше: спустя некоторое время по приказу Петра критика поведения шведских властей прозвучала при «нейтральных дворах» из уст российских дипломатов. Это заставило членов Оборонной комиссии в начале октября отправить послание Ф.А. Головину с обвинением в том, что у него «недостаточно оснований, чтобы писать ложь и памфлеты, и многие обращения к христианским и цивилизованным министрам страдают экспрессивностью и недоказательностью». Все эти события серьезно отразились на положении пленных. Раздражение русских властей по поводу несостоявшихся переговоров и размена привело к поспешной высылке резидента Книперкроны с семьей и прочих шведских офицеров из Москвы в середине июля 1705 года. А в начале октября (кстати, к этому времени Книперкрону вернули в Москву) резидента и генералов, кроме Долгорукого, выслали из Стокгольма.
В последующие годы тема массового размена поднималась еще несколько раз, но всегда находились какие-то препятствия, которые мешали перейти даже на уровень серьезного обсуждения деталей. Пожалуй, наиболее реальной и близкой к завершению была попытка массового размена весной 1709 года, накануне, как оказалось, Полтавской битвы. Этому предшествовал удачный обмен несколькими десятками человек с обеих сторон в конце 1708 года. Было принято решение, что провести обмен «глухо — количество на количество». Для этого в русскую армию было прислано как минимум 488 пленных шведов, а вместе с женами и детьми их количество составило 534 человека. Но согласования и переговоры затянулись, а затем наступили Полтава и Переволочна, которые принципиально изменили ситуацию с обменом.
После того как в Стокгольме узнали о катастрофе на Украине, члены Королевского совета гораздо более серьезно отнеслись к предложениям о мире и генеральном размене, которые привез из Москвы в августе 1709 года отпущенный «на пароль» из Москвы королевский секретарь Йозиас Цедергельм. Разумеется, они не могли дать окончательный ответ без королевских указаний, но выразили формальное согласие начать переговоры как можно скорее. В качестве жеста доброй воли они отпустили с Цедергельмом, возвращавшимся в Россию, двух русских офицеров: ротмистра Тисовского и капитана Дашкеева, не дожидаясь, как это обычно было, когда в России подготовят равночинцев.
Привезенные Цедергельмом шведские предложения были отвергнуты русскими властями по совершенно определенным причинам. Дело в том, что шведы предложили в случае, если будет не возможен обмен, выкупить пленных. Ссылаясь на французско-голландский картель (тот самый, что предлагался русскими в 1705 году), они составили следующие расценки: за генерала 800 рублей, за генерал-майора 160 рублей, за полковника 80 рублей, за подполковника 50 рублей, за майора 44 рубля, за ротмистра или капитана 40 рублей, за поручика 20 рублей, за корнета, прапорщика, адъютанта 15 рублей. Свое отношение к этому предложению Петр выразил в письме царевичу Александру Имеретинскому от 28 июля 1710 года, справедливо полагая, что оно станет известно не только русским пленным, но и шведским властям. Он написал, что коварные шведы хотят «нас в сем яко спящих, обмануть, дабы мы обрадовся алтынам, всю армею их им продали, и себе беду купили». Ни для кого не было секретом, что пленные с обеих сторон массово нарушали обещание «не воевать» и по возвращении на родину вновь поступали на военную службу.
В течение последующих лет тема массового размена пленными серьезно не обсуждалась, за исключением Аландского конгресса, который проходил на одноименных островах с мая 1718-го по октябрь 1719 года, но и тогда решения принято не было. Вместе с тем точечный размен с той или иной степенью интенсивности происходил в ходе всей войны. Иногда он имел адресный характер, но чаще всего это был обмен по соответствию чинов и рангов «чин на чин».
В качестве примера можно привести историю обмена капитана князя Бабичева, поручика Каханцева и солдата Севастьяна Иванова, которые в июле 1711 года вернулись из плена с условием-«паролем», что вместо них отпустят шведов-разночинцев. Вскоре русские власти подобрали подходящие кандидатуры «из больных и старых шведов»: капитан Кноблук, поручик Халиндер и солдат Реббес. Но граф Пипер и другие генералы предложили другого кандидата — капитана Штена, который в конечном итоге вместе с остальными и отправился на родину. На этом примере хорошо заметны все этапы и особенности процесса: принципы отбора кандидатур, обязательность осмотра и утверждение уполномоченными представителями.
Проявляя повышенную заинтересованность в возвращении какого-либо пленника, русские или шведские власти шли на определенные уступки, которые иногда оставались неоцененными обратной стороной. Так, для того, чтобы ускорить возвращение выходцев из знатных семей королевских секретарей Цедергельма и Дюбена, шведское правительство в 1710 году отпустило иностранцев на русской службе майоров Страуса и Пиля. Свое недоумение по поводу того, что русские не сделали ответного хода, королевские советники выразили в специальном мемориале в Правительствующий Сенат 5 июня 1711 года, но ни в 1711-м, ни в последующие годы, вплоть до 1720-го, эта история так и не получила своего логического завершения.
Существовала еще одна возможность освободиться из плена. Это так называемый отпуск «на поруки» или отпуск «на пароль», который теоретически предусматривал временность пребывания на свободе с целью выполнения определенного задания, но на деле означал полное освобождение. Среди тех, кто получал это право, были в большинстве случаев старшие офицеры, представители аристократии и высокопоставленные статские служители. Обе стороны надеялись, что они используют высокопоставленных родственников и свои мощные связи для решения особенно сложных проблем, например инициирования переговорного процесса, обмена определенных лиц и т.д. Так произошло в случае с упомянутым секретарем Й. Цедергельмом, когда он сразу после Полтавы повез царские мирные предложения в Стокгольм.
Стремясь хотя бы на время вырваться из неволи или ускорить решение какого-либо вопроса, пленные с обеих сторон часто проявляли инициативу и выражали желание выступить в качестве посредников для ведения переговоров. Такая ситуация, в частности, возникла весной 1710 года, когда в Швеции активно обсуждалось «очередное коварство русских», которое заключалось в том, что, вопреки подписанному соглашению о сдаче гарнизона Выборга, весь его состав был взят в плен. В конце августа князь Хил ков развил бурную деятельность: он побывал на приеме у члена совета графа Вреде и предложил отпустить его в Россию на определенный срок для ведения переговоров об отпуске гарнизона и семьи резидента Книперкроны. В качестве гарантии он был готов оставить свое имущество. Но этого оказалось недостаточно для шведских властей, и попытка князя вырваться из плена не удалась.