Skoro oželel i cár svoju dôveru proti Mazepovi. Hrdina severu, Karol XII, prekročil v decembri 1707 Vislu, obrátiv sa s celou silou proti Petrovi. Čakalo sa, že pôjde bystro k Moskve. On ale meškal, ako očarovaný, a obrátil sa, až v septembri 1708, na juh v Ukrajinu, veľmi nepríležite pre Mazepu. Lebo Mazepa mal v úmysle až vtedy ukázať zuby Rusom, keď Karol obdrží úplné víťazstvo a okkupuje Moskvu. Že teda Karol obrátil sa pred víťazstvom v Ukrajinu, to zmätlo všetky počty Mazepove a donútilo ho sveriť sa náhode.
Mal od vlády svojej rozkaz ísť s kozákmi k Starodubu, kde Alexander Menšikov shromažďoval veliké vojsko, ale zlé svedomie jeho videlo v tom nebezpečenstvo. Myslel, že je zradený, a že ho vábia do klepca. Vyhovoril sa teda vznikajúcou medzi kozákmi mätežou, a nešiel. Veleli mu, aby šiel aspoň sám ku Menšikovi. Odkázal, že je chorý, ba že leží na smrteľnej posteli. Práve vraj prijíma sviatosti umierajúcich.
Menšikov mu veril, a šiel sám navštíviť nemocného. Ale na ceste sa doznal, že Mazepa ušiel 23. októbra 1708 za Desnu ku Švédom, so dvúma tisícma kozákov.
Urobil to už len z tvrdej nutnosti, že pri Rusoch nemal viac budúcnosti. Majúc za to, že je zradený, vrhnul sa práve vtedy Švédom do náručia, keď ich šťastie začalo opúšťať. Lebo 28. septembra 1708 porazil Peter u Liesny na hlavu generála Lövenhaupta, ktorý viedol z Livonie Karlovi 16.000 vojska, a všetky potravné zásoby mu odňal. Mohol teda slušne obávať sa Mazepa, že výprava Karlova sa nezdarí a on že zle obstojí s ním.
Preto chcel i cúvnuť sa. Vida rastúcu úzkosť Švédov a netečnosť Ukrajincov pri jeho zrade, vystrojil koncom 1708. roku k cárovi plukovníka Daniela Apostola s nabídnutím, vydať cárovi Karla a jeho generálov, jestli ho cár prijme na milosť a ponechá mu hetmanstvo.
To bolo prijato. Ale poneváč hneď na to bol lapený list Mazepov ku Stanislavovi Leszczinskému, kde sa nazýva tohoto verným poddaným, urobil cár krok rozhodný. Vydal verejný list, v ňomž objavil všetky vierolomstvá Mazepove, a poučil národ, akú mu hetman chcel zaopatriť svobodu. Tým bola Mazepovi cesta k návratu zatvorená celkom a navždy.
A so Švédmi povodilo sa, ako sa Mazepa obával. Dňa 27. júna 1709 porazil ich cár Peter u Poltavy tak, že celú armádu zčiastky položil mrtvú. zčiastky zajal. Zutekal len ranený Karol, s maličkým sprievodom, cez Dnieper, na územie turecké, do Benderu, kde potom vystrájal svoje podivínske kúsky.
S ním prchnul i Mazepa, so svojím pisárom Orlíkom a hodným súdkom dukátov, ktorý všade vozil so sebou.
A čo zradená Matrena? Z väzenia vypustil ju Menšikov, keď zaujal Baturín. Urobila potom, čo úbohá dievčina v hluku válečnom mohla urobiť: prosila Boha, aby odplatil lstecovi dľa zásluhy.
A modlitba jej bola vyslyšaná. O dva mesiace po príchode do Benderu s podivínom švédskym Mazepa bol najdetý vo svojom stane mrtvý. Do temena mal zabitý veliký železný klin, a nebolo Orlíka, dvúch kozákov, a súdka s dukátmi. Čo ho malo spasiť, to vo mstiacej ruke Božej premenilo sa v nástroj záhuby.
Na hrobe Orlíkovom stál potom busurmanský turban.