Dzimis 1652. gada 25. aprīlī Maskavas bajāra Pjotra Šeremetjeva ģimenē. 1665. gadā 13 gadu vecumā kļuva par cara Alekseja galminieku. Reģentes Sofijas valdīšanas laikā piedalījās diplomātiskās sarunās par militāras savienības veidošanu pret Osmaņu impēriju ar Polijas-Lietuvas valdnieku Janu Sobeski un Svētās Romas impērijas ķeizaru Leopoldu I. 1695. gadā viņš piedalījās cara Pētera I karagājienā uz Azovu. 1697.—1699. gados B. Šeremetjevs diplomātiskās misijas sastāvā viesojās Austrijā, Venēcijā un Maltā.
Lielā Ziemeļu kara laikā Boriss Šeremetjevs kļuva par caram Pēterim I uzticamu karavadoni, kaut arī viņa komandētās karaspēka vienības 1700. gadā cieta sakāves kaujās pie Narvas un Alūksnes. Pirmās uzvaras pār zviedriem viņš izcīnīja 1701. gada kaujā pie Erestferas (1701) un kaujā pie Omuļiem (1702). Tikai tad pēc 10 dienu aplenkuma krievi ieņēma Alūksnes pili, Šeremetjeva gūstā nokļuva arī Bībeles tulkotājs prāvests Ernsts Gliks un viņa audžumeita Marta Skavronska. Ziņojumā caram Pēterim I viņš rakstījis, ka "Vidzemē no Rīgas līdz Rēvelei vairs nav ko postīt, ka tur pat gaiļus vairs nedzird dziedam".[1] 1705. gadā viņš cieta sakāvi Mūrmuižas kaujā pret zviedriem. Astoņus mēnešus ilgā Rīgas aplenkuma laikā Šeremetjevs savu galveno mītni iekārtoja Dreiliņu muižā. Pēc Rīgas padošanās 1710. gada 14. jūlijā ģenerālfeldmaršals Boriss Šeremetjevs pieņēma rīdzinieku uzticības zvērestu, sēžot zviedru karalim Kārlim XII gatavotajā krēslā. Kā atlīdzību 1711. gadā cars Pēteris viņam piešķīra dzimtas īpašumā abas Piebalgas muižas.
Miris 1719. gada 17. februārī Maskavā, apbedīts Sanktpēterburgā Ņevas Aleksandra Lavrā.[2]
"Ģenerālfeldmaršals Boriss Šeremetjevs pieņem rīdzinieku uzticības zvērestu 1710. gada 13. jūlijā" Aleksandra fon Kocebū (Alexander von Kotzebue, kr. Александр Евстафиевич Коцебу, 1815-1889) gleznas fotoreprodukcija.