Sylwester był z pochodzenia Rzymianinem, urodził się za panowania papieża św. Marcelego lub nawet wcześniej. Jego ojcem był prawdopodobnie kapłan Rufin (w tym czasie duchowieństwa nie obowiązywał jeszcze ścisły celibat). O jego dzieciństwie, młodości i wykształceniu nic nie wiadomo. Kiedy prześladowanie dioklecjańskie ze szczególną wrogością odnosiło się do ksiąg świętych w Kościele i nakazało je niszczyć, właśnie Rufin przechowywał w tajemnicy księgi liturgiczne i Pismo święte, należące do Kościoła w Rzymie.
Sylwester wstąpił na tron papieski po św. Milcjadesie w styczniu 314 roku. Zasiadał na nim bardzo długo - przez 21 lat. Po edykcie mediolańskim kończącym erę prześladowań chrześcijan w cesarstwie rzymskim podjął organizację kultu Bożego. Duchowieństwo chrześcijańskie zwolniono od pełnienia publicznych funkcji pozakościelnych, decyzje sądów biskupich obowiązywały chrześcijan w poszczególnych okręgach, a niedzielę uznano oficjalnie za święto państwowe.
