Gimnáziumi tanulmányait Sopronban a jezsuita rend iskolájában végezte, majd Győrben a kisszemináriumban folyatta. 1755-től a híres római Collegium Germanicum-Hungaricum növendéke lett. 1758-ban, a teológiai és filozófiai doktori fokozat elnyerésével fejezte be római tanulmányait.

Szily János. gimnáziumi tanulmányait a Soproni Jezsuita Gimnáziumban végezte a teológiát a Győri Kisszemináriumban kezdte majd 1755-től a híres római Collegium Germanicum-Hungaricum növendéke lett. Három év múltán teológiai és filozófiai doktori vizsgát tett. Pappá szentelésére 1758, szeptember 3-án került sor.. Zichy Ferenc győri püspök udvari káplánja gyorsan emelkedett az egyházi ranglétrán. Püspöki szertartó, titkár, a Győri Káptalan nagyprépostja, 1775-ben segédpüspök lett. Mária Terézia az 1777-ben alapított Szombathelyi Egyházmegye püspökévé nevezte ki. Szily János nagy formátumú européer szervezőként látott hozzá az egyházmegye megszervezéséhez. Püspökségének 22 éve alatt neves európai mestereket foglalkoztatott. A papnevelő intézetet. a püspöki palota és a székesegyház építésén Hefele, Maulbertsch, Winterhalder, Dorfmeister és Prokopp dolgoztak. Szervezőmunkájának köszönhetően 1795/96-os évben kezdődött az oktatás a Szombathelyi Líceumban. Megalapította Szombathely első nyomdáját Schönvisner István a Pesti gyetem professzora, az ő megbízása alapján írta meg Savaria-Szombathely történetét. Nagyszabású építkezései során megtalált római köveket palotájának földszinti termében a „Sala Terrana”-ban helyeztette el. Értékes könyvtárát nyilvánossá téve a a szemináriumnak ajándékozta. Szembehelyezkedett II. József jozefinista valláspolitikájával e miatt az uralkodó kitiltotta Bécsből. A Szombathely urbanizációs és kulturális fejlődését elindító főpap életének 64. évében hunyt el.