Po niemal 200 latach ziemie te przeszły w ręce kanclerza Jana Zamoyskiego. Król Stefan Batory w dokumencie z dnia 26 marca 1579 roku polecił mu wznieść tam umocnienia. Szukając miejsca na zamek w którym mieszkańcy mogliby chronić się przed napastnikami z południa wybrał Zamoyski dogodnie położone wzniesienie u zbiegu rzeczek Muraszki i Kiełbaśnej.
Warownia otrzymała nazwę Szarogród na cześć Floriana Szarego legendarnego protoplasty rodu Zamoyskich.
Jest prawdopodobne, że system fortyfikacji Szarogrodu którego budowę rozpoczęto 28 maja 1585 roku został zaprojektowany przez budowniczego Zamościa architekta Bernarda Morando.Szarogród położony na dogodnym szlaku handlowym wiodącym z Mołdawii do Bracławia (pomiędzy Mohylewem Podolskim i Barem) rozwijał się bardzo szybko i już 26 stycznia 1588 roku Zygmunt III nadał miastu przywileje na prawie magdeburskim. Przejezdni kupcy mieli obowiązek wystawiać swoje towary przez 2 dni na sprzedaż, a miejscowi uzyskali prawo do handlu z Tatarami, Turkami i Mołdawianami i urządzania 3 razy w roku wielkich targów. Zalecona została jednocześnie daleko idąca ostrożność, gdyż nadmierne skupisko przyjezdnych mogło stanowić zagrożenie dla bezpieczeństwa grodu. Zgodnie z warunkami przywileju wszystkie dokumenty handlowe musiały być sporządzane w języku polskim. Jednocześnie wszyscy osiedlający się w grodzie zwolnieni zostali na 20 lat z wszelkich podatków i powinności. Dzięki temu na przełomie XVI i XVII wieku Szarogród prowadził handel z całym regionem, a wielu mołdawskich i wschodnich kupców utrzymywało w mieście swoje składy.
Miasto otrzymało herb przedstawiający Św. Floriana z tarczą z trzema skrzyżowanymi włóczniami (tj. z herbem Jelita rodu Zamoyskich) w jednej ręce i naczyniem z wodą gaszącym pożar w drugiej.
Pierwotny układ urbanistyczny miasta z ulicami zbiegającymi się w kierunku ujścia Kiełbaśnicy do Muraszki zachował się do dzisiaj. Od tego miejsca wznoszą się sąsiednie wzgórza Murawskie i Mohylewskie z których nadjeżdżali niegdyś zarówno wędrowcy jak i agresorzy.
W roku 1589 Jan Zamoyski rozpoczął budowę kościoła Św. Floriana, częściowo ukończoną w roku 1595, która przerywana zniszczeniami wojennymi trwała jeszcze wiele lat.
W ostatnich latach XVI wieku zezwolił Zamoyski na osiedlanie się w mieście Żydów. Według różnych źródeł w mieście było od 300 do 1000 domostw żydowskich, a szarogrodzka gmina należała w I poł. XVII w. do jednej z największych na Podolu. W roku 1589 gmina żydowska podjęła budowę wielkiej synagogi będącej jednocześnie budowlą obronną włączoną w system fortyfikacji miasta.
Synagoga była nie tylko miejscem kultu ale i miejscem spotkań, dyskusji i narad gminy żydowskiej.Trzeba pamiętać, że Szarogród z założenia miał być strażnicą południowych rubieży Rzeczypospolitej, a więc miastem frontowym. Jednocześnie zagrożenia zewnętrzne nakładały się na stały konflikt wewnętrzny polsko-ukraiński (kozacki) do którego dołączyły jeszcze antagonizmy wobec ludności żydowskiej. Wszystkie te plagi przetaczały się przez miasto regularnie przez niemal 2 wieki. Zupełnie inaczej wygląda „wielka” historia pełna pochodów wojsk, zwycięskich bitew i układów politycznych, a inaczej wygląda ta sama historia z perspektywy miasta i jego mieszkańców poddanych tym zawieruchom. Z drugiej strony Szarogród musiał być w tych czasach miejscem bardzo atrakcyjnym, skoro mimo niebezpieczeństw przyciągał stale nowych mieszkańców różnego pochodzenia.
Po raz pierwszy Szarogród został spustoszony przez Kozaków dowodzonych przez Seweryna Nalewajkę już w 1596 roku. Po tym zdarzeniu podjęto działania polonizacyjne związane z licznymi ograniczeniami dla wyznawców prawosławia.
To z kolei wywoływało opór ukraińskich mieszkańców kończący się nieraz krwawymi buntami. W roku 1626 został zamordowany i wrzucony do rzeki proboszcz szarogrodzkiej parafii. Jednocześnie ludność prawosławna organizowała się w „Bractwie Szarogrodzkim”
W roku 1648 gród poddał się bez wystrzału chłopsko-kozackim wojskom Maksyma Krzywonosa i Iwana Gandżi, a jego garnizon zbiegł do odległego Zamościa. Kozacy zniszczyli wtedy kościół i dużą część miasta, a mieszkańcy, szczególnie polscy i zydowscy zginęli lub uciekli. . Następnie Szarogród został obsadzony przez część bracławskiego regimentu Daniła Nechaja. W marcu następnego roku gród oblegały trzy polskie pułki, ale odstąpiły ostatecznie od szturmu. Dopiero w roku 1650 Kozacy poddali się Marcinowi Kalinowskiemu.
Ale już w 1653 roku miasto zajęła dwudziestotysięczna armia Bohdana Chmielnickiego. Z tego miejsca słał on pisma do rosyjskich posłów W. Streszniewa i M. Bredychina. W końcu 1654 roku Szarogród został ponownie odbity przez siły polskie.
Według relacji tureckiego podróżnika Ewlii Czeleby który odwiedził Szarogród w 1656 roku zamek obwiedziony był pięciokątnym murem z narożnymi basztami i otoczony drewnianą nadrzeczną osadą chronioną wałem ziemnym z ostrokołem i fosą zapełnianą wodą z rzeki.
Turek zwrócił uwagę na silną obsadę artyleryjską i dalekosiężne działa chroniące zamek.Na mapie (kliknij na mapkę aby zobaczyć większy fragment) wykonanej w 1651 roku przez Hiioma Levassera dla króla Jana Kazimierza jest Szarogród wyraźnie znaczniejszy od np. Kamieńca Podolskiego. Ok. 1670 roku właścicielem Szarogrodu został Stanisław Koniecpolski.
W roku 1672 Szarogród został opanowany przez Turków. W okresie dwudziestosiedmioletniego (1672 – 1699) panowania Turków, Szarogród – drugie miasto Podola po Kamieńcu, tak spodobał się okupantom, że doceniając jego znaczenie jako ośrodka handlowego nazwali go Kuczuk-Istambul, czyli „Mały-Stambuł”. W okresie buntu przeciwko tureckim najeźdźcom chłopi i Kozacy pod dowództwem pułkownika Morozenki próbowali odbić Szarogród w 1675 roku, ale ponieśli klęskę, a sam Morozenko po torturach został przybity do jednej z bram miasta. W czasie przemarszu „Prutskiego” Piotra I przez Szarogród w roku 1711 francuski brygadier Moro de Brase sporządził notatki przetłumaczone później przez Aleksandra Puszkina. Napisał on o Szarogrodzie: „gród otoczony był kiedyś wioskami i miał znaczący targ. Jednak w czasie wojen Polski z Portą Turcy wszystko spustoszyli; teraz tylko ruiny świadczą o tym czym to miejsce było kiedyś.” Turcy zostali wyparci z miasta w roku 1699. Ale znów w latach 1702 – 1724 Szarogród był terenem walk narodowościowych i religijnych. Ludność była systematycznie rabowana przez najazdy kozackie, a Żydzi cierpieli pogromy. Największy z nich w roku 1734 przyniósł setki ofiar.
W 1720 roku odziedziczył dobra szarogrodzkie Jan Walewski i sprzedał je Stanisławowi Lubomirskiemu. W 2 poł. XVIII w. Rzeczpospolita umacniała swoje panowanie na Podolu również w oparciu o cerkiew prawosławną. Wybudowano wtedy w Szarogrodzie cerkiew Św. Mikołaja i niższe seminarium, które w roku 1784 miało ok. 600 słuchaczy.
W połowie XVIII w. Szarogród liczył sobie 1124 domów i był drugim co do wielkości miastem Podola. Znaczne musiało być także osadnictwo ludności polskiej o czym świadczą okoliczne wsie o polskich korzeniach.
W roku 1793 Szarogród znalazł się w zaborze rosyjskim. Okres zaborów zaowocował niewątpliwie dynamicznym rozwojem miasta. Największym beneficjentem była gmina żydowska – licząca w roku 1897 niemal 4000 członków, czyli zapewne ok. 80% populacji. Zarządzali gildiami kupieckimi, byli właścicielami domów handlowych, drukarni i hoteli.
Z drugiej jednak strony owocowało to pogromami, szczególnie w latach 1881 – 1882.
W I poł. XIX w. istniały w Szarogrodzie małe „ręczne” manufaktury. W roku 1825 wytwórnię tekstylną z 48 zatrudnionymi (w tym tylko 3 „wolnych”) uruchomił książę Lubomirski. W roku 1845 istniały wytwórnie świec, tytoniu i cegielnie oraz dwa młyny.
W roku 1850 kupił miasto od księcia Jerzego Lubomirskiego książę Roman Sanguszko. Założył on co prawda kilka małych manufaktur w mieście, ale uzależnienie od jego rządów wpłynęło niekorzystnie na rozwój gospodarczy.
Dopiero reforma z 1861 roku zainicjowała rozkwit ekonomiczny. Powstały nowe przetwórnie spożywcze . Na początku lat 80-tych XIX w. otwarto browar, trzy nowe młyny i dwie garbarnie, a w pobliskiej Sosnówce cukrownię. W mieście było 125 kupców i 275 rzemieślników – w większości narodowości żydowskiej. Na początku XX w. w Szarogrodzie było ponad 200 krawców, którzy w 1912 roku założyli nawet swój związek. Miasto było już jednak znacznie mniejsze niż sto lat wcześniej liczyło zaledwie 519 domostw.Córka romana Sanguszki wniosła miasto w posagu hr. Alfredowi Potockiemu, a pod koniec XIX w. ich z kolei córka otrzymała miasto w posagu wychodząc za Władysława Branickiego. W Szarogrodzie istniały dwie szkoły seminaryjne, wychowankiem jednej z nich był znany ukraiński pisarz Michajło Koczubiński (1864 – 1913). Nowa szkoła elementarna otwarta została w roku 1908 a cztery lata później gimnazjum.
I Wojna Światowa i rewolucja odcisnęły silne piętno na mieście. W latach 1918 – 1920 przetaczały się siły czerwonych, białych i armii gen. Petlury. Znaczna część ludności zginęła lub uciekła. W roku 1923 miasto liczyło zaledwie 2450 mieszkańców. Ciężkie chwile nadeszły w okresie wielkiego głodu w latach 30-tych kiedy ucierpiała również poważnie ludność Szarogrodu i okolicznych wiosek. II Wojna Światowa obeszła się z Szarogrodem stosunkowo łagodnie. Samo miasto nie ucierpiało. 22 lipca 1941 roku rozpoczęła się okupacja rumuńska - część Podola została przyłączona do tzw. Transistrii. W mieście Rumuni utworzyli getto z 7000 mieszkańców. Wielu z nich zginęło na skutek głodu i zimna, a szczególnie epidemii tyfusu w zimie 1941/1942. Okupacja rumuńska trwała do 20 marca 1944 r.