Vordingborg Slot blev grundlagt af Valdemar den Store omkring 1160 som udgangspunkt for Valdemars og Absalons togter mod Venderne. Den første borg bestod af en ringvold, som omkransede en borgplads med træbygninger. Der er ikke fundet spor af bygninger fra denne periode. Knud 6. udbyggede borgen med et palatium og en Skt. Andreas Kirke, som også fungerede som byens kirke.
Borgen var værn mod venderne og den tjente også som bolig for kongen. Det var bl.a. på Vordingborg Slot, at Jyske Lov blev underskrevet af Valdemar Sejr i 1241, og det var her, at kongen døde samme år. I 1182 døde Valdemar den Store døde på slottet. I 1324 blev Christoffer 2 og dennes søn Erik Christoffersøn kronet på samme tid i slottets Sankt Andreaskirke. Christoffer 2 blev belejret på borgen af sine fjender, herunder de holstenske grever Gerhard 3 og Johan med det resultat, at han måtte flygte ud af landet.
Valdemar Atterdag udbyggede borgen kraftigt i anden halvdel af 1300-tallet efter at han havde genvundet borgen, der havde været pansat som resten af landet. Den havde nu en 700 meter lang fæstningsmur i 8 m højde og 9 fæstningstårne. Efter Valdemars erobring af Gotland i 1361 sluttede 77 hansestæder sig sammen og erklærede krig mod Danmark, hvortil Valdemar hånligt svarede på plattysk:
Søventi søven Hense, søventi søven Gense, bieten mich nicht die Gense, frag ich een Shit na die Hense.
Her brugte han ordspillet “hense” i betydningerne hansestæder og høns. For at understrege hånen, satte han en guldgås på toppen af et af fæstningstårnene. Den nuværende er fra 1871.
Vordingborg fungerede i praksis som landets hovedstad i dele af Valdemar Atterdags regeringstid men også i 1320’erne under Christoffer 2 , som en tid holdt borgen mod de holstenske panthavere. 11. februar 1158 blev det første fredsmøde afholdt med svenskerne, som under Karl 10 Gustavs ledelse var gået over isen fra Jylland via Fyn, Langeland og Lolland-Falster. Under Karl Gustav Krigene blev slottet meget ødelagt og senere byggede man prins Jørgens Palæ til Frederik 3‘s søn. Palæet er også nedrevet og det eneste tilbageværende er en bindingsværksbygning, som huser Danmarks Borgcenter.
.