El poblamiento humano en el entorno de lo que hoy es Segovia se remonta a hace unos 60.000 años, fecha en que ha sido datada la ocupación neandertal del Abrigo del Molino en el valle del Eresma, a tan solo 500 m del emplazamiento del alcázar. Fueron pues, los neandertales, los primeros en ocupar el territorio de lo que con el tiempo se convirtió en la ciudad de Segovia.

Cerca de este abrigo, en la cueva de la Tarascona y en otros emplazamientos al aire libre en el entorno periurbano de Segovia, se localizan evidencias del Calcolítico y la Edad del Bronce. En el lugar que hoy ocupa el alcázar existía un castro celtíbero, del que se conocen algunas evidencias, como su posible foso.

Aunque el nombre de Segovia es de origen celtíbero, no se tiene constancia del nombre de la ciudad hasta que Tito Livio la nombra como una mansio cerca de Cauca. La mención está referida a la guerra de Sertorio, cuando los generales de Sertorio recorrieron Hispania reclutando soldados en el año 79 a.C.

Había sido sometida por Roma en el año 96 a.C., que la consideró un punto importante para controlar el acceso al valle del Duero. Sobre el antiguo emplazamiento prerromano, tal vez de origen celta, los romanos situaron la primera infraestructura urbana de la nueva ciudad, siguiendo la forma habitual de un asentamiento militar, en un punto central de la calzada que luego unirá Mérida y Zaragoza, y ante el lugar que actualmente ocupa el Alcázar. Aunque Segovia no fue una ciudad de gran importancia —al menos si la comparamos con otras como Tarraco o Emerita Augusta— durante la dominación romana, sí que podemos observar en ella una de las mejores muestras de la edificación civil de este periodo. Nos referimos a su famoso acueducto, una extraordinaria obra de ingeniería capaz de llevar agua a la ciudad desde el nacimiento del río.

Durante la época romana, Segovia pertenecía al convento jurídico de Clunia. En la Hispania visigoda fue sede episcopal de la Iglesia católica, sufragánea de la Archidiócesis de Toledo que comprendía la antigua provincia romana de Cartaginense en la diócesis de Hispania.

Se cree que la ciudad fue abandonada tras la invasión islámica. Tras la conquista de Toledo por Alfonso VI de León, el yerno del rey Alfonso VI, el conde Raimundo de Borgoña, junto con el primer obispo de su reconstituida diócesis, empezó la repoblación de Segovia en 1.088 con cristianos procedentes del norte de la península y de más allá de los Pirineos, dotándola de un amplio concejo cuyas tierras cruzaban la sierra de Guadarrama e incluso la línea del Tajo.

El acueducto es considerado la obra de ingeniería civil romana más importante de España, y es uno de los monumentos más significativos y mejor conservados de la Antigua Roma en la península ibérica. Llevaba agua del río Frío, en la Sierra de Guadarrama, a la ciudad. Con una longitud de 14.956 metros, está compuesto por 20.400 bloques de piedra y tiene una altura máxima de 28 metros. Fue construido en el siglo I d.C. Históricamente el acueducto se divide en tres tramos bien diferenciados:
a) la zona extraurbana, donde se sitúa la captación y parte de la conducción;
b) el trazado periurbano. Conducción;
c) el trazado urbano. Conducción y distribución. En esta parte se hallaría el acueducto aéreo y monumental y el canal soterrado.

El tramo más significativo del acueducto es el situado en la Plaza del Azoguejo. La arquería de 760 metros de longitud, que consta de dos cuerpos de grandes arcadas de sillares de granito, salva la diferencia de cota de entrada a la ciudad. La arqueología nos ha permitido conocer el recorrido completo de la canalización. En esta ruta, señalizada con 24 placas de bronce, encontramos cuatro desarenadores, construidos para eliminar las impurezas del agua: Casa de piedra, tramo de arquerías, Plaza mayor y Recinto del Alcázar. Este itinerario parte de la Plaza del Seminario y llega hasta la entrada al Alcázar.

Aparte del acueducto, no se conservan muchos restos arqueológicos de época romana en la ciudad. Los existentes los podemos contemplar en el Museo de Segovia, que cuenta con una interesante colección de objetos de época romana, hallados tanto en la ciudad como en la provincia segoviana, como restos de mosaicos, esculturas, lápidas funerarias o pint