Die Festung liegt auf einem Felsmassiv, das die Flussläufe des Abión und des Ucero voneinander trennt, und ist durch einen Pass von den Ödlandgebieten getrennt, die im Süden an die Täler des Duero grenzen.

Im Jahr 912 ist die Siedlung Osma urkundlich belegt, und obwohl man an eine Wiederbesiedlung der Ruinen der römischen Stadt Uxama denken könnte, gibt es Hinweise auf Bauwerke auf dem Hügel der heutigen Burg, die es ermöglichten, diese ursprüngliche Siedlung dort zu lokalisieren.

Um das Jahr 933, als es in Osma zur ersten Niederlage der kalifalen Truppen kam, oder im Jahr 934, als Ramiro II. von León und Graf Fernán González in der Burg Zuflucht suchten (es bestehen Zweifel, ob es sich um diese oder die von Gormaz handelte), muss der größte Teil der Festung, die wir heute sehen, von den Leónern errichtet worden sein. Die strategische Bedeutung der Burg von Osma nahm nach der Niederlage der Muslime im Jahr 939, im Anschluss an die Schlacht von Simancas südlich von Gormaz, deutlich zu. Das Kalifat reagierte in den folgenden Jahren, indem es Gormaz zurückeroberte und befestigte. So war die Burg von Osma fünfzig Jahre lang (zwischen 934 und 989) die wichtigste Verteidigungsanlage an den Toren des Königreichs León an diesem Abschnitt des Duero und zweifellos die christliche Burg, die den Angriffen des schrecklichen muslimischen Feindes am stärksten ausgesetzt war.

Das Bauwerk von Ramiro II. von León schloss sich an die früheren Türme an und bestand aus grobem Mauerwerk mit einer großen Menge römischer Steine sowie prächtigen Quadersteinen, die an Ecken, Türen und Schießscharten mit Steinmetzmarkierungen versehen waren. Die Oberburg verfügte über vier Türme (die beiden bereits bestehenden und die beiden neuen, von denen einer fünfeckig und hohl war) sowie zwei Tore im Norden und Süden, die den Abstieg zu den Flüssen Abión und Ucero ermöglichten.

Fünfzig Jahre Widerstand gegen das Kalifat und gegen die gewaltige Festung von Gormaz sind eine lange Zeit, doch letztendlich war Almanzor nun einmal Almanzor, und Osma fiel 989 in seine Hände. Im Jahr 994 fielen San Esteban und Clunia, und im folgenden Jahr verlor der kastilische Graf Garci Fernández in Alcozar sein Leben.

Der berühmte General aus Algeciras besiedelte die Burg von Osma erneut mit Arabern und befestigte sie erneut; ein Teil der äußeren Verkleidung des Turms, der in Richtung Uxama blickt, könnte von ihm stammen. Die Burg blieb bis zum Jahr 1011 im Besitz des Kalifats, bevor sie wieder in christliche Hände überging.