En época islámica Martos contaría con una alcazaba, que ocupó el antiguo solar del recinto fortificado ibero-romano, fechada entre los siglos XI y XIII y un hisn que ocuparía la cumbre La Peña, ambos construidos en tapial de argamasa sobre basamento de mampostería. Hasta la actualidad, apenas se han documentado vestigios de estas estructuras en algunos lienzos de muralla, en el actual núcleo urbano. 

Será tras su cesión a la Orden de Calatrava por Fernando III, en 1228, cuando se erija el conjunto defensivo visible en la actualidad, ocupando dos áreas claramente diferenciadas: por un lado, el elevado macizo rocoso conocido como La Peña; y por otro, el amplio espolón o meseta sobre la que se asienta el primitivo núcleo urbano, en la ladera noroeste de la Peña. Ambos conjuntos, se unieron en la Baja Edad Media a través de varios lienzos de muralla, tras la profnda transformación de sus defensas llevada a cabo por la Orden. 

Las reformas en las fortificaciones musulmanas trajeron consigo el revestimiento o la sustitución de las antiguas murallas por forros y lienzos de mampostería, a la vez que se añaden elementos defensivos como torres macizas de planta cuadrada y circular, antemurales, barbacanas, etc. 
En la zona más elevada de un espolón rocoso, conocido como Cerro de la Villa, en la vertiente noroeste de La Peña, se ubicó la alcazaba, un recinto amurallado delimitado por una vaguada y erigido sobre los restos de la fortificación musulmana. Este conjunto amurallado, conocido popularmente con el nombre Fortaleza Baja o Castillo de la Villa, está compuesto por tres recintos. 

Ocupando la parte central, la más elevada de la gran meseta, se construyó en la primera mitad del siglo XIII, una fortaleza de planta cuadrangular a la que pertenece la Torre del Homenaje, situada en el sector más occidental, tiene planta cuadrada y se organiza en cuatro niveles, con un aljibe en el inferior. Frente a ella, en el lienzo este del recinto fortificado, se ubicaba la puerta principal, protegida por la Torre de Almedina, de planta cuadrada y varias plantas, con un aljibe excavado en la base rocosa, bajo bóveda de cañón de ladrillo con una apertura cuadrangular a modo de brocal para extraer el agua. 

A esta fortificación se le adosa por el oeste otro amplio recinto identificado como Plaza de Armas, mientras que, a partir de la segunda mitad del siglo XIII, se configura un tercer recinto defensivo en el extremo oriental de la meseta, como antesala de la antigua fortaleza. El conjunto fortificado se dotó de dependencias destinadas a caballerizas y almacenes, tahonas, lagares, bodegas, etc.

La fortaleza situada en la cumbre de La Peña, desde la que mantenía contacto visual con la mayor parte de las posesiones de la Orden, ocupa una amplia meseta, con una acusada inclinación de sur a norte, a la que se accedía a través de una angosta senda en la ladera sur. El recinto, que aprovecha las fuertes pendientes y la acusada orografía como elementos defensivos naturales, circunda toda la meseta, configurando una fortaleza de planta irregular reforzada por torres defensivas de plantas cuadradas y circulares. 

Se accedía a su interior por una torre puerta, que daba paso a un amplio espacio abierto donde se edificaron dos grandes depósitos de agua, uno a modo de balsa y otro cubierto con bóvedas de arista de ladrillo, así como diversas dependencias. En la zona más elevada se construyó un alcázar de planta irregular, donde destaca una gran torre de Homenaje rectangular organizada en cuatro pisos, utilizándose probablemente el inferior como aljibe. Se aislaba del resto de la meseta mediante un amplio foso excavado en la base rocosa, que contaría con un antemural y una puerta dotada de puente levadizo.

Tras la conquista del reino nazarí de Granada estas fortificaciones apenas sufrieron transformaciones, principalmente la emplazada en la cumbre de la Peña, lo que aceleró su progresivo abandono y deterioro en el siglo XVI.

En el núcleo urbano de Martos y sus alrededores se han realizado hallazgos de una ocupación neolítica, relacionada con el proceso de sedentarización. El posterior desarrollo de una economía de producción a partir de finales del IV milenio a.n.e. condujo a un asentamiento de la Edad del Cobre, del que forman parte una serie de estructuras, de hábitat y de almacenaje, documentadas en la zona del Polideportivo.

Durante el periodo ibérico se introducirán importantes cambios en la estructura de poblamiento de esta zona, con la proliferación, entre los siglos V y IV a.n.e., de oppida o asentamientos fortificados, dispersos por el territorio de la antigua Tucci. El principal se encontraba en la actual población de Martos, sobre el Cerro de la Villa, cuya zona más elevada fue utilizada como su acrópolis.

En época romana, Augusto creó la Colonia Augusta Gemella entre los años 15 y 14 a.n.e., posiblemente en las inmediaciones de Martos, de ahí la existencia del cognomen de Gemella. Los hallazgos arqueológicos en su núcleo urbano evidencian la monumentalidad e importancia que tuvo la ciudad en época imperial romana, cuyo foro se situaría en el entorno de la iglesia de Santa Marta.

Entre los siglos V y VII, la población de Tucci quedó integrada dentro de la Provincia de la Bética, siendo ceca desde finales del siglo VI y durante el siglo VII, así como sede episcopal.  A este momento pertenecerían los restos de una Basílica visigoda en la zona del Polideportivo, con enterramientos asociados a ella, junto a una calzada que discurría por la zona en dirección a la ciudad. En el centro urbano se halló un espectacular sarcófago paleocristiano del siglo IV que se exhibe en el Museo Provincial de Jaén.

La ubicación privilegiada de Martos, desde la que se podían controlar las rutas que conducían a Córdoba y Granada, le confirió durante toda la Alta Edad Media un alto valor estratégico que provocó que se disputasen su posesión los bandos enfrentados durante la fitna de finales del siglo IX. La urbe experimentó un notable desarrollo a lo largo del siglo IX, integrada en la Kura de Ŷayyān, convirtiéndose en uno de sus principales distritos administrativos (Iqlim de Martus). La crisis del Califato y el posterior avance de los ejércitos cristianos convirtieron las tierras del Alto Guadalquivir en un incesante campo de batalla con incursiones de desgaste de ambos bandos, lo que provocó la exhaustiva fortificación de las líneas fronterizas.

Esta zona de la Campiña fue conquistada por Fernando III en la primera mitad del siglo XIII (1224-1240). Las cesiones territoriales del monarca a la Orden de Calatrava por su colaboración durante las campañas militares, dieron lugar a la Encomienda Mayor de Martos, demarcación territorial situada en un sector fronterizo de vital importancia dada su proximidad a las tierras de Granada y Córdoba y a las principales vías de comunicación de la zona. La Orden de Calatrava llevó a cabo una intensa labor de fortificación, para controlar militar y administrativamente este amplio territorio fronterizo, conformando una sólida barrera defensiva-ofensiva.

Las fortalezas de Martos jugarían un importante papel, como baluarte fronterizo, en la expansión territorial emprendida por los ejércitos castellanos durante los siglos XIII y XIV. Posteriormente, en la segunda mitad del siglo XV, volvería a adquirir protagonismo, en el marco de las luchas nobiliarias del reinado de Enrique IV, que enfrentó a los partidarios del monarca castellano contra los seguidores de una coalición nobiliaria encabezada por Juan de Pacheco, Marqués de Villena y Pedro Girón, Maestre de Calatrava.

LEYENDAS

La leyenda de los Carvajales. Estando el Rey Fernando IV en tierras de Jaén sentenció a los hermanos Pedro y Juan de Carvajal, a quienes se acusaba de asesinar a don Juan de Benavides, familia con la que estaban enemistados, sin apenas escucharlos y dictaminando que fueran arrojados desde lo alto de la Peña de Martos dentro de una jaula con remaches afilados en su interior. Momentos antes de cumplirse la mortal sentencia los hermanos le increparon: No olvides estas palabras. “A Dios ponemos por testigo de que somos inocentes, mas quedas emplazado ante su Santo Tribunal en el plazo de un mes. Allí te esperaremos para que juzgue tu crimen”. Pasaron algunos días y el Rey cayó enfermo, hasta que inexplicablemente, un día amaneció totalmente curado y convencido de que todo había sido una casualidad. Ese día comió y bebió copiosamente, acostándose a dormir una siesta, de la que nunca despertó. Era el 7 de septiembre, el día en que se cumplía el plazo dado por los hermanos Carvajal, de ahí el nombre de Fernando IV El Emplazado.

La leyenda de doña Mencía de Haro. El alcaide de Martos, don Alvar Pérez de Castro, tuvo que ausentarse de sus tierras, dejando al mando a su sobrino, el joven don Tello, que aprovechó para hacer una cabalgada contra territorios árabes, llevándose a la mayoría de los hombres. Al-Ahmar, el emir de Arjona, quiso aprovechar esta coyuntura para atacar Martos al creerla desguarnecida. 

La condesa Mencía de Haro, esposa de Alvar Pérez, se hizo cargo de la situación y disfrazando a las mujeres de soldados las desplegó por las murallas y torres del castillo de la Peña, haciendo creer a los atacantes que se encontraba bien defendido. En el momento en que don Tello supo lo que estaba ocurriendo regresó para levantar el cerco, haciendo que los musulmanes se batieran en retirada.