Al principio del reinado del emir Abderramán II, éste tuvo que enfrentarse a fuertes rebeliones para establecerse en el poder. En el transcurso de ese proyecto aumentó los impuestos sobre todo en las ciudades importantes como Toledo, Córdoba y Mérida. Esta alza tributaria no fue homogénea a todas las capas de la sociedad, lo hizo de una forma más dura a los llamados muladíes, recién conversos al Islam y a los cristianos, subiendo la capitación en impuesto especial para ellos. El emir ya sentado en el poder en el año 822 decidió armar un ejército con sus leales para entrar a saco en las ciudades de Toledo y Mérida, con la intención de someter las mediante el pánico de la Guerra y confiscar las propiedades y bienes de los insurgentes.
El caso de Mérida fue muy especial, los Diníes cristianos enviaron embajadas al norte, al rey Alfonso II y también a la corte de Aquisgrán de Ludovico Pío. Que fueron excelentemente recibidas hasta el punto de que incluso se enviaron ejércitos para sostener la rebelión contra Abderramán II, éste evitó el enfrentamiento frontal contra las tropas del Norte. Una vez retiradas dichas tropas estableció un sistema de asaltos cada verano contra Mérida. La ciudad soportó con éxito 6 años de sitio, demostrando una interesante y fuerte cohesión social entre las diferentes sociedades entre los cristianos, los muladíes y los bereberes que pese a su inicial diferencia de criterios y de cultura, mantuvieron una férrea oposición al emir de Córdoba.
Finalmente Mérida cayó en manos de Abderramán II, no tanto por la fuerza del ejército debido a las invulnerables murallas romanas de Mérida, sino por un acuerdo qué en principio sería beneficioso para los ciudadanos de Mérida. Las puertas se abrieron y pronto empezó la persecución y las crucifixiones, la represión a la ciudad bimilenaria culminó con la construcción en el año 835 de una alcazaba en la parte más llana de la ciudad, que serviría como guarnición a una tropa extranjera fieles a los Omeyas y que durante gran parte de su existencia consideraría enemigos a los propios Maridies. Para ello se destruyó gran parte del lienzo de la muralla fundacional romana, incluyendo la hermosísima Porta Gemina cabeza del puente romano, orgullo y símbolo tradicional de la ciudad que hoy en día es el propio escudo que la sigue representando, aprovechando sus restos para construir la temible fortaleza que todavía puede observarse en la ciudad a sus pies del río Guadiana.
Gran parte de la aristocracia y pueblo llano cristiano descendiente de los antiguos hispanorromanos y visigodos que habitaron secularmente la ciudad tuvo que huir incluido el último obispo de la diócesis Ariulfo. Dejando vacante la sede de la archidiócesis más importante y antigua de la península, ubicada en la antigua iglesia de la santa Jerusalén, hoy conocida como Santa María la Mayor.
Esta es la inscripción, que para humillación de los emeritenses de la época, aún puede leerse en la puerta principal la Alcazaba de Mérida que dice: «En el nombre de Dios, el Clemente, el Misericordioso. Bendición de Dios y Su protección para los que obedecen a Dios. Ordenó construir esta fortaleza y servirse de ella como refugio de los obedientes el emir Abd al-Rahman, hijo de al-Hakam —glorifíquele Dios—, por medio de su camil Abd Allah, hijo de Kulayb b. Talaba, y de Hayqar b. Mukabbis, su sirviente Sahib al-bunyan, en la luna del postrer rabi del año doscientos veinte» (abril del año 835 d. C.).