[18] إلا أنه علّته تواصلت حتى توفي في 3 صفر 366 هـ، [19] ولم يعقب من الأبناء سوى عبد الرحمن [20] الذي مات طفلاً وهشام ولي عهد أبيه. من أطلال مدينة الزهراء التي أسسها عبد الرحمن الناصر لدين الله، وتمّ بناؤها في عهد الحكم المستنصر بالله. كان أول أمر بدأ به الحكم خلافته هو توسعة المسجد الجامع ، الذي أوكله لحاجبه جعفر بن عبد الرحمن المصحفي، [8] وأضاف إليه محرابًا ثالثًا تم بناؤه في جمادى الآخرة عام 354 هـ والذي زينه بالفسيفساء التي بعثها له الإمبراطور البيزنطي رومانوس الثاني ، [21] كما أمر في محرم عام 355 هـ بأضافة مقصورة خشبية منقوشة الظاهر والباطن إلى جوار المحراب، [22] وقد أنفق على عمارة المسجد 261, 537 دينار. [7] وفي عام 356 هـ، أجرى الماء من جبل قرطبة إلى ميضئتي المسجد الشرقية والغربية. موضوع تعبير عن المستنصر بالله - مقال. كما ابتنى بجوار المسجد دار لتفريق الصدقات، واتخذ المودبين لتعليم أولاد الضعفاء والمساكين القرآن حول المسجد وفي أرباض المدينة حتى بلغت 27 مكتبًا منها ثلاثة بالمسجد، [23] وابتنى دار أخرى للوعاظ وعمال المسجد. [11] وفي عام 360 هـ، أمر ببناء منبر من خشب الصندل الأحمر والأصفر والأبنوس والعاج والعود الهندي ، تم الانتهاء منه عام 365 هـ، وتكلّف 35, 705 دينار.
ثم أمر بأن يبايع رجال الدولة ابنه "هشام" في القصرة في أول جمادي الآخرة عام 365 هجريا. راجعته العلة مرة أخرى وظل بها حتى توفي في 3 من صفر عام 366 هجريا. وبهذا صار ابنه "هشام" هو الخليفة الثالث للأندلس. ولم يكن له من الأولاد غيره وابنه "عبد الرحمن" الذي توفي صغيرا
ومسجد أحمد بن طولون هو المسجد الوحيد بمصر الذي غلب عليه طراز البناء العراقي، على طراز المسجد العباسي بسامراء العراقية، ومئذنته الملوية يبلغ ارتفاعها 40, 44 متر، وقد حدث خلاف بين المؤرخين حول ما إذا كانت المئذنة قد أضيفت فيما بعد أم أنها جزء أصيل من بناء المسجد، وتحتوي على عقود ونوافذ مطلة على صحن الجامع، وتقع النافورة "الميضأة" المخصصة للوضوء في منتصف صحن المسجد، تعلوها قبة مرتكزة على أعمدة رخامية، بداخل المسجد ستة محاريب، ويتميز المحراب الرئيسي للمسجد بأنه مجوف ذو زخارف لا يوجد لها مثيل في المساجد المصرية. ويتكون المسجد من صحن مكشوف مربع، يتوسطه قبة تحيط به أربعة أروقة من جوانبه الأربعة، ويضم كل رواق رواقين آخرين، بينما يضم رواق القبلة خمسة أروقة، ويحتوي المسجد على 42 باب منها 21 باب للمسجد الأصلي يقابلها مثلها للزيادات. وقد أضيف للمسجد محاريب وبعض الزخارف في عهد الدولة الفاطمية أبرزها ما أضافه الوزير بدر الدين الجمالي عام 487 هجرية، في عهد الخليفة المستنصر. الجامع الطولوني هو الوحيد في مصر الذي بقي على حالته دون تغيير، بخلاف جامع عمرو بن العاص، بل ويعد الأثر الوحيد الذي بقى من مدينة القطائع التي أحرقها العباسيون مع نهاية حكم الدولة الطولونية التي استمرت 34 عامُا.