青岛清真寺原址位于常州路9号,始建于1898年,1929年青岛的穆斯林捐资购买并改建为清真寺,成为我市穆斯林礼拜和进行宗教活动的场所。由于房屋年久失修,且大殿面积小不适合继续使用。2001年市政府在市北区同安路划地10亩,市北区委、区政府增拨土地5亩,支持易地建设清真寺和“穆斯林培训中心”。
新的清真寺于2005年4月25日开工,2006年10月竣工,建筑面积近4000平方米,一层有阿訇的讲学堂、诵经室、议事厅、文化室、净身室;二层礼拜殿500平方米。院内有文化长廊,南北有望月楼和拜克楼30多米高,庄严、肃穆,成为青岛市东部浮山新区的新的景观,满足穆斯林的宗教生活,是穆斯林宗教文化、经济交流中心。