پس از نزول آیه ۱۰۷ سوره توبه، پیامبر به مالک بن دُخْشُم و مَعْن بن عَدی (یا به برادر او عاصم بن عدی و به قولی دیگر، به گروهی از جمله وحشی، قاتل حمزه) امر فرمود تا این مسجد را ویران کنند و آتش بزنند و آنان نیز این بنا را با خاک یکسان کردند.[۱۷] مکان آن نیز، به دستور پیامبر، محل ریختن زباله و مردار شد.[۱۸]
به گزارش واقدی ابولُبابة بن عبدالمُنذر، با چوب‌های بر جای مانده از مسجد ضرار در کنار آن، خانه‌ای ساخت. گفته شده است که در آن خانه نه کسی به دنیا آمد، نه کبوتری نشست و نه مرغی آشیان کرد. [۱۹]