سبب توبه او آن بود که او مردی سخت با جمال بود و دنیادوست و مال بسیار داشت و دردمشق ساکن بود و مسجد جامع دمشق که معاویه بنا کرده بود و آن را وقف بسیار بود . مالک را طمع آن بود که تولیت آن مسجد بدو دهند . پس برفت و در گوشه مسجد سجاده بیفگند و یک سال پیوسته عبادت می کرد به امید آنکه هر که او بدیدی در نمازش یافتی .و با خود می گفت :ای منافق ! تا یکسال برین برآمد و شب از آنجا بیرون آمدی و به تماشا شدی . یک شب به طربش مشغول بود ، چون یارانش بخفتند آن عودی که می زد از آنجا آوازی آمد که :یا مالک مالک ان لاتئوب . یا مالک تو را چه بود که توبه نمی کنی ؟ چون آن شنید دست از آن بداشت . پس به مسجد رفت ، متحیر با خود اندیشه کرد . گفت :یک سال است تا خدایرا می پرستم به نفاق ، به از آن نبود که خدایرا باخلاص عبادت کنم و شرمی بدارم از این چه می کنم ، و اگر تولیت به من دهند نستانم .
این نیت بکرد و سر به خدای تعالی راست گردانید ، آن شب با دلی صادق عبادت کرد . روز دیگر مردمان باز پیش مسجد آمدند . گفتند:در این مسجد خللها می بینیم . متولی بایستی تعهد کردی .
پس بر مالک اتفاق کردند که هیچ کس شایسته تر از او نیست . و نزدیک او آمدند و در نماز بود . صبر کردند تا فارغ شد .
گفتند :به شفاعت آمده ایم تا تو این تولیت قبول کنی .
مالک گفت :الهی تا یکسال تو را عبادت کردم به ریا ، هیچکس در من ننگریست . اکنون که دل به تو دادم و یقین درست کردم که نخواهم بیست کس به نزدیک من فرستادی تا این کار در گردن من کنند . به عزت تو که نخواهم . آنگه از مسجد بیرون آمد و روی در کار آورد و مجاهده و ریاضت پیش گرفت تا چنان معتبر شد و نیکو روزگار