Ibn Abbas nous dit : « Voulez-vous que je vous raconte comment Abou Dhar est entré en Islam ? » Nous répondîmes : « Oui. » Il dit : « Abou Dhar a dit : J'étais un homme de la tribu de Ghifar. Nous apprîmes qu'un homme était apparu à La Mecque, prétendant être un Prophète. Je dis à mon frère : « Va trouver cet homme, parle-lui et rapporte-moi de ses nouvelles. » Il partit, le rencontra et revint. Je lui demandai : « Quelles nouvelles as-tu ? » Il dit : « Par Allah, j'ai vu un homme qui ordonne le bien et interdit le mal. » Je lui dis : « Tu ne m'as pas satisfait avec cette maigre information. » Je pris donc une outre d'eau et un bâton et je me dirigeai vers La Mecque. Je ne connaissais pas l'homme (c'est-à-dire le Prophète) et je ne voulais pas demander à qui que ce soit à son sujet. Je ne cessai de boire de l'eau de Zamzam et de séjourner dans la Mosquée.
Puis Ali passa près de moi et dit : « On dirait que tu es un étranger ? » Je dis : « Oui. » Il se dirigea vers sa maison et je l'accompagnai. Il ne me demanda rien et je ne lui dis rien. Le lendemain matin, j'allai à la Mosquée pour m'enquérir du Prophète, mais personne ne m'informa de quoi que ce soit à son sujet. Ali passa de nouveau près de moi et demanda : « L'homme n'a-t-il pas encore reconnu sa demeure ? » Je dis : « Non. » Il dit : « Viens avec moi. » Il me demanda : « Quelle est ton affaire ? Qu'est-ce qui t'a amené dans cette ville ? » Je lui dis : « Si tu gardes mon secret, je te le dirai. » Il dit : « Je le ferai. » Je lui dis : « Nous avons appris qu'une personne est apparue ici, prétendant être un Prophète. J'ai envoyé mon frère lui parler et à son retour, il n'a pas apporté de rapport satisfaisant ; aussi ai-je pensé à le rencontrer personnellement. »
Ali dit (à Abou Dhar) : « Tu as atteint ton but ; je vais le voir maintenant, suis-moi donc, et partout où j'entre, entre après moi. Si je vois quelqu'un qui pourrait te causer des ennuis, je me tiendrai près d'un mur en feignant de réparer mes sandales (comme avertissement), et tu t'en iras alors. » Ali partit et je l'accompagnai jusqu'à ce qu'il entre dans un lieu, et j'entrai avec lui auprès du Prophète auquel je dis : « Présente-moi (les principes de) l'islam. » Quand il le fit, j'embrassai l'islam immédiatement. Il me dit : « Ô Abou Dhar ! Garde secrète ta conversion et retourne dans ton pays ; et lorsque tu entendras parler de notre victoire, reviens vers nous. » Je dis : « Par Celui qui t'a envoyé avec la Vérité, j'annoncerai publiquement ma conversion à l'islam parmi eux (c'est-à-dire les mécréants). »
Abou Dhar alla à la Mosquée, où quelques personnes de Quraysh étaient présentes, et dit : « Ô gens de Quraysh ! J'atteste qu'il n'y a de dieu qu'Allah et j'atteste que Muhammad est Son serviteur et Son messager. » (Entendant cela), les hommes de Quraysh dirent : « Attrapez ce Sabi (c'est-à-dire musulman) ! » Ils se levèrent et me battirent presque à mort. Al-Abbas me vit et se jeta sur moi pour me protéger. Puis il leur fit face et dit : « Malheur à vous ! Vous voulez tuer un homme de la tribu de Ghifar, alors que votre commerce et vos communications passent par le territoire de Ghifar ? » Ils me laissèrent donc. Le lendemain matin, je revins (à la Mosquée) et dis la même chose que la veille. Ils dirent encore : « Attrapez ce Sabi ! » Je fus traité de la même manière que la veille, et Al-Abbas me trouva de nouveau et se jeta sur moi pour me protéger et leur dit la même chose que la veille. » Ainsi se fit la conversion d'Abou Dhar (qu'Allah lui fasse miséricorde) à l'islam.