Pada waktu itu Abu Sufyan sungguh merasa menderita, kerana tidak ada seorangpun yang mahu menegurnya. Walaupun demikian dia tetap berusaha, setiap kali Rasulullah SAW singgah di sebuah rumah, ia tetap berada di depan pintu rumah tersebut. Namun Rasulullah SAW tetap tidak pernah melihatnya dan memalingkan wajah dari dirinya.
Walaupun dalam keadaan demikian, dia terus tetap berusaha untuk mendapatkan keredhaan dari Rasulullah SAW, sehingga akhirnya dia menyaksikan sendiri Rasulullah SAW bersama dengan pasukan kaum Muslimin lainnya menaklukkan kota Makkah.
Abu Sufyan tetap terus berada dekat kuda yang ditunggangi oleh Rasulullah SAW sehingga akhirnya baginda singgah di Abtah. Pada saat itu Rasulullah SAW memandang Abu Sufyan dengan pandangan yang agak lembut dari sebelumnya, dan Abu Sufyan mengharapkan mudah-mudahan Rasulullah mahu senyum kepadanya.
Beberapa kaum wanita dari bani Abdul Mutalib datang menemui baginda yang diikuti oleh isteri Abu Sufyan. Setelah itu Rasulullah SAW pergi ke masjid, Abu Sufyan pun tetap setia mengikuti baginda dan tidak sedikitpun ingin berpisah dengannya.
Akhirnya Rasulullah SAW berangkat menuju Hawazin dan Abu Sufyan pun masih tetap mengikutinya. Pada waktu terjadinya peperangan melawan musuh, maka Abu Sufyan pun segera memacu kudanya dengan sebilah pedang yang terhunus, dan ia bertekad, untuk menebus dosa-dosanya selama ini, tidak ada jalan lain kecuali ia harus mati dalam memperjuangkan agama Allah.
Melihat keadaan demikian, kepada Rasulullah, Abbas bapa saudara Abu Sufyan bin Haris berkata: “Wahai Rasulullah. Aku bermohon supaya engkau berkenan meredhainya.”
Rasulullah SAW bersabda: “Aku telah meredhainya dan Allah pun telah berkenan mengampunkan segala kesalahannya dan segala bentuk permusuhan yang dilakukannya kepadaku selama ini.”
Mendengar ungkapan Rasulullah demikian, maka Abu Sufyan pun segera mencium kaki Rasulullah yang pada saat itu sedang menunggang kudanya. Maka pada saat itu Rasulullah SAW menoleh ke arah Abu Sufyan dan bersabda: “Engkau adalah benar-benar saudaraku!”
Selepas itu Rasulullah SAW memerintahkan kepada Abbas agar memerintahkan kepada seluruh pasukan perang supaya maju ke medan perang dengan kata-kata: “Majulah kamu dan binasakanlah musuh-musuh itu.”
Kerana telah mendapat perintah dari Rasulullah SAW, maka Abu Sufyan segera melaksanakan tugasnya. Cuma dengan hanya sekali serangan saja, para tentera musuh berlari kucar kacir. Mereka tidak berani membalas serangan tersebut, sehingga akhirnya Abu Sufyan berhasil mengejar mereka dan tentera musuh lari sejauh tiga mil.
Demikianlah Abu Sufyan, semenjak dia masuk ke dalam Islam, ia sentiasa taat beribadah kepada Allah SWT bahkan dalam suatu riwayat pula dikatakan, bahawa Abu Sufyah tidak pernah mengangkat kepalanya apabila ia berada di depan Rasulullah SAW. Begitu juga pada waktu ajal akan menjemputnya ia berpesan: “Jangan engkau menangisi aku, kerana semenjak aku masuk Islam. Aku tidak pernah berbuat dosa.”
Setelah Rasulullah SAW meninggal dunia, Abu Sufyan bin Haris selalu menangisi dan meratapinya dengan syairnya:
Aku tidak dapat tidur dan malam pun susah berakhir
Malam bagi orang yang ditimpa bencana akan lama rasanya.
Tangisanku membuatkan aku bahagia
Sesungguhnya musibah yang menimpa kaum Muslimin itu tidaklah seberapa
Betapa besar dan beratnya cubaan ini
pada waktu mendengar berita bahawa Rasulullah sudah tiada
Bumi tempat tinggal kita inipun ikut serta menderita
sehingga terasa miring segala sudutnya.
Telah terputuslah wahyu Al-Quran dari kita
di mana dahulu malaikat Jibril selalu datang membawanya.
Dialah Nabi yang telah melenyapkan syak wasangka kita
dengan wahyu yang diturunkan kepadanya dan sabdanya
Bagindalah yang telah menunjuki kita
sehingga kita tidak perlu bimbang dan terpedaya
Rasulullah selalu siap memberikan petunjuknya kepada kita
Fatimah, jika kamu bersedih meratapinya, hal yang demikian itu dapat kami mengerti.
Akan tetapi jika engkau tidak bersedih, itulah jalan yang baik yang telah ditunjukkannya.
Makam ayahku adalah makam dari setiap makam
kerana di dalamnya bersemayam seorang Rasul
tuan bagi seluruh manusia.