زمانی که امام به خلافت رسید، بر آن شد تا عبد الله بن عباس را به حکومت شام بفرستد. مقدمتاً نامه ای به معاویه نوشت.

معاویه پاسخی به نام امام نداد و تنها نامه سفیدی را که در آن نوشته شده بود: «از معاویه به علی بن ابی طالب»، برای آن حضرت فرستاد. کسی که نامه را آورده بود گفت: از طرف مردمی می آید که معتقدند تو عثمان را کشته ای و جز به کشتن تو رضایت نمی دهند.

این ماجرا همراه شد با آغاز مساله شورشیان جمل که امام را برای مدتی به خود مشغول داشت. 

پس از خاتمه ماجرای جمل، امام در کوفه مستقر شد، زیرا روشن بود که به زودی با سپاه شام درگیر خواهد شد.

امام از کوفه با فرستادن نامه ای به معاویه کوشید تا او را به اطاعت از امام مسلمین قانع کند. امام ضمن نامه ای، به معاویه نوشتند که خلافت او بر اساس معیارهایی که تا آن زمان بوده است هیچ مشکلی ندارد و او باید آن را بپذیرد. امام در این نامه نوشتند: «...همان کسان که با ابوبکر و عمر و عثمان بیعت کرده بودند و بر همان پایه و روشی که با ایشان بیعت شده بود، با من بیعت کرده اند، از این رو هیچ فرد حاضر را چاره ای نیست مگر آن که اختیار بیعت کند... اگر خود را دچار بلا سازی (و به سرکشی ادامه دهی) من با تو بجنگم و از خدا بر ضدت یاری گیرم. درباره قاتلان عثمان سخن بسیار گفته ای، نخست بدان راهی که مسلمانان می پیمایند در آی و سپس با آنان به محاکمه نزد من آی تا تو و آنان را بر کتاب خدا وادارم...».

زمانی که جریر بن عبد الله نامه امام را به معاویه داد و از او خواست تا از فتنه انگیزی دست برداشته و به جماعت مسلمانان بپیوندد، معاویه از مردم خواست تا در مسجد جمع شوند. معاویه با فریب دادن شرحبیل بن سمط کندی که از اشراف شام و رئیس یمنی های آن دیار بود، توانست حمایت شمار فراوانی از مردم شام را جلب کند. معاویه مرتب کسانی را نزد او می فرستاد تا برای وی شهادت دهند که علی (ع) عثمان را کشته است.

معاویه به جریر بن عبد الله که از طرف امام آمده بود، گفت: «به علی (ع) بنویس که شام و مصر را برای من قرار دهد و زمانی که درگذشت، بیعت کسی را بر عهده من نگذارد. در این صورت من کار را به او وامی گذارم و او را به عنوان خلیفه می شناسم». جریر این مطلب را به امام نوشت و آن حضرت پاسخ داد: «مغیره در مدینه به من این پیشنهاد را کرد و من قبول نکردم، من چنین نخواهم بود که لم یکن الله لیرانی اتخذ المضلین عضدا ، خداوند مرا به گونه ای نخواهد دید که گمراه کنندگان را به عنوان بازوی خود استفاده کنم».

به هر روی جریر بن عبد الله بجلی پس از گذشت چهار ماه از شام به کوفه بازگشت. مالک سخت او را توبیخ کرده و متهم کرد که در شام دین خود را به معاویه فروخته است. اندکی بعد جریر کوفه را به قصد قرقیسا ترک کرد. امام، پس از رفتن او خانه او و ثویر بن عامر را که به وی ملحق شده بود به آتش کشید.

در این زمان، عمرو بن عاص، در فلسطین بسر می برد. وی از همانجا مردم و حتی رعایا را بر ضد عثمان تحریک می کرد. گویند پس از کشته شدن عثمان، از فرزندانش پرسید او چه بایست بکند. فرزندش گفت «نزد علی (ع) برو». عمرو گفت: «اکنون که نزد علی بروم خواهد گفت: تو نیز همانند یکی از مسلمانان هستی و از حقوقی مساوی با آنها برخورداری. اما معاویه مرا شریک در کار خود می کند».

پیوستن عبید الله بن عمر به معاویه در شام -که به دلیل ترس از امام در قصاص وی به دلیل کشتن هرمزان و دو نفر دیگر در مدینه بود- بهانه معاویه را در داشتن فرزند خلیفه دوم تکمیل کرده و از نظر تبلیغی برای معاویه که متکی به این مسائل بود، اهمیت بالایی داشت.

معاویه به مردم مدینه نوشت که «ما برای انتقام خون عثمان برخاسته ایم و اگر پیروز شدیم کار را همانند شورایی که عمر درست کرد سامان خواهیم داد، ما طالب خلافت نیستیم».

معاویه کوشید تا کسانی چون سعد بن ابی وقاص، عبد الله بن عمر، محمد بن مسلمه و اسامة بن زید را که شنیده بود با امام بیعت نکرده و یا حاضر به متابعت از وی در جنگهایش نشده اند، فریب دهد. او در این نامه ها مرتب از شورا سخن می گفت. هیچ کدام از افراد مزبور پاسخ مساعدی به وی ندادند. حاصل جمع سخنان سعد بن ابی وقاص این بود که خلافت حق اوست. زیرا علی (ع) مشکل دارد و دیگران نیز که همگی مرده اند. تنها می ماند سعد وقاص! نظر امام علی (ع) درباره «قاعدین» آن بود که این افراد: «خذلوا الحق و لم ینصروا الباطل» حق را خوار کردند، و باطل را یاری نکردند.

در این فاصله، دو نامه مفصل میان معاویه و امام رد و بدل شد که نکات مهمی را در بر داشت. معاویه در نامه خود به امام نوشت که پس از رسول خدا (ص) خلفای سر کار آمدند که «تو بر همه ایشان رشک بردی و با همه گردنکشی کردی. و ما آن عصیان را در نگاه خشم آلود و گفتار ناهنجار و آههایی که از دل بر می کشیدی و در تاخیر تو از (بیعت با) خلفا دریافتیم». معاویه در ادامه از دشمنی امام با عثمان سخن گفت و این که در کنار خانه او کشته شد و او صدایش در نیامد و اگر می خواست می توانست جلوی قتل او را بگیرد. اکنون هم اگر راست می گوید قاتلان عثمان را به او بسپارد تا با او بیعت کند.

امام در پاسخ نوشتند که: «تو از رشک بردن من برخلفا و تأخیرم از بیعت با آنها و گردنکشی من بر ضد ایشان سخن گفتی. اما درباره گردنکشی، پناه بر خدا اگر هرگز چنان بوده باشد. و اما تاخیر من در موافقت با ایشان و ناخوشایندی از کار آنان، من در این مورد از کسی پوزش نمی خواهم».

جوّ کوفه در این زمان به قدری مناسب بود که کسی جرات مخالفت و یا حتی اظهار دیدگاه مخالفی را نداشت.

با این حال، شک و تردید حتی برای افرادی که تا اندازه ای سالم بودند، کما بیش وجود داشت. ابو زبیب بن عوف، از امام خواست تا رسماً برای او شهادت دهد که راهی که در قطع پیوند ولایت با سپاه شام رفته و جای آن را به دشمنی با آنها می دهند، راه حق است. گروهی از اصحاب عبد الله بن مسعود- که زمانی در کوفه مسؤول بیت المال بود- هم نزد امام آمدند و گفتند: ما همراه شما می آییم، اما لشکرگاه ما جدا خواهد بود. این از آن رو است تا ببینیم چه کسی بر باطل بوده و بغی می کند.

پس از آن که امام مطمئن شد معاویه جز زبان زور چیزی نمی فهمد و از سوی دیگر بزرگان کوفه مدافع وی در جنگ با شام هستند، در خطبه ای عمومی مردم را به جهاد فرا خواند.

در این زمان، محمد بن ابی بکر، که از طرف امام، حاکم مصر بود، در نامه ی مفصلی به معاویه نوشت: «تو و پدرت همچنان فتنه ها بر ضد دین خدا برانگیختید، و برای خاموش کردن پرتو اسلام کوشیدید، و دسته بندی ها کردید، و احزاب تشکیل دادید، و مال و مایه گذاشتید و بدین منظور با قبایل (مخالف اسلام) رفت و آمد کردید. پدرت بر این روش بمرد و تو بر همین پایه جایش را گرفتی؛ و گواه بر این، باقیمانده دسته ها و احزاب مخالف و سران دورویی و دو دستگی و مخالفان پیامبر خدا (ص) هستند که به تو پناه آورده اند و تو آنان را زیر بال و پر گرفته ای».

معاویه نامه ای در جواب او نوشته با این خطاب: «به نکوهش گر پدر خویش. نامه ات به من رسید... اگر آنچه ما بر آنیم درست است، پدر تو آغاز گرش بوده و اگر جور و ستم ست باز هم پدرت پایه اش را گذاشته است. ما شرکای او هستیم و به رهنمود او رفته و از کار او پیروی کرده ایم! اگر پدرت، پیش از ما این راه نپیموده بود ما با پسر ابوطالب، مخالفتی نمی کردیم!».

کوفه آماده نبرد با شام شد. امام دستور دادند تا جنگجویان در نخیله، که اردوگاه نظامی کوفه بود، اجتماع کنند. این امر، معاویه را نیز بر آن داشت تا منبر کوفه را با لباس خونین عثمان، آزین بسته، و در حالی که هفتاد هزار شیخ پیرامون آن گریه می کردند، مردم شام را برای مقابله با سپاه عراق آماده کند.

سپاه مقدم امام در مرز روم، در شمال عراق و سوریه با سپاه مقدم شام به فرماندهی ابو الاعور سلمی برخورد کرد. امام مالک را بسوی آنها فرستاد و به او تاکید کرد که به هر روی نباید آغازگر جنگ باشد. با آمدن مالک، سپاه شام درگیری را آغاز کرده و دو طرف چندی به نبرد با یکدیگر پرداختند. پس از آن، سپاه شام عقب نشینی کرد.

گفته شده است که شمار سپاه شام بالغ بر یکصد و بیست هزار نفر بوده است.  سپاه امام نیز زمان خروج از کوفه بالغ بر هشتاد هزار نفر بوده که در راه نیز تعدادی از مردم مدائن به آن افزوده شدند.

در تمام این حوادث، مالک نقش محوری داشته و قوی ترین برخوردها را با شامیان داشته است.

با پایان یافتن ذی حجه، محرم فرا رسید و قرار شد تا جنگ متوقف شود. مذاکرات میان نمایندگان امام با معاویه به جایی نرسید. او شرط اصلی خود را کشتن افرادی چون عمار، عدی بن حاتم، مالک و کسانی که به نظر او در قتل عثمان دست داشتند، قرار داده بود. این چیزی بود که نه برای امام و نه برای قبایل عراق به هیچ صورتی پذیرفته نبود. حدود بیست هزار نفر از سپاه عراق جدا شده و گفتند که ما قاتل عثمان هستیم! اصرار معاویه نیز بر این شرط به همین دلیل بود که می دانست اینان زیر بار چنین چیزی نمی روند.

یعقوبی نوشته است که هفتاد نفر از اهل بدر، هفتصد نفر از بیعت کنندگان رضوان، و چهار صد نفر از دیگر مهاجر و انصار، همراه امام علی (ع) بودند.

عمار یاسر از کسانی بود که در سخن گفتن بر ضد معاویه بسیار صریح بود... او در خطبه ای که در صفین ایراد کرد، بر این نکته تاکید کرد که اینان از روی نیرنگ خون عثمان را مطرح کرده اند، اما هدف آنان این است تا «لیکونوا بذلک جبابرة و ملوکا». عمار در صفین، برای بسیاری به صورت علامت تشخیص حق از باطل بود. رسول خدا (ص) درباره او فرموده بود: «تقتلک الفئة الباغیه»... عمرو بن عاص خود این حدیث را روایت کرده بود. معاویه در این که چرا این حدیث را نقل کرده اعتراض کرد...