Dalam surat Al Baqarah ayat 256:
Tidak ada paksaan untuk (memasuki) agama (Islam); sesungguhnya telah jelas jalan yang benar daripada jalan yang sesat. Karena itu barangsiapa yang ingkar kepada Thaghut dan beriman kepada Allah, maka sesungguhnya ia telah berpegang kepada buhul tali yang amat kuat yang tidak akan putus. Dan Allah Maha Mendengar lagi Maha Mengetahui.
Surat Al Baqarah diatas menurut Ajat Sudrajat dkk (2008: 142-148) yang dikutip dari tulisan Qurais Sihab (1994: 368) adalah berkaitan dengan kebebasan memilih agama Islam atau selainnya. Seseorang yang dengan suka rela dan penuh kesadaran memilih satu agama, maka yang bersangkutan telah berkewajiban untuk melaksanakan ajaran tersebut secara sempurna.
Dalam hubungannya dengan orang-orang yang tidak seagama, Islam mengajarkan agar umat islam bertindak baik dan bertindak adil. Selama tidak bertindak aniaya terhadap umat Islam, maka tidak ada alasan utuk memusuhi apalagi memerangi mereka. Al Qur’an juga mengajarkan agar umat Islam megutamakan terciptanya suatu perdamaian hingga timbul rasa kasih sayang diantara umat islam dengan umat beragama lainnya.
Adanya kerjasama yang baik antar umat Islam dan umat beragama lainnya tidaklah menjadi halangan dalam Islam. Kerjasama dalam bidang kehidupan masyarakat seperti penyelenggaraan pendidikan, pemberantasan penyakit sosial, pembangunan ekonomi untuk mengatasi kemiskinan adalah sebagian kecil bentuk kerjasama yang dapat dilakukan. Keadaan demikian digambarkan dalam Al Qur’an surat At Taubat ayat 6.
Dan jika seorang diantara orang-orang musyrikin itu meminta perlindungan kepadamu, maka lindungilah ia supaya ia sempat mendengar firman Allah, kemudian antarkanlah ia ketempat yang aman baginya. Demikian itu disebabkan mereka kaum yang tidak mengetahui.
Toleransi harus dibedakan dari kompromisme, yaitu menerima apa saja yang dikatakan orang lain asal bisa menciptakan kedamaian dan kerukunan, atau saling member dan menerima demi terwujudnya kebersamaan. Kompromisme tidak dapat diterapkan dalam kehidupan beragama. Kompromisme dalam beragama akan melahirkan corak keagamaan yang sinkretik. Betapapun baiknya ajaran Islam tentang bagaimana seharusnya umat Islam bersikap terhadap kaum agama lain, tetapi dalam hal menyangkut pelaksanaan ibadah tidak dapat terjadi kompromi didalamnya. Seperti dalam sural Al Kafiruun menegaskan bahwa kompromi agama tidak mungkin dilakukan oleh umat Islam. Biarlah dalam hal ibadah masing-masing melaksanakan sesuai dengan keyakinannya.