Aslında Kabe'ye dönüşün sırrı namazda yön tayinidir.
Bilhassa topluluk halinde namaz kılarken safların düzeni, düzgünlüğünü sağlamak açısından bir yön tayini gerekmiştir. Bu yönün her zaman aynı olması ve yön kargaşasının önlenmesi açısından bilinen, belirgin bir yer seçilmesi düşünülmüştür. Ancak yön seçimi çelişkilidir.

Hicret öncesi kıble Kabe iken, Medine'ye göç edince ve Mekke'lilerle savaş halindeyken yön olarak belirlenen Kudüs ve Mescid-i Aksa, daha sonra Yahudilerle doğan çekişmeler nedeniyle Kabe olarak değiştirilmiştir. Sebebi Kur'an'da şöyle açıklanır:

Bakara / 143. işte böylece sizin insanlığa şahitler olmanız, Resûl'ün de size şahit olması için sizi mutedil bir millet kıldık. Senin (arzulayıp da şu anda) yönelmediğin kıbleyi (Kâbe'yi) biz ancak Peygamber'e uyanı, ökçeleri üzerinde geri dönenden ayırdetmemiz için kıble yaptık. Bu, Allah'ın hidayet verdiği kimselerden başkasına elbette ağır gelir. Allah sizin imanınızı asla zayi edecek değildir. Zira Allah insanlara karşı şefkatli ve merhametlidir.

Bakara / 144. (Ey muhafazid!) Biz senin yüzünün göğe doğru çevrilmekte olduğunu (yücelerden haber beklediğini) görüyoruz. işte şimdi, seni memnun olacağın bir kıbleye döndürüyoruz. Artık yüzünü Mescid-i Haram tarafına çevir. (Ey müslümanlar!) Siz de nerede olursanız olun, (namazda) yüzlerinizi o tarafa çevirin. Şüphe yok ki, ehl-i kitap, onun Rablerinden gelen gerçek olduğunu çok iyi bilirler. Allah onların yapmakta olduklarından habersiz değildir.

Tabi bu noktada şu soru akla gelecektir :
Herşeyi bilen Allah, neden müslümanları Kudüs'ü kıble olarak seçerken uyarmamış ve Kabe'nin kıble olduğunu o zaman belirlememiştir? Dolayısıyla müslümanları Yahudiler karşısında zor durumda bırakmış,
"Bizim dinimizi kabul etmiyorlar ama bizim kıblemizi kullanıyorlar" dedirtmiştir?

Buna Allah " Size ne! nereye istersem oraya dönerler." tarzı cevap verir;

Bakara / 142. insanlardan bir kısım beyinsizler: Yönelmekte oldukları kıblelerinden onları çeviren nedir? diyecekler. De ki: Doğu da batı da Allah'ındır. O dilediğini doğru yola iletir.

Ardından da yemin ederek "onlar senin kıblene dönmez, sen de onlarınkine dönme" demiştir;

Bakara/145. Yemin olsun ki (habibim ! ) sen ehl-i kitaba her türlü âyeti (mucizeyi) getirsen yine de onlar senin kıblene dönmezler. Sen de onların kıblesine dönecek değilsin. Onlar da birbirlerinin kıblesine dönmezler. Sana gelen ilimden sonra eğer onların arzularına uyacak olursan, işte o zaman sen hakkı çiğneyenlerden olursun.