捐税的程度问题向哈里发申诉，但是却被斥退了。在第二天早晨，当哈里发在清真寺里领导晨祷的时候，这个波斯人想乘机报复就用匕首刺了哈里发两刀，其中一刀刺在致命的地方。由于死得突然，欧麦尔没有能够就继承人问题作出任何决定。在艾卜·伯克尔死后，欧麦尔所最亲近的人是艾卜·欧拜德，但是艾卜·欧拜德也先他而死去了。后来在他死后决定哈里发人选的那个秘密选举会议，究竟是否是他在病榻弥留之际亲自指定的，这事还不能够十分肯定。欧麦尔逝世的日期是644年11月 23 日。
穆罕默德的两个女婿阿里和奥斯曼还有他的三个最亲密的同伴（阿卜杜·拉赫曼·奥弗、左拜尔和赛耳德·阿比·瓦嘎斯）作爲选举委员会举行了会议；泰勒哈本应作爲第六名委员参加会议，但是他当时未在场，也未能及时到达麦地那出席会议。这个选举委员会推选的结果，选定了这个委员会里最不重要的——个成员一一伍麦叶族的奥斯曼·伊本·阿凡。可能奥斯曼的贵族出身，在当时起了决定性的作用，他这种出身连在穆罕默德的眼里都弥补了他个人才干不足的缺点。无疑，当时也希望他可能比较容易对付些。不过这种希望终于落空了，当然这并不是由于这位哈里发本人，而是由于他的氏族所造成的，因爲他完全听从于他那个氏族的支配。伍麦叶族和穆罕默德的哈希姆族有关系，但是在信奉异教的时代伍麦叶族的势力却大得多，声望也高得多。伍麦叶族领袖艾卜·素福彦干练有爲，多年以来就是反对穆罕默德的古莱氏反对派的小心人物，，麦加陷落以后，他们大部分人都定居在麦地那，穆罕默德在麦地那对他们作了很大的让步。在艾卜·伯克尔和欧麦尔统治时期，艾卜·索福彦的儿子叶齐德以及叶齐德死后他的弟弟穆阿威叶就已经时常崭露头角。到了奥斯曼的时候，伍麦叶族则执掌国政了，因爲奥斯曼的统治就等于是他那个家族的统治。·他把大权交由他在麦地那的族弟麦尔旺处理，又把他的同族的人都安插在所有重要的总督职位上。穆罕默德的圣门弟子本来在征服各地期间个人都已经变得异常富有，除了他们在麦加的不动産之外，在塔伊夫也弄到了不动産，另外还有大量的地産，这时他们看到了自己原来的地位受到这个新兴王朝的威胁。他们企图使这位哈里发脱离他的氏族的影响，但是不得成功，于是他们就转而反对哈里发本人了。不久奥斯曼在麦地那就剩下只有很少的几个朋友，特别是自从穆罕默德的那位年轻动人的寡妇，被人称爲“信徒之母”的阿绮莎也同他作对之后。在各省份里的阿拉伯人也都被煽动起来反对这位哈里发。
在战争头几年中所出现的那种纷乱局面渐趋平息之后，伊斯兰教的战士们逐渐地认识到他们把战利品中所有的不动産都留给政府的这种作法是对他们自己不利的。由于政府根据它自己的意思去决定要付出的薪饷数目，因此就能够完全摆脱开那些找麻烦的人们；这样一来就使得政府能够无需依靠军队，而政府的一切毕竟还是由军队而来的。这种不满情绪有时表现在劫掠省政府财库上，特别是表现在拒绝将任何剩余解交首都这一点上。
不错，这种制度是以前由欧麦尔首先实行的，不过那时没有人敢于起来反对欧麦尔；而奥斯曼则缺乏他的前任的威信，特别是因爲人们把各省总督（一般都是他的同族）的过失也都归咎于他。甚至连他采取的一些十分合理的措施在各地也都受到人们的贬斥和批评。653年，，叙利亚和伊拉克两地的军队都参加了在亚美尼亚的一次战役，他们各自的《古兰经》里经文有不相符合之处因此就暴露出来。由于在这两个省份的居民之间的所存在的那种紧张局面在当时决不是一件小的事情，在怎样读经文才是正确问题上引起的争执终于引起了几次冲突。爲了使这种事情不再发生，哈里发决定确定《古兰经》的正式文本。早在穆罕默德生前的时候就有很多的啓示已经有人分别地记录下来。欧麦尔曾经命令给穆罕墨德作过书记的一个年轻的麦地那人宰德·撒比特把所有能够找刊的抄本都搜集到一起。但是这样搜集起来的东西只不过是一些认人的纪录，没有什麽权威。在欧麦尔死后，这些东西就传到他女儿哈福赛手中。奥斯曼只能利用这些初次搜集起来的材料。他责成宰德同三个受人尊敬的古莱氏人一起重新再行修订一次。奥斯曼任命的这几个人在完成这一任务时是谨慎从事的，这从他们后来到处都被人奉爲权威的情况上就可以看得出来。不过这个修订本在当时却给了库法人一个求之不得的材料，用来煽动人们反对哈里发的情绪。库法人里面有一个阿卜杜拉·马斯欧德，他是穆罕默德的一个多年的圣门弟子，自认是精通《古兰经》的专家之一。他起而大肆攻击说修订本是僞造的而且不全，说里面把伍麦叶族人列爲穆罕默德的敌人而加以诅咒的一些啓示都删掉了。
在麦地那，以阿里·泰勒哈和左拜尔爲首的反对哈里发的人们就利用了这种普遍的不满情绪。虽然他们自认有责任保卫真正的神权政体，反对脱离宗教的奥斯曼政权，但是他们却不敢公然出面首先向奥斯曼发难；他们让省里人去做恶人，何况，不管怎麽说，伊斯兰教的实权是操在后者手里。655年，这几个领袖人物暗示省里人说，麦地那现在有一个比在边疆地区里更爲方便的机会可以给他们利用来爲宗教积极进行斗争。风暴在库法爆发了。655年6月，在当地总督萨仪德朝觐归来的时候，有一千个人在一个对阿里个人很忠实的也门人马立克·阿什台尔指挥之下，阻拦萨仪德进城。奥斯曼认爲他还是能够消灾祛难的，他找了一个库法人所能够同意的人去代替萨仪德。
在埃及，奥斯曼并没有吓得不敢把征服那个地方的阿慕尔·阿绥免职，而让他自己的族弟阿比·萨尔继任，尽管穆罕默德曾经一度惩罚过萨尔。这时在埃及鼓动反对奥斯曼的不仅有阿慕尔，而且还有穆罕默德·阿比·胡海伊法。胡海伊法是艾卜·伯克尔的养子，也是阿里的一个热心支持者。埃及的舰队这时正在和在康士坦斯二世统治之下的拜占廷人进行战争，就在这次海上大战在里希亚海岸进行之际，不满分子以真正的圣战被忽视爲藉口就乘着一只船撤退回来。第二年，有五百个阿拉伯人从埃及出发到麦地那去发动符合上帝意愿的战争，攻打内部敌人。656年4月，仙们兵临城外。大部分的麦地那人都附和了他们。奥斯曼当时身爲世界上最强大的帝国的统治者，在他住的地方却没有任何武器；因此他只得和这五百名反叛者进行谈判。他答应消除他们的不满的原因，终于使他们退了兵。但是接着伍麦叶族人又出头了，他们劝使哈里发在下一次星期五讲道的时候说，埃及人之所以撤退，是因爲他们认识到他们自己的错误。麦地那人听到这话非常愤怒，忍不住大骂哈里发，并且拿石头打他。哈里发被打得不省人事，被人背出寺外。他此后再也没有到这个清真寺里来。
麦地那人集合在他的房子前面，丝毫不肯离开那里。埃及人也回来了，他们说截获了奥斯曼给总督阿比·萨尔的一封信，要他等埃及人回去的时候把他们的几个领头的人杀掉。信摆在哈里发的眼前，但是哈里发却矢口否认，说他对于这封信毫不知情。于是他们就提出，如果这样的事竟会背着他作出来，他就应当退位。哈咀发威严地拒绝了这种放肆的建议。因此他就在家里被包围起来：保卫他的只有他的几个亲戚，。还有一些奴隶和受护民。这次暴动的幕后煽动者阿里·泰勒哈和左拜尔这时却销声匿迹。机伶的阿绮莎甚至还藉口到麦加朝觐而离城他往，以免后来要她出头。
最后的战斗是由一个保卫奥斯曼的人开始的，他扔出一块石头，打死了一个埃及人。当要求把这个人交出来而遭到拒绝的时候，反叛的人们就从附近的空地猛攻奥斯曼的房子，奥斯曼这时正在那里安静地祈祷，并没有参加战斗；他们杀死了哈里发，把他的住处劫掠一空。这件事情发生在星期五，656年的6月17日。奥斯曼的血流在他刚刚念过的那本《古兰经》上。这本《古兰经》可能足被当作一件圣物而藏起来了，不过后来有些图书馆都竞相以藏仃真本而自诩。奥斯曼的妻子（凯勒卜族）纳伊莱自己也负了伤，地和几个朋友一道在夜深人静的时候把哈里发的尸首埋葬起来。
纳伊莱的几只切断的手指被送到奥斯曼的族弟叙利亚总督穆阿威叶那里，穆阿威叶把手指陈列在讲坛上以鼓动信徒们替哈里发报仇。穆阿威叶原先曾经派遣军队出去援救，但是在听到奥斯曼被杀的消息之后，军队就匆忙地由中途折回来了。
早在包围奥斯曼的期间，阿里这个既是穆罕默德的女婿而现在无疑又是头号穆斯林的人物就已经在领导祈祷了，他并且还指派一个人领导到麦加去朝觐。在奥斯曼遇害的当天，阿里就在清真寺里接受了群械挠荡餍亩腿喂锓ⅰ２还├展妥蟀荻饬礁鲆恢焙孟穸荚谔嫠竦娜苏馐比春退隽蚜耍冈鹚鄙卑滤孤Ｋ橇饺硕几虐㈢采铰蠹尤ァＵ馕弧靶磐街浮闭馐倍园⒗锶匀换秤芯珊蓿辉谒桨⒗镆丫邮芰擞荡餍闹螅秃耪傩磐矫翘嬗龊φ吒闯稹；赜λ牟唤鲇形槁笠蹲迦耍一褂辛硗庖恍┖退谎鞫癜⒗锏娜嗣恰Ｋ翘恿税⒚锥囊饧龆ㄏ虬褪坷ⅲ话⒚锥て谝岳淳驮诎褪坷凶藕芏嗟牧怠Ｔ诎滤孤篮笏母鲈乱院螅庑┓磁颜呙蔷驮谕ㄍ晾说拇蟮郎系囊桓鲇坷锛铣龇⒘恕�
他们一到巴士拉之后，就造起反来，把那位要等候阿里的命令而不愿加入他们的总督给除掉了。在占领巴士拉城之后，泰勒哈和左拜尔两人之间马—正又发生厂争执，都要求领导公衅淼弧０㈢采菔苯饩隽苏飧鑫侍猓付ㄋ耐馍嗉醋蟀荻亩影⒉范爬粗葱姓庖恢拔瘛�
阿里在麦地那并无军队，他也刁；能在那里呆下去。656年10月，他带领着大约一百来人出发往伊拉克去，希望在库法能够找到支援他的人。库法是伊拉克的第二个军事殖民地，那里的居民从一开始对巴士拉就有一定程度的反感。阿里预先打发他的儿子哈桑到那里去，事实上哈桑到了那里就替他父亲把库法城的战士们争取过来。阿里这时还在杜一卡尔的军营里，他领着集合到他那 rE的一万二千名库法人从杜一卡尔出发去攻打巴士拉。在和泰勒”合和左拜尔谈判决裂之后，战事就发生了。泰勒哈受伤殒命，左拜尔由于受到良心谴责，退出战场，在逃走途中被杀。不过当阿绮莎按照阿拉伯古代的习俗骑着骆驼出来鼓励战士们的时候，人们看到骆驼就停止攻打。直到骆驼被杀之后，阿里才在656年”月4日获得胜利。这次战役就称爲“骆驼之役”。阿绮莎表示愿意支援胜利者，但是被拒绝了。她在678年7月13日死去，时年六十四岁。全伊拉克各地都承认阿里爲哈里发，阿里就在伊拉克住下去，定都库法。
这样一来，领导作用就从阿拉伯半岛，特别是从麦地那，转移到各省，其实实权长时期以来就已经集中到那里了。留在麦地那的一些穆罕默德的朋友们都失掉了一切的政治影响；他们只是在那里继续致力于研究有关穆罕默德的言行传说。穆罕默德的言行是个人和社会生活所应依据的楷模，他们都根据当时的环境热诚地加以讨论，定爲处世爲人的准则。不过即使宗教上的功课也不能不受新环境的影响，这从每天祈祷的次数上就可以看得出来。麦地那人关于哈里发职权性质的那些政治方面的理论从来也不曾完全实现过。 ．
至于社会生活方面，在具体事情上当时都企图使当时实行的习惯法（这种习惯法可能已经受到各被征服省份里罗马法规的影响）适合于伊斯兰教的原则；一件事情之是否许可去作取决于伦理上的考虑者多，取决于法律上的考虑者少。穆罕默德的言行用口头传达的情况保持了一个长的时期，而任何记叙下来的东西都是保留在私人的手里。过了一个世纪之后，这种传说和法典才具有成文形式。这座曾经一度统治着近东的城市这时已成爲虔诚的人们的学术中心；而比较关心世俗事物的贵族阶级，鉴于自己爲省里人所排挤，不能再控制国家，就沈溺于轻浮的生活享受之中。在麦加，有一个富有的市民私人修建了第一所游艺和阅览室，里面备有象棋及其它棋艺用具还有书籍等供客人消遣。在麦地那，诗人间瓦土专写一种爱情诗，波斯人优努斯则吸取了外国曲调，使音乐成爲一种更加优美的官能享受。不过麦地那人的娱乐消遣并不都是那麽高尚风雅的。这个先知的城市不久就以拥有不仅歌喉最好而且最娇柔的歌女而驰名于世了。
爲奥斯曼之死复仇这个责任就落到伍麦叶家族首领，叙利亚总督穆阿威叶·阿比·素福彦的身上。但是穆阿威叶要完成这一任务，就必须先使自己省份的安全无虞，因爲叙利亚当时还受着拜占廷人的威胁。因此之故，他就特别需要保有埃及。他俘虏了阿里派往埃及的总督，但是还没等到能够征服埃及本土的时候，他就不得不和阿里一决雌雄了，因爲身爲哈里发的阿里必须迫使全帝国各处都臣服拥戴。657年春天，阿里进兵西北，穆阿威叶在叙利亚边境的西芬迎战。西芬在幼发拉底河东岸，介于拉卡和巴里斯之间，在那条狭窄的沼泽地带上，到处都是池塘，密布着柳树和白杨，树丛之中只有一条石子路通往幼发拉底河。
谈判至少进行了有一个月之久，但是毫无结果，因爲阿里不能够接受穆阿威叶的要求，把杀害奥斯曼的凶手们交出来。到5月间他们就厮杀起来，阿里夺得了一条可以让军队开往幼发拉底河的通道。到6月19日，按照传统禁止作战的月份阴历1月开始了，双方也就约定在禁月里停战。不过在这个月里双方谈判也没有成功。等禁月一过，战争�