Der herzliche Empfang durch die Menschen in Medina erfreute den Propheten. Zuallererst wollte er für die Gläubigen eine Moschee errichten, wo sie den Namen des Allmächtigen lobpreisen sollten.
Für Zehn Dinar wurde das Stück Land gekauft auf dem das Kamel des Propheten sich niedergekniet hatte, und dort mit dem Bau der Moschee begonnen. Alle Muslime halfen dabei mit und auch der Prophet selbst sammelte wie die anderen Steine dafür.
Bald waren die Moschee und ein Haus für den Propheten gebaut. Vor seiner Ankunft in Medina hatte sich der Prophet mit der Verkündung des Islam beschäftigt. Nun galt es jedoch, die kleine islamische Gemeinschaft in Medina zu stärken und zu schützen. Da der Islam in Mekka mit allen Mitteln bekämpft worden war, wollte er dafür sorgen, dass die Muslime in Medina in Frieden und Freiheit leben konnten.
Zuerst wollte er die Einheit unter den Muslimen selbst stärken. In Medina lebten jetzt zwei Gruppen von Muslimen, die medinensischen Helfer (arabisch "Ansar") und die aus Mekka stammenden Auswanderer (arabisch "Muhhadschirehen). Die Ansar und die Muhhadschirehen waren in unterschiedlichen Umgebungen aufgewachsen. Ihr Denken, ihre Sitten, Gewohnheiten und ihre Kultur unterschieden sich. Diese Unterschiede und Gegensätze mussten nun überwunden werden. Dies gelang dem Propheten auf vortreffliche Art und Weise.
Die Auswanderer, die ihre Heimat, ihr Hab und Gut, ihr Haus und oft sogar ihre Familie verlassen mussten, waren völlig mittellos nach Medina gekommen. Sie hatten meist keine Angehörigen oder Verwandten in der Stadt. Der Prophet bestimmte für jeden Helfer jeweils einen Auswanderer zum Bruder und bat ihn, den Auswanderer an seinem Besitz teilhaben zu lassen. So bekam jeder Auswanderer einen Bruder in Medina. Nur der Prophet selbst nahm sich einen Auswanderer zum Bruder, Imam Ali. So entwickelte sich wahre Brüderlichkeit und Solidarität zwischen den Muslimen und einer war für den anderen da.
Bald lief das Leben wieder in den gewohnten Bahnen für die Auswanderer. Manche trieben Handel und andere arbeiteten als Bauern. Wieder andere, die nicht genug verdienten, um sich und ihre Familien ernähren zu können, wurden aus dem gemeinschaftlichen Besitz der Muslime unterstützt.
Aber der Prophet wollte nicht nur die Muslime vereinen, sondern die Muslime auch mit den anderen Einwohnern Medinas verbünden, den Juden. Christen und den verschiedenen Stämmen. die in dieser Stadt zu Hause waren,
Besonders freundlich waren die Beziehungen zu den Juden. Diese waren sehr einflussreich, denn sie kontrollierten die Wirtschaft und den Handel der Stadt, außerdem waren sie erst vor einigen Jahren und Jahrzehnten aus dem Norden nach Medina eingewandert, weil ihre Rabbiner deren heiligen Büchern entnehmen konnten, dass bald ein Prophet in diese Stadt kommen würde. Die Muslime schlossen mit ihnen ein Vertrag, in dem Verbrechen verboten und den Menschen die Freiheit ihres Glaubens und ihres Besitzes garantiert wurde. Die verschiedenen Gruppen versprachen, sich gegenseitig zu verteidigen. Durch diesen Vertrag und ähnliche Abkommen, die bald auch mit anderen Stämmen geschlossen wurden, wurde die Stadt Medina zu einer richtigen Einheit.