Die Gründung der Islamischen Glaubensgemeinschaft zog sich über mehrere Jahre.
Die Angst vor der Vielehe war eines der größten Hindernisse. Was nämlich würde passieren, wenn eine Islamische Religionsgemeinde gegründet wird? Dann könnte, so die Befürchtung der österreichischen Behörden, ein Muslim auf die Idee kommen, eine zweite Frau zu heiraten und sich auf die freie Ausübung der Religion zu berufen. Obwohl Polygamie in Österreich verboten ist, hätte es ja sein können, dass der Verfassungsgerichtshof die Religionsfreiheit höher einstuft.
Es war im Jahr 1968, als die ersten Gespräche über die Anerkennung als Islamische Glaubensgemeinschaft geführt wurden. Auf der einen Seite stand das für Kultusangelegenheiten zuständige Unterrichtsministerium, auf der anderen Seite ein Verein, der sich seit 1962 um muslimische Interessen in Österreich kümmerte – der Moslemische Sozialdienst (MSS). Dieser Verein war gemeinsam mit der Muslimischen Studentenunion (MSU) Vorreiter bei der Institutionalisierung des Islams in Österreich.
Natürlich, offiziell anerkannt war die Religion in Österreich bereits seit dem Islamgesetz von 1912. Doch nach dem Zerfall des Vielvölkerstaates gab es keine nennenswerte Infrastruktur für die wenigen Muslime. Erst mit bosnischen und türkischen Gastarbeitern entstanden Vereine, wurden Gebetshäuser gegründet. Auf Basis des Islamgesetzes wollte man schließlich eigene Religionsgemeinden gründen.
