Der Orden der Brüder der allerseligsten Jungfrau Maria vom Berge Karmel (lat. Ordo Fratrum Beatissimae Mariae Virginis de Monte Carmelo, abgekürzt: O. Carm.) bildete sich Mitte des 12. Jahrhunderts aus einer Gruppe von Kreuzfahrern und Pilgern. Sie ließen sich auf dem Berg Karmel in Palästina nahe der Quelle des Propheten Elia im Wadi ain essiah nieder, um dort als Gemeinschaft von Einsiedlern ein Leben in der Gegenwart Gottes, der Buße und des Gebetes zu führen. Die Gemeinschaft war von Anfang an international geprägt. Nach Berichten mancher Historiker wird der heilige Berthold von Kalabrien als Gründer angesehen. Die ersten Einsiedler hatten noch keine eigene Ordensregel. Ihre Vorbilder waren der Prophet Elia und die Gottesmutter Maria, der sie die erste Kapelle auf dem Berg Karmel weihten.

Das älteste historische Zeugnis überliefert die Historia orientalis von Jacques de Vitry, der von 1216-1228 Bischof von Akko war:

„Andere führten in Nachahmung des hl. Anachoreten, des Propheten Elia, am Berg Karmel ein Einsiedlerleben, besonders in jener Gegend, die über der Stadt Porphyra liegt, die heute Haifa genannt wird, in der Nähe der Quelle, die Eliasquelle heißt, … wo sie in bienenkorbförmigen, bescheidenen Zellen, gleichsam als Bienen des Herrn, wie Honig geistliche Süßigkeit bereiteten.“

Zwischen 1206 und 1214 wandten sich die Einsiedler an den lateinischen Patriarchen Albert von Jerusalem mit der Bitte, ihnen eine Regel zu geben. Diese formula vitae (Lebensregel) diente den Einsiedlern als Grundlage für die tägliche Lebensgestaltung und formte ihre Spiritualität in der Nachfolge Christi. Erst als die Karmeliten durch die Sarazenen gezwungen waren, den Berg Karmel ab 1238 zu verlassen, breitete sich die Gemeinschaft über ganz Europa aus. Die geänderten klimatischen Verhältnisse und die seelsorglichen Erfordernisse in Europa führten zu einer Anpassung der Regel und zu einer Umformung des reinen Eremitenordens in einen Bettelorden, der in Zukunft die eremitische Spiritualität mit seelsorglicher Tätigkeit, Studium und Liturgie verband. Zu einer ersten Niederlassung in Deutschland kam es schon 1255 in Köln mit der Ausbildung eines eigenen studium generale (1294).

Obgleich der Orden zunächst nur ein Brüderorden war, baten schon Ende des 13./Anfang des 14. Jahrhunderts Einsiedlerinnen um Anschluss und Angliederung, so z. B. in Bologna 1304, in Florenz 1309 und 1378. Die bekannteste ist die sl. Johanna von Toulouse. Doch 1261 war der Orden von der Sorge für Nonnen, der s. g. cura monialium dispensiert worden. Erst unter dem sl. Ordensgeneral Johannes Soreth, der einen berühmten und wirkungsreichen Regelkommentar verfasste und der sehr um die Reform des Ordens bemüht war, bekam der Orden 1452 mit der Bulle Cum Nulla unter Papst Nikolaus V. die Erlaubnis, Frauen in den Orden aufzunehmen. Es handelte sich v. a. um schon bestehende Beginengemeinschaften, die sich dem Orden anschlossen (z. B. die Beginen von Tel Elsen in Geldern am 10. Mai 1452 in Florenz).