Secondo la leggenda l'ordine venne fondato nel 1407, al suo ritorno in Germania, da un pellegrino tedesco di nome Christian Rosenkreuz (1378 - 1484) che soggiornò a Damasco ed in Terra Santa, dove avrebbe studiato l'occultismo. Sembra che l'ordine fosse limitato a soli otto membri e che si fosse estinto immediatamente dopo la sua morte, per rinascere solo nel XVII secolo.
Secondo una leggenda meno conosciuta e circolante in ambiente massonico, l'ordine venne invece creato nell'anno 46 DC, quando il saggio gnostico alessandrino Ormus e sei suoi discepoli si convertirono al Cristianesimo ad opera di San Marco, fondendo la dottrina cristiana con i misteri egiziani: Christian Rosenkreuz sarebbe stato iniziato a quest'ordine, divenendone il gran maestro, invece di averlo fondato.
In realtà quella che era conosciuta agli inizi del XVII secolo come la "Società dei Rosa Croce" era probabilmente un piccolo numero di individui isolati che condividevano alcuni punti di vista, apparentemente il loro solo legame. Non esiste alcuna traccia di una società che tenesse incontri o assegnasse cariche. Secondo le numerose opere che ne parlano, i Rosa Croce erano probabilmente riformatori religiosi e morali, che utilizzavano i mezzi, per l'epoca ritenuti scientifici, in particolare l'alchimia, come mezzi per far conoscere le proprie opinioni. I loro scritti sono permeati di misticismo od occultismo e suggeriscono significati nascosti che potrebbero essere compresi solo dagli iniziati.
Scrive Umberto Eco nella prefazione al libro di P .Arnold Storia dei Rosa-Croce: ...la confraternita dei Rosa-Croce appare sulla scena storica in quanto viene descritta dai manifesti dei Rosa-Croce (Fama, 1614, Confessio, 1615). Gli autori o l'autore dei manifesti rimangono formalmente ignoti, anche perché coloro a cui vengono attribuiti ne negano la paternità. I manifesti suscitano una catena d'interventi da parte di personaggi che sostengono l'esistenza della confraternita e affermano o di appartenervi o di volervi ardentemente appartenere. Tutti riconoscono che il gruppo è segreto, e per taluni chi al ferma di essere un Rosa-Croce (in quanto mancherebbe al fondamentale vincolo di ri servatezza che lega gli adepti) non lo è ... . È un fatto documentato l'esistenza dei manifesti dei Rosa-Croce, mentre è materia di illazione sia la loro attribuzione sia che essi parlassero di una confraternita realmente esistente».