Le origini dei Cavalieri Templari sono legate alla storia delle Crociate.

La prima fu indetta da Papa Urbano II, che al concilio di Clermont (1095)  incitò i cristiani a fare "guerra all'infedele". Guidati da Goffredo di Buglione - che dopo aver conquistato Gerusalemme si guadagnò il soprannome di "Difensore del Santo Sepolcro" – gran parte dei Crociati, assolto il compito di permettere ai cristiani di andare a pregare in Terra Santa, tornarono in Europa, lasciando Gerusalemme quasi senza protezione. E dall’esigenza di difendere i pellegrini dagli attacchi dei musulmani nacquero appunto i Cavalieri Templari.

Hugues de Payns insieme ad altri otto cavalieri (Bysol de Saint Omer, André de Montbard zio di Bernardo da Chiaravalle, Archambaud de Saint Aignan, Gondemar, Rossal, Jacques) partirono per la Terra Santa con questo scopo principale, ma anche quello, “segreto”, di ritrovare il Santo Graal e l’Arca dell’Alleanza, antiche reliquie preziosissime.
Si presentarono nel 1119 al Re di Gerusalemme Baldovino II dichiarando di essere disposti a proteggere i pellegrini e a controllare le strade di Gerusalemme e ottennero come sede dapprima un'ala del monastero fortificato di Nostra Signora di Sion, posto accanto a quello che era stato il Tempio di Salomone, poi, con l’aumentare dei cavalieri, tutta l'area di quella che era la spianata del Tempio, tra la Moschea della Roccia e la Moschea di Al-Aqsa.

All’inizio si chiamarono "Poveri Cavalieri di Cristo": un Ordine monastico e guerriero che ai tre voti di obbedienza, povertà e castità aggiunse quello di  "stare in armi", poi presero il nome di "Ordine dei Poveri Cavalieri di Cristo e del Tempio di Gerusalemme", in breve "Templari". Non erano i primi monaci con altre finalità oltre la preghiera e la meditazione: anche i Cavalieri di San Giovanni conosciuti come Ospitalieri o Gerosolimitani e poi come Cavalieri di Malta si occupavano soprattutto della cura dei feriti, degli invalidi e dei pellegrini, anche se in seguito, proprio sull’esempio dei Templari, presero anch’essi le armi. Così i Cavalieri Teutonici, che dei templari copiarono anche la divisa, con la Croce nera anziché rossa.

Si rendeva necessario avere una Regola. E fu redatta da Bernardo di Clairvaux, uno dei personaggi più carismatici e autorevoli del tempo, appartenente all’ordine monastico nato a Cistercium. Hugues de Payns, tornato in Francia dalla Terrasanta nel 1127 a cercare rinforzi morali ed economici, dopo aver incontrato a Roma il Papa Onorio II si reca a Troyes, dove ha sede un Concilio in occasione del quale viene presentata la Regola dell’Ordine, contentuta nel testo di Bernardo "De laude novae militiate": "Una nuova cavalleria è apparsa nella terra dell'Incarnazione: che si combatta contro il nemico non meraviglia, ma che si combatta anche contro il Male è straordinario... Questi Cavalieri non vanno in battaglia coperti di pennacchi e fronzoli, ma di stracci e con un mantello bianco... non hanno paura del Male in ogni sua forma... Attendono in silenzio a ogni comando aiutandosi l'un l'altro nella dottrina insegnata dal Cristo... Fra loro non onorano il più nobile, ma il più valoroso... Sono i Cavalieri di Dio... i Cavalieri del Tempio".

Sempre Bernardo scrive ancora: "Le armi nemiche avrebbero forse avuto paura dell'oro, avrebbero rispettato gemme e non oltrepassato la seta? Sono necessarie solo tre cose: abilità, prontezza e circospezione; abilità nel cavalcare, prontezza nel colpire, circospezione nel guardarsi quando ci si recasse in terre e fra genti sconosciute".
A Troyes i Templari adottarono il motto: "Non nobis Domine, non nobis, sed nomini Tuo da gloriam", ovvero "Non a noi, Signore, non a noi, ma al Tuo nome da gloria".
Bernardo trasmise ai cavalieri anche la devozione a Maria: "Maria presiedette al principio del nostro Ordine; ne presieda anche, se questa sarà la volontà del Signore, la fine".

La Regola Templare era formata da 72 articoli ed era severissima. Veniva non solo richiesta la castità, ma era vietato qualsiasi contatto con le donne (non si poteva baciare neanche la madre, ma bisognava salutarla compostamente chinando il capo); non si poteva andare a caccia, erano banditi il gioco dei dadi e delle carte, aboliti mimi, giocolieri e tutto ciò che è divertimento, non si poteva ridere scompostamente, parlare troppo o urlare senza motivo. I capelli dovevano essere corti o rasi, in inverno la sveglia era alle quattro del mattino, in estate alle due, bisognava dormire "in armi" per essere sempre pronti alla battaglia, perché "il demonio colpisce di giorno e di notte, quindi che si difenda il Sacro Sepolcro dall'alba all'alba successiva sempre in armi”.

Dopo il Concilio, la fama dell'Ordine crebbe rapidamente, e con essa aumentò la sua potenza e ricchezza. Grazie a elargizioni e donazioni vennero finanziate le campagne militari in Terra Santa, dai costi altissimi: donare ai Templari significava contribuire materialmente alla liberazione dei "Possessi di Dio", e i nobili facevano a gara per entrare nell’Ordine. Le ricchezze ottenute furono immense e permisero all’Ordine di fare servizio di tesoreria e prestiti: dal deposito di tributi per un principe votatosi alla Crociata, al trasferimento in Terra Santa di ingenti somme di denaro; dalla  riscossione delle decime pontificie per le crociate a prestiti a principi o nobili che motivassero tale bisogno di denaro con pii motivi. Utilizzarono l’assegno o lettera di cambio: i pellegrini che si volevano recare in Terra Santa ma avevano paura di essere rapinati potevano lasciare il proprio denaro in una qualsiasi sede templare e all’arrivo in Terra Santa portavano la quietanza e tornavano in possesso di una somma equivalente.

Con la bolla "Omne datum optimum" di Papa Innocenzo II nel 1139 fu concessa all'Ordine totale indipendenza, compreso l'esonero dal pagamento di tasse e gabelle. Non doveva rendere conto a nessuno del proprio operato tranne al Papa stesso, e ottenne così una posizione di grande privilegio.

I Templari si distinsero per la determinazione in battaglia, la ferrea disciplina e la spietata fermezza di fronte all’avversario: venivano chiamati dai musulmani i "diavoli rossi", mentre i Gerosolimitani erano i "diavoli neri". Con la loro fama di essere i più valorosi difensori della Croce non ebbero difficoltà a reclutare sempre nuovi combattenti. A questo proposito Bernardo, riprendendo il concetto della "guerra giusta" espresso da sant'Agostino, nel "De laude novae militiae" considerò il voto templare dell'uso delle armi contro gli infedeli una vera e propria azione contro il Male, ossia "malicidio", perché i Templari difendevano i Luoghi Santi: chiunque li avesse occupati impedendovi il libero accesso ai Cristiani era considerato "malvagio" e andava eliminato. Dato che fin dal IX secolo i pellegrini che si recavano al Santo Sepolcro rischiavano di essere uccisi o derubati, la necessità di difendere il Santo Sepolcro dalla presenza musulmana divenne una sorta di “guerra santa” di cui Bernardo si fece in un certo senso portavoce.