传说当鲍德温二世刚刚加冕耶路撒冷国王之后，就有两位来自法国香槟地区的骑士前来拜访。一位是年近半百的骑士于格·德·班，另一位名叫戈德弗鲁瓦·德·圣奥梅尔。他们声称愿与另外7位骑士一道，组成宗教骑士团，担负起防卫雅法与耶路撒冷之间朝圣路线的任务。
虽然包括于格在内的骑士只有9个人，中世纪的骑士都带有步兵作为辅助，这9位骑士各自带了5位步兵做辅助。此外，每人还有三四位马夫。因此，9位骑士组成的战队，达到90名兵力。当然，主要的战斗力还是这9名骑士。
鲍德温二世得到骑士团的援助，大喜过望，便在耶路撒冷城内东南角的公元前的犹太圣殿位置，为这些骑士提供了活动的据点。因此，在十字军的历史上扮演了重要角色的“圣殿骑士团”，就这样宣告成立了。所谓圣殿骑士团的名称，就来自其位于古代圣殿遗迹的驻所。
作为一支宗教骑士团，圣殿骑士团的成员首先必须是拥有武器，能征善战的骑士。
其次，宗教骑士团与世俗的骑士不同，其参加者必须舍弃世俗身份，一生侍奉上帝，保持修士式的僧侣生活。参加宗教骑士团者，其作为俗人身份所具有的一切资产，都必须捐献给骑士团。因此，加入骑士团以后，就不再是骑士于格·德·班了，而自称修士于格。
圣殿骑士团的纹章
再次，要成为修士，就要在上帝面前发誓一生献身神职，这一点与其他修会一致。
所谓清贫、服从、纯洁三大信条，具体来说，就是舍弃私有财产，对上帝绝对服从，以及一生独身。因为于格·德·班已经结婚，在圣殿骑士团创立之前，他解除了自己的婚约。
宗教骑士团的第四个特点，是不归任何世俗国王或领主管理。这一点不同于世俗的骑士，后者都以地方领主为其主君。由于他们是持有武器的修士，并不受修道院或当地主教的管辖，而是直接听命于罗马教皇。因此，宗教骑士团独立于诸侯、国王、皇帝与各地主教。
因此，圣殿骑士团完全独立于耶路撒冷国王、安条克公爵、埃德萨伯爵和特里波利伯爵，也并不受耶路撒冷牧首管辖。它是叙利亚与巴勒斯坦十字军国家内的战士集团。
创立圣殿骑士团的于格·德·班，曾在戈德弗鲁瓦指挥之下作战，具备第一次十字军的战斗经验。
于格·德·班也可以选择依然作为世俗的骑士，在耶路撒冷国王鲍德温二世的准许之下保护朝圣路线的安全。由于鲍德温二世也属于洛林家族，他自然能在其军队中谋得一官半职。
而于格之所以选择与其他骑士组成宗教骑士团，是因为他们可以作为独立的战士集团，不受世俗诸侯和封建领主的指挥，而独自开展行动。耶路撒冷的王位，不可能永远在洛林家族的鲍德温二世之手。于格·德·班成立宗教骑士团的目的，在于永久保持自身行动的自由，诚然是十分明智的选择。
而第五点特征，则是圣殿骑士团与其他宗教骑士团不同的特色。
圣殿骑士团的成员，除了要遵从清贫、服从、纯洁三大原则之外，还需坚守一项义务，即为了保护朝圣基督徒的安全，对朝圣沿线的异教徒格杀勿论。
圣殿骑士团成员甚至认为，没有必要要求穆斯林对手改宗。在他们看来，任何问答都毫无必要，只要记得骑士团的信条即可。对于基督教的宗教骑士团来说，诉诸武力是不受限制的。在所有的骑士团中，明确表示对穆斯林格杀勿论的，除圣殿骑士团外别无他者。
在这个十字军东征仅仅开始20多年的时代，赞同圣殿骑士团强硬路线的人却并非少数。
对前往圣城耶路撒冷的手无寸铁的朝圣者来说，胸前画着白底红十字，又在白色大披风上画着红色大十字的圣殿骑士团的骑士们，是能够保护自身的强大军事力量。这些朝圣者希望，在往返西欧的路上，都有这些骑士的护送。
圣殿骑士团从当初9人的水平逐渐增加，终于在成立10年后得到了罗马教皇的正式承认。得到罗马教皇承认，就意味着圣殿骑士团成为了基督教世界全体公认的组织。从此，期待加入的骑士不断增加，骑士团所拥有的动产与不动产也源源不断地大幅增长。
此时的圣殿骑士团，受到了强有力协助者的眷顾。这就是号召发动第二次十字军的天主教会圣人圣贝尔纳。此人以“克莱尔沃的贝尔纳”之名为西欧人所知，是西多会派的修士。
这位当时极为著名的人物，曾专门撰写了《对新诞生的圣殿骑士团的赞赏》（De laude novae militiae ad Milites Templi）一文。文中明确认为，对其他宗教信徒肉体消灭的行为，在基督教徒战士方面是完全正当的。这篇文章成为在王侯和高级神职人员中，以通用的拉丁语宣传圣殿骑士团的重要作品。他的宣传为圣殿骑士团组织的发展，起了至关重要的作用。
而在同一时期，另一支宗教骑士团也粉墨登场了。它就是在十字军东征历史上与圣殿骑士团齐名的圣约翰骑士团。