红军大学的前身是1931年11月在江西瑞金创办的中央军事政治学校，1932年改称中国工农红军学校，1933年又对学校进行分编，以高级班、红军干部队组成中国工农红军大学。1936年5月，中革军委以西北红军大学为基础，在瓦窑堡成立了抗日红军大学，毛泽东亲自兼任红军大学政治委员，林彪任校长，罗瑞卿任教育长，周昆任校务部长，袁国平任训练部长。第一期红军大学学习时限为6个月。由于办学条件困难，校舍不足，将红军大学编为三个科。
红军大学撤出瓦窑堡来到志丹后，第一科驻在县城南桥红石山崖上废弃的窨子里和旁边的石窑洞里；第二科驻在城南三里路的柳树坪村；第三科先在顺宁镇宋庄寨子上办学，之后迁往甘肃环县木钵寺。
第一科科长陈光、政委罗荣桓，学员共40名，包括两名外国学员（武亭，朝鲜人。洪水，越南人），其他38位学员大多都是红军师团以上干部，有八年以上的作战经验，平均每人身上有三处伤疤。他们中只有三人结了婚，其他人都是单身。这38名学员是：林彪、罗荣桓、罗瑞卿、刘亚楼、陈光、张爱萍、彭雪枫、陈士榘、杨成武、谭政、周建屏、彭加伦、王平、耿飚、刘惠农、边章武、许建国、苏振华、张纯清、张树才、张经武、张达志、宋裕和、赵尔陆、贺晋年、郭述申、黄永胜、谭冠三、莫文骅、杨立三、邓富连、刘鹏、吴富善、罗保连、贾力夫、符竹庭、童小鹏、萧文玖。这些学员里的不少人在蒋介石那里是大名鼎鼎的人物，蒋介石曾悬赏要取这些人的首级，加起来超过了200万元。
第二科科长周士第（先任）、周建屏（后任），学员共225名。学员对象为连营级干部，学习内容和第一科相同，主要学习政治、军事、文化。
曾担任红军大学党支部书记的莫文骅回忆说：
……经过一星期的行军，兴冲冲地来到保安城外的山边石洞住下了。这些石洞是依着天然石壁凿成的，远远望去，好似蜂窝一样。这些石洞也不知是哪个朝代开凿的，大的高宽都在约一丈左右，深约一丈四尺；小的高宽不过六尺左右，深约五尺。
因为长期没有人住，只见洞内外野草丛生，乱石纵横……
“红大”的校舍除了石洞以外，什么也没有。为了保证教学，一科党支部召集会议，动员大家积极行动起来，自己动手建设校舍。……我们的教室选择在一个最大的石洞中，它原是一个羊圈。我们先把羊粪清除走，在石壁上凿出了一块大黑板，用石头砌成了桌子和凳子，还选了一些石头作粉笔，又给老师用石头砌成了一个挺像样的讲台。一排排桌椅虽然都是石头的，排列得却都整整齐齐，最后还用石灰水把洞壁刷白……
……教室布置好后，我们便又开始布置宿舍。我们或两三个人一间小洞，或四五个人一间大洞，有的睡石炕，有的用石头砌起床铺，在上面铺一块木板，没有木板就在石头上铺垫些禾草。
那时候，保安县一带的狼很多，夜里经常听到狼嚎。有几次，狼甚至跑进窑洞，因为我们的窑洞都没有门，怕狼进洞，我们睡前把桌子、脸盆堵放在门口，狼一进来，便会挤翻这些东西，吓跑狼惊醒屋里的人。我们还在床头备上一根打狼棍，以防万一……
……可是没有操场也没有一条平坦的路，到处是野草丛生，乱石拦路。开始几天，我们早晨出操，鞋子、裤子常被荆棘挂破，老师们来上课也很艰难。为了解决这个问题，我们党支部研究决定，开辟一条横贯校门的大路和三条通往交通大道的支路，这个任务就由我们自己动手去完成。……我们有的拿镢、有的拿铲、有的用锄、有的用钩，原来平静的“校园”前飘荡着歌声笑语，有的同学指着乱石风趣地说：我们共产主义者的目标是要改造世界，建设新中国，现在修几条路又算得了什么呢？
……平时，我们吃的是带糠皮的小米饭（因碾米工具落后），菜是土豆、干豆角和白菜。饭中还夹着谷粒、沙粒，有时吃硝盐……我们在“红大”学习期间，起码来说，能按时吃饱肚子。这“吃饱肚子”在当时是很高的生活标准了，很令人神往。
确实，红军大学的办学条件极为艰苦，大多窑洞没有门，就用石头在洞口垒成墙和门洞，找些破木头做成门框，用茅草编成门帘，以挡风御寒。考虑到飘雪季节的过冬问题，学员们学着当地老乡的做法，在石窑洞里盘了土炕，或者在烟道处垒起敞口土炉子。
每个周日，学员们就会带上绳子、斧头，去附近的山沟里打柴，背回来烧火取暖，其艰苦和寒凉可想而知。红军大学的艰苦和学员自己动手改造校舍的行动，感染了当地群众，特意给红军大学一科送来一面锦旗，写着“劳动者可以创造世界。”
红军大学开课的当天，毛泽东、张闻天、博古等中央领导同志和徐特立前往一科视察，参观了教室和宿舍，勉励大家安心学习，以便迎接和促进抗日革命的高潮。毛泽东讲了当前的形势，党的抗日民族统一战线、路线、政策，勉励学员安心学习，“你们过着石器时代的生活，却学习着当代最先进的科学——马克思列宁主义呀。”还风趣地说：“你们好像是元始天尊的弟子，在洞中修炼，什么时候下山呢？天下大乱你们就下山。”这句话引起了大家的热烈掌声。
晴天时，学员在草滩上的两棵大树底下，坐成一圈听课，石头是凳子，膝盖是桌子；下雨下雪天，就在窑洞的教室里学习。
课任教员都是中央领导或其他专家同志，学员每天听两三个小时课外，其余时间都是自己学习、讨论、研究。讲义有白纸、黄纸，还有红纸、绿纸，又印得不清楚，看起来很费劲。那些讲义的纸张是用敌人飞机撒下的传单翻过来刻印的，也有些粗麻纸。除了讲义，党中央机关有个小图书馆，学员每人每次只准借一本。学员们知道毛主席有一本艾思奇的《大众哲学》，就借来刻印，每组发一本供大家阅读。中央领导了解到学员学习上很吃苦，多次要求学员注意劳逸结合，不能把身体弄垮。规定星期天一定要过假日，而且不准留在窑洞里，要到野外去娱乐。因为大家都深切地感到过去中国革命经过十多年的斗争，牺牲了无数的革命者，但结果还是失败或濒于失败。如何把过去的经验教训提高到理论上来认识，如何去争取革命战争的胜利，建立新中国，走向社会主义。许多问题都是迫切需要解决的，所以大家的学习情绪很高，刻苦学习，埋头钻研，珍惜每分每秒的宝贵光阴。①
每天晚上，学员们围着蜡烛光坐在石凳上，或者围着石桌，认真看讲义，遇到不明白的问题，大家就会反复讨论，直到把配给的蜡烛燃尽（一枝蜡烛规定点三个晚上），才无可奈何地去休息。后来，没有蜡烛了，就改用胡麻油灯，没有灯芯，就捻个纸捻来代替。
红军大学所授的主要科目是：
毛泽东讲：中国革命战争的战略问题；张闻天讲：中国革命基本问题和辩证唯物主义；凯丰和吴亮平讲：政治经济学；秦邦宪讲：哲学；杨尚昆讲：各国论（主要是英、美、法、德、日、意）；李维汉讲：党的建设；李德（苏联顾问）讲：兵团战术；时事和党的政策，临时由毛泽东或周恩来作报告。林彪讲了一次战役学。
虽然条件艰苦，学员们很乐观。彭加伦教唱当时很流行的《大路歌》、《毕业歌》等歌曲。每天早晨，志丹城里就会听到红大学员嘹亮的歌声在小城上空飘荡。
除了文化娱乐外，学员自己动手修了篮球场。美国记者斯诺、医生马海德到“红大”访问时，喜欢和学员们打网球。在红军大学里，这些指挥过师、甚至军团的学员们，久经杀场，但年龄都不大，大多数只有二十多岁年纪，有时候会像孩子一样玩耍，每次饭后必然开始一种叫“木棍打蒋”的游戏，很热闹，年轻的同学参加，不爱动的同学也参加，笑声跌宕起伏。
美国记者斯诺被邀请到红军大学演讲，他扼要地讲了“英美对华政策”，之后同意解答问题。学员们纷纷递条子，斯诺听翻译讲条子上的问题后，才发现自己同意解答问题“是个大错误”。他在《西行漫记》中写道：（林彪）请我吃的面条根本抵偿不了我遇到的难堪。向我提出的问题，即使由H．G．威尔斯先生（著名英国科幻小说家）来回答，也要自叹智穷才竭。
红军大学的办学条件给斯诺留下了深刻的印象，斯诺和校长林彪以及其他教员谈了话，了解了招生情况和学员的课程、食宿，非常感慨，在《西行漫记》中这样说：
以窑洞为教室，石头砖块为桌椅，石灰泥土糊的墙为黑板，校舍完全不怕轰炸的这种“高等学府”，全世界恐怕就只有这么一家。②
党中央在财政十分困难的情况下，对红军大学的生活格外照顾，除了平时吃小米饭外，一周能吃上一次羊肉汤，偶尔吃一顿荞面，算是最好的待遇了。
西安事变爆发后，红军大学第一期学员毕业。根据中共中央和中央军委的指示，学员要立即分赴各主力部队。红军大学第一期学员中，有22位学员在新中国成立后成为了元帅或将军。