25 января 1921 года Президиумом ВЧК было принято решение о создании в России постоянно действующих курсов подготовки оперативного состава. Через 4 месяца, 27 апреля того же года, после проведения необходимых организационных мероприятий, первые курсанты приступили к изучению специального курса. Именно эта дата считается официальным днем основания современной академии. Тогда на курсах по подготовке оперативного состава ВЧК учебу начали 150 слушателей. Занятия проходили в старинном здании в центре Москвы, на Покровке. Преподавателями и слушателями были участники проводившихся в то время классических чекистских операций <Трест>и, вошедших в учебники едва ли не всех разведшкол мира.

После преобразования курсов ВЧК в Высшие курсы ГПУ в 1922 году на них были созданы политическое и военное отделения. Эти отделения стали предшественниками будущих факультетов академии.

В июле 1929 года Высшие курсы ОГПУ преобразуются в Школу по переподготовке работников внутренних органов. В это время в местных органах получил развитие институт практикантов как форма кадрового пополнения. Срок обучения составлял 6-12 месяцев, после чего курсантов назначали на должности помощника оперуполномоченного либо они подлежали увольнению как непригодные к работе в органах безопасности.

29 мая 1930 года решением ЦК ВКП(б) в Москве на базе Высших курсов создается школа по подготовке и переподготовке чекистских кадров, а 4 июня того же года она получила название Центральной школы ОГПУ. Специальная подготовка курсантов становится более целенаправленной, перед ними раскрываются методы пресечения подрывной деятельности иностранных разведок, особенности борьбы с политическим и экономическим шпионажем. Таким образом завершился второй этап становления настоящего высшего учебного заведения.

Массовые репрессии 1937-1938 годов нанесли значительный урон Центральной школе НКГБ. Практически все сотрудники центрального аппарата - лекторы кафедры "Террор, диверсия, шпионаж и борьба с ними" были расстреляны. Репрессированы 5 начальников вуза, большое количество из числа профессорско-преподавательского и курсантского состава.

К началу 40-х годоввыпускником курсов был каждый третий руководитель советских органов госбезопасности. В период Великой Отечественной войны Высшая школа подготовила более семи тысяч чекистов - организаторов борьбы с фашистами на передовой, в тылу и за линией фронта.

С 1952 года на ее базе формируется учебное заведение, впервые дающее слушателям высшее юридическое образование. Выпускники 60-80-х годов активно участвовали в противодействии иностранным спецслужбам и проведении оперативно-боевых мероприятий. За выполнение специальных заданий Героями Советского Союза стали В. Белюженко, Г. Зайцев, В. Карпухин, Б. Соколов. Начальнику кафедры Г. Бояринову это звание было присвоено посмертно.

В 1994 году в академии на следственном факультетепоявился "девичий курс", но просуществовал недолго. Сейчас девушки учатся в Академии только на переводчиц.

Сейчас на Мичуринском проспекте столицы, напротив Олимпийской деревни, возвышается огромный комплекс из желтого кирпича. Академия ФСБ России - одно из самых престижных учебных заведений страны, где на десяти факультетах готовят специалистов не только для контрразведки, но и для Службы внешней разведки России, ФАПСИ, Министерства обороны, Федеральной пограничной службы и других ведомств. В настоящий момент Академия ФСБ России является крупным многопрофильным учебно-научным центром. На ее кафедрах работают 12 академиков, 16 членов-корреспондентов РАН, около 100 профессоров и докторов наук. Академия включает Институт криптографии, связи и информатики, 7 общеакадемических факультетов, 46 кафедр, 5 функциональных и 14 обеспечивающих подразделений, Научно-исследовательский центр.

А также в систему учебных заведений ФСБ входят соответствующие институты в Санкт-Петербурге, Новосибирске, Екатеринбурге, Нижнем новгороде. Они не входят в состав Академии, но осуществляется координация деятельности по совместной разработке всех учебных программ, научных исследований. 

Женщины учатся в Академии только на переводческом факультете. На оперативные девушки не принимаются. Был не так давно поток слушательниц на следственном факультете, но потребность в юрисконсультах в определенной степени уже закрыта. Хотя и просили потом и налоговая полиция, и другие спецслужбы, чтобы в Академии продолжили обучение таких специалистов, но для ФСБ тема уже стала неактуальной. В настоящее время в Академию принимаются слушатели даже сразу после школы. Отсев на первом курсе - 10-12%. На выпускных курсах с учетом звания курсанты получают больще тысячи рублей.