Своими корнями история пограничной службы России уходит в далекое прошлое. Борьба со степными кочевниками заставляла русские княжества возводить на подступах к своим владениям богатырские заставы, а также приграничные крепости. Во второй половине XIV века в связи с частыми набегами татар на русскую территорию на окраинах Московского княжества стали выставляться сторожевые отряды (сторожа) и станицы, которые высылали конных наблюдателей. Позже стали возводить засечные черты и пограничные укрепленные линии.
В 1571 году появилось "Уложение о станичной службе", регламентировавшее права и обязанности стражи и порядок охраны рубежей. В 1574 году был назначен единый начальник над сторожевой и станичной службой. С ростом внешней торговли в 1754 году создаются пограничные таможни. Охрана границы осуществлялась драгунскими полками, рассредоточенными по форпостам, и таможенными вольнонаемными объездчиками. В октябре 1782 года указом императрицы Екатерины II был учрежден институт "таможенной цепи и стражи" для охраны границ и осуществления пограничного контроля.
В 1827 году вступило в силу "Положение об устройстве пограничной таможенной стражи", которая была подчинена департаменту внешней торговли Министерства финансов России. В октябре 1893 года пограничная стража была выделена из департамента внешней торговли в отдельный корпус пограничной стражи Министерства финансов (ОКПС). Главными задачами ОКПС были борьба с контрабандой и незаконным переходом границы.
С началом первой мировой войны большинство частей ОКПС перешло в распоряжение военного командования и влилось в состав полевых армий. В 1918 году ОКПС был расформирован.
30 марта 1918 года при Наркомате финансов РСФСР было создано Главное управление пограничной охраны, в 1919 году переданное в ведение Наркомата торговли и промышленности. На пограничную охрану возлагалась борьба с контрабандой и нарушениями государственной границы. 24 ноября 1920 года ответственность за охрану границы РСФСР была передана Особому отделу ВЧК. 27 сентября 1922 года охрана границы перешла в ведение ОГПУ, был сформирован отдельный пограничный корпус войск ОГПУ.
Руководство пограничными войсками осуществляло Главное управление пограничной и внутренней охраны НКВД СССР (с 1934), Главное управление пограничных и внутренних войск НКВД СССР (с 1937), Главное управление пограничных войск НКВД СССР (с 1939). В 1946 году пограничные войска были переданы в ведение вновь созданного Министерства государственной безопасности СССР, а в 1953 году МВД СССР. В 1957 году было сформировано Главное управление пограничных войск КГБ СССР.
В декабре 1991 года после реорганизации КГБ СССР Главное управление пограничных войск было упразднено и образован Комитет по охране государственной границы СССР. В октябре 1992 года Погранвойска были включены в состав Министерства безопасности. 30 декабря 1993 года создана Федеральная пограничная служба Главное командование Пограничных войск Российской Федерации (ФПС Главкомат) в качестве самостоятельного федерального органа исполнительной власти. В декабре 1994 года ФПС Главкомат переименован в Федеральную пограничную службу Российской Федерации (ФПС России), с 2003 года Пограничная служба в структуре ФСБ России.