Po wytyczeniu wschodniej granicy RP w 1923 r. jej ochronę przejęła Policja Państwowa, która jednak okazała się bezsilna wobec działań terrorystycznych prowadzonych przez zbrojne grupy ze Związku Sowieckiego. Np. w nocy z 3 na 4 sierpnia 1924 r. zaatakowały one Stołpce, paraliżując komunikację i grabiąc miejscowość. 23 września w rejonie Łowczy zatrzymały pociąg relacji Pińsk–Łuniniec i skradły pieniądze z wagonu pocztowego. Obrabowano również pasażerów, a podróżujący tym pociągiem funkcjonariusze publiczni, m.in. wojewoda poleski Stanisław Downarowicz, zostali znieważeni.
Obecność na Kresach oddziałów wojskowych, wysyłanych tam doraźnie w ramach tzw. asystencji, nie sprzyjała normalizacji sytuacji (m.in. ze względu na skomplikowaną sytuację narodowościową na Kresach), dezorganizowała przy tym tok działalności tych jednostek. W tej sytuacji władze podjęły decyzję o utworzeniu specjalnej formacji wojskowej.
Korpus Ochrony Pogranicza (KOP) został powołany na wniosek ministra spraw wojskowych gen. dyw. Władysława Sikorskiego i ministra spraw wewnętrznych Zygmunta Hübnera, na mocy uchwały Komitetu Politycznego Rady Ministrów z 21 sierpnia 1924 r. 12 września minister spraw wojskowych wydał rozkaz o utworzeniu korpusu, a pięć dni później Sztab Generalny – instrukcję określającą strukturę organizacyjną formacji. Korpus stanowił integralną część sił zbrojnych. Jego zadaniem była przede wszystkim ochrona wschodniej granicy Polski (ze Związkiem Sowieckim, Łotwą i Litwą, a od 1927 r. również z Rumunią oraz 75-kilometrowego odcinka granicy z Niemcami na Suwalszczyźnie), zapewnienie spokoju na obszarach przygranicznych, ugruntowanie bezpieczeństwa publicznego, likwidacja działalności zbrojnych band terrorystycznych i dywersyjnych, zwalczanie działalności antypaństwowej prowadzonej przez przedstawicieli mniejszości narodowych, niedopuszczenie do nielegalnego przewozu i przerzutu towarów przez granicę, a także niedopuszczenie do nielegalnego przekraczania granicy.