Se crea en 1920, con la denominación de Tercio de Extranjeros. En 1925 es reorganizado y pasa a llamarse El Tercio, quedando formado por dos Legiones, con cuatro Banderas (equivalente a Batallón) cada una, organizadas en Compañías.

En 1932 se disuelven la VII y VIII Banderas.

Durante la Guerra Civil, por Orden de 8 de mayo de 1937, cambia su denominación a La Legión. Su estructura se compone de una Plana Mayor de Mando, con una Sección de Transmisiones, Sección de Música, una Bandera de Depósito y dos Tercios, organizados en Banderas y ubicados, el 1º, en Tauima, cerca de Melilla, y el 2º en Riffien, próximo a Ceuta.

En el transcurso de la contienda llegaron a crearse hasta dieciocho Banderas.

La anterior organización se modifica por el Orden de 21 de diciembre de 1939 (D.O. 69, página 720), que asigna cinco Banderas al primer Tercio (Banderas I, II, III, X y XI) y crea el tercer Tercio (Banderas VII, VIII y IX ), ubicándolo en Larache, con tres Banderas, al igual que el segundo Tercio (Banderas IV, V y VI). Se suprimen las Banderas XII a XVIII.

El resto de la organización era similiar en los tres Tercios: Plana Mayor de Mando, Sección de Transmisiones, Sección de Obreros y Explosivos, Sección de Depósito y Agrupación Mixta.