O acervo documental deste fundo histórico inicialmente é organizado por 53 séries documentais dispostas dentro da chamada Seção de Fundo Histórico. Tal arranjo é derivado de um quadro de arranjo proposto nos anos 1980 pela arquivista Astrea Moraes e Castro como parte do processo de reorganização dos Arquivos do MEC em Brasília. A proposta da arquivista sofreu adaptações até se chegar no modelo atual que obedece a uma sistemática que envolve ordenação por setor de origem, tipologia documental e assunto.
Desde sua concepção o Inep tem sido o orientador nas ações relativas a Educação Brasileira, função que intrinsecamente se reflete no arquivo, que abriga um conteúdo documental complexo e é fonte importante para pesquisadores de todo o país.
Desta maneira, a forma que o Arquivo Histórico está estruturado no AtoM é uma reflexão de como se encontra a documentação mantida no espaço físico do Arquivo Histórico, que atualmente é coordenado pelo CIBEC – Centro de Informação e Biblioteca em Educação.

As 53 séries supracitadas estão aqui inseridas, são elas: CALDEME; CAMPANHA DE CONSTRUÇÃO ESCOLAR; CAPES; CAV/ES; CBPE; CEOSE/CROSE; CILEME; CODI; CODI/SOEP; CODI/UNIPER; COLTED; CONTABILIDADE; CRPE/BA; CRPE/MG; CRPE/PE; CRPE/SP; CRPE/SP (Contabilidade); CRPE/SP (Cursos); CRPE/SP (Pessoal); CRPE/RS; CURRÍCULOS; CURSOS; CUSTOS EDUCACIONAIS; DAM; DDI; DDIP; DIRETORIA; DISSERTAÇÕES DE MESTRADO; EATEP; EDUCADORES; ENCONTRO; ESTATÍSTICA; FNEM; MONOGRAFIAS; ORGANIZAÇÃO INTERNACIONAL; PERFIL DO USUÁRIO; PESQUISA; PESSOAL; PGEB; PLANEJAMENTO EDUCACIONAL; POA; PREMEN; PROCARTA; PROJETO ANUÁRIO; QUESTIONÁRIOS; RECURSOS AUDIOVISUAIS; SALÁRIO EDUCAÇÃO; SAT; SOE; SRAV/PR; THESAURUS; TRABALHOS AVULSOS.

O acervo possui data-limite inicial do período de 1937, quando houve a criação oficial do instituto por meio da Lei nº 378 de 13 de janeiro de 1937, até o ano de 1997, quando o Inep tornou-se oficialmente autarquia federal por meio da Lei nº 9.448 do referido ano. As 53 (cinquenta e três) séries citadas compõem-se majoritariamente por documentos textuais, seguidos de iconográficos e cartográficos, totalizando 218,68 metros lineares. Destacam-se no acervo os documentos oriundos do CBPE (Centro Brasileiro de Pesquisas Educacionais) e CRPEs (Centros Regionais de Pesquisas Educacionais) que foram fundados a partir de 1955, como iniciativa de Anísio Teixeira para reestruturação da educação brasileira, desde o ensino primário à graduação. Tais centros executavam pesquisas sociais a níveis local e nacional, o que já é um indício da riqueza desse acervo. As séries também englobam documentos relacionados a grandes personalidades da educação brasileira como Darcy Ribeiro, Gilberto Freyre, Lourenço Filho, Murilo Braga, Paschoal Lemme e outros. Há ainda, dissertações, monografias, relatórios estatísticos, questionários, convênios internacionais, projetos de construções escolares que são exemplos de tipos documentais que compõem o acervo.