Em 1937 por meio da Lei nº 378, de 13 de janeiro, é criado o Ministério da Educação e Saúde, tendo em seu bojo um órgão técnico de serviço relativo à educação: o Instituto Nacional de Pedagogia. Com a função de centro de pesquisa pedagógico nacional, em 1938, por meio do Decreto-Lei 580 de 30 de julho, tem sua nomenclatura alterada para Instituto Nacional de Estudos Pedagógicos. Neste primeiro momento, o Inep atuava como o centro de estudos de todas as questões educacionais relacionadas com os trabalhos do Ministério da Educação e Saúde: organização da documentação relativa aos estudos das técnicas pedagógicas; intercambio das instituições educacionais nacionais e internacionais; promoção de inquéritos e pesquisas pertinentes a organização do ensino e dos processos pedagógicos, bem como da psicologia aplicada a educação e de problemas na orientação e seleção profissional; prestação de assistência técnica a polos educacionais estaduais, regionais e particulares; divulgação de toda pesquisa referente a teoria e pratica pedagógica.

Ganha a denominação atual INEP - Instituto Nacional de Estudos e Pesquisas Educacionais, com o decreto Nº 71.407 de novembro de 1972, que também transforma o INEP em órgão central de direção superior exercendo “atividades necessárias ao estímulo, coordenação, realização e difusão da pesquisa educacional no País” segundo a letra da Lei. A nova denominação do INEP e sua reestruturação perpassa por várias mudanças de decreto desde a restruturação do MEC ocorrida inicialmente com o decreto lei Nº 200 de fevereiro de 1967 e posteriormente pelo decreto Nº 66.697 de julho de 1970 que trata da reorganização do Ministério de Educação e Cultura e que assegura ao INEP autonomia administrativa e financeira.

Em 1997, adquire condições de autarquia federal pela Lei 9.448 de 14 de março de 1997, tornando-se instituto vinculado ao Ministério da Educação e Cultura, condição que permanece até hoje. Inicia-se um ciclo que visa avaliar o ensino brasileiro a partir de estatísticas educacionais. Planejar, orientar, coordenar e desenvolver projetos de avaliação educacional, bem como dar apoio os Estados, Distrito Federal e Municípios; subsidiar políticas na área da educação; realização de exames de acesso ao ensino superior, tais como Enem, Encceja, Enade, Prova Brasil entre outros, e disseminação de informações sobre a educação básica e superior passam a ser o novo foco de atuação do Inep.