A obra mais célebre de Procópio é a História secreta. Embora se mencione no Suda, onde toma o título grego de Anekdota (composição inédita), somente se descobriu vários séculos mais tarde, na Biblioteca Vaticana, e não se editou até 1623. Cobre os mesmos anos que os sete primeiros livros das Guerras, e parece ter sido escrita depois da edição dessa obra. A teoria mais aceite situa a data da sua composição por volta de 550, embora outros autores prefiram a data de 562. Segundo o autor, na obra relata aquilo que não estava autorizado a escrever nas suas obras oficiais por medo às represálias de Justiniano e Teodora. A História secreta constitui uma vitriólica invectiva contra o imperador Justiniano e a sua esposa Teodora, sem esquecer o seu antigo amigo Belisário e a sua esposa, Antonina. As afirmações que faz em relação a estes personagens - especialmente sobre Teodora - chegam ao pornográfico. Contrasta fortemente a visão que do imperador oferece Procópio na sua Sobre os edifícios com o retrato dado aqui, até o ponto de ter-se chegado a duvidar de que fosse ele o verdadeiro autor da História secreta. A análise do texto, porém, corrobora dum modo fidedigno esta atribuição.

