A primeira menção à bandeira Hinomaru data de 701. Diz a lenda que um sacerdote budista chamado Nichiren deu uma bandeira com o sol a um shogun (o mais alto cargo militar) durante a invasão mongol no século XIII para que o soldado a levasse consigo. A hinomaru tornou-se um símbolo nacional e foi usada durante a Batalha de Nagashino em 1575. A bandeira mais antiga do Japão, que data pelo menos do século XVI, é mantida no Templo Unpo-ji como um tesouro de família do clã Takeda.
Em 1854, os navios japoneses foram obrigados a hastear a hinomaru para se distinguirem dos navios estrangeiros. Posteriormente, em 1870, a hinomaru foi proclamada a bandeira comercial do Japão e a primeira bandeira nacional do país de 1870 a 1885. Embora a ideia de um símbolo nacional parecesse estranha para muitos japoneses, o governo a considerava necessária para a interação com outros países. Após o desembarque do Comodoro Perry em 1853, decidiu-se introduzir marcas de identificação mais difundidas, incluindo a bandeira nacional, o hino e o selo imperial. A legislação que tornou a Hinomaru a bandeira nacional foi revogada em 1885.
O uso da Hinomaru cresceu no Japão durante sua busca pela criação de um império. Após as primeiras vitórias na guerra com a China, a Hinomaru reapareceu em celebrações e desfiles. Nos livros didáticos da época, a bandeira era retratada com vários slogans que expressavam lealdade ao imperador e ao país.
A bandeira Hinomaru foi a bandeira do Japão durante a Segunda Guerra Mundial e durante a ocupação do país. Naquela época, era necessária a permissão das forças aliadas para hastear a bandeira. Em maio de 1947, as restrições ao hasteamento da Hinomaru foram suspensas. Em 1948, a bandeira pôde ser hasteada nos feriados nacionais e, a partir de janeiro de 1949, pôde ser hasteada a qualquer momento sem permissão. Como resultado, escolas e residências exibiram ativamente a bandeira Hinomaru até o início da década de 1950.
Após a Segunda Guerra Mundial, a bandeira japonesa foi criticada por estar associada ao passado militarista do país. A bandeira Hinomaru não foi usada no Japão após a guerra, mas mais tarde, quando o país recuperou sua posição diplomática, ela foi usada como arma política no exterior. A questão da bandeira nacional surgiu novamente quando Tóquio sediou os Jogos Olímpicos de Verão de 1964. O tamanho do disco solar na bandeira e a tonalidade da cor foram alterados. Em 1989, após a morte do Imperador Hirohito, foram levantadas questões morais sobre a bandeira nacional.
Em 2000, o primeiro-ministro japonês Keizo Obuchi, do Partido Liberal Democrático, propôs um projeto de lei para tornar a Hinomaru o símbolo oficial do país. Entretanto, um projeto de lei semelhante foi considerado em 1974, mas não foi aprovado. A oposição protestou contra a lei e queria que a questão fosse decidida pelo público. O vice-secretário geral Yukio Hatoyama acreditava que o projeto de lei dividiria ainda mais a sociedade e as escolas públicas, mas votou a favor. O projeto de lei foi aprovado pela Câmara dos Deputados em 22 de julho de 1999 e pela Câmara dos Vereadores em 9 de agosto.