Yamaguchi nasceu em 22 de fevereiro de 1943 em Taitō Ward, Tóquio. Ele era o segundo filho de Yamaguchi Shinpei, que em 1960 se tornaria um oficial de alto escalão nas forças de defesa do Japão, e era o neto materno do escritor Namiroku Murakami, famoso por seus romances violentos que glorificam o código cavalheiresco dos bandters Yakuza. Yamaguchi cresceu em relativamente privilégio, mas foi radicalizado quando adolescente por seu irmão mais velho. Aos 16 anos, ele se juntou a proeminente partido patriótico do Japão de destro de direita (日本 愛国 党 党, Nihon Aikokutō).
Akao era virulentamente anticomunista e estados fortemente pró-unidos. Assim, quando os manifestantes de esquerda, liderados por Asanuma e pelo Partido Socialista do Japão, realizaram os maciços protestos da ANPO contra a revisão de 1960 do tratado de segurança EUA-Japão (conhecido como "ANPO" em japonês), Akao ficou convencido de que o Japão estava no A beira de uma revolução comunista e mobilizou seus seguidores para encenar contra-protestos. Yamaguchi participou dessas atividades contra-protestos e foi preso e divulgado 10 vezes ao longo de 1959 e 1960.
Ao longo de sua participação nos protestos da ANPO, Yamaguchi tornou -se ainda mais radicalizado e desiludido com a liderança de Akao, que ele sentiu que não era radical o suficiente. Em 29 de maio de 1960, quando os protestos da ANPO começaram a aumentar em tamanho e força, Yamaguchi renunciou ao grupo de Akao para ser livre para tomar mais ações "decisivas".
Em 12 de outubro de 1960, Yamaguchi estava na grande multidão de 2.500 espectadores em um debate eleitoral televisionado realizado no Hibiya Public Hall, no Parque Hibiya, no centro de Tóquio, com Suehiro Nishio do Partido Socialista Democrático, Inejirō Asanuma do Partido Socialista Japão e Hayato e Hayato Ikeda do Partido Democrata Liberal. Asanuma foi o segundo a falar e subiu ao palco às 15:00.
Às 15:05, Yamaguchi correu para o palco e fez um empurrão profundo no flanco esquerdo de Asanuma com uma espada curta de 33 centímetros de samurai (Wakizashi) que havia roubado de seu pai. Yamaguchi então tentou virar a espada em si mesmo, mas foi enxameado e detido por espectadores. Asanuma morreu a poucos minutos do sangramento interno maciço.
Após o assassinato, Yamaguchi foi preso e preso aguardando julgamento. Ao longo de sua prisão, Yamaguchi permaneceu calmo, composto e livremente deu um amplo testemunho à polícia. Yamaguchi afirmou consistentemente que ele havia agido sozinho e sem nenhuma direção dos outros. Menos de três semanas após o assassinato, em 2 de novembro, Yamaguchi misturou uma pequena quantidade de pasta de dente com água e escreveu na parede celular, "Viva o imperador" e "que eu tive sete vidas para dar para o meu país" (七 生 生 生 生 生 生 生 生 生 生 生 生 生 生 生 生報国, Shichishō Hōkoku), este último uma referência às famosas últimas palavras do samurai Kusunoki Masashige do século XIV. Yamaguchi então atado tiras de seu lençol em uma corda improvisada e a usou para se pendurar de uma luminária.
Grupos de direita celebraram Yamaguchi como um mártir; Eles deram um casaco de sepultamento, quimono e cinto para seus pais e fizeram um serviço memorial para ele. Suas cinzas foram enterradas no cemitério de Aoyama.
Uma fotografia tirada por Yasushi Nagao imediatamente depois que Yamaguchi retirou sua espada de Asanuma ganhou o Prêmio Pulitzer de 1961 e o prêmio World Press Photo de 1960. Imagens do incidente também foram capturadas.
Em 15 de dezembro de 1960, apenas algumas semanas após o suicídio de Yamaguchi, uma coalizão nacional de grupos de direita japonesa realizou um "Serviço Memorial Nacional para o nosso irmão Martirizado Yamaguchi Otoya" no mesmo salão público de Hibya em Tóquio, onde Yamaguchi assassinou asanuma. Desde então, os grupos de direita realizaram uma comemoração anual do aniversário da morte de Yamaguchi a cada ano em 2 de novembro. Em outubro de 2010, os grupos de direita realizaram uma celebração em larga escala do 50º aniversário do assassinato de Asanuma, de Yamaguchi, no Parque Hibiya.
As ações de Yamaguchi e a grande publicidade que eles receberam inspiraram uma série de crimes imitadores, pois várias figuras políticas se tornaram alvos de tramas de assassinato e tentativas nos próximos anos. Um dos crimes notáveis inspirados no ataque de Yamaguchi foi o incidente de Shimanaka de fevereiro de 1961, no qual outro direita de 17 anos, Kazutaka Komori, tentou assassinar o presidente da revista Chūō Kōron.
O autor japonês Kenzaburō baseou suas novelas de 1961 e dezessete e morte de uma juventude política em Yamaguchi.
Em 12 de outubro de 2018, o provocador de direita, Gavin McInnes, reencenou o assassinato como parte de uma esquete para entreter membros do Metropolitan Republican Club e dos Proud Boys (uma organização de extrema direita, neofascista e chauvinista fundada por McInnes) em Nova York Cidade. Após a apresentação, McInnes deixou o clube segurando a espada de samurai de plástico usada na reconstituição.