La band si formò nel 1996 da Masafumi Gotou (後藤 正文) (voce e chitarra), Kensuke Kita (喜多 建介) (chitarra) e Takahiro Yamada (山田 貴洋) (basso), mentre Ichiji Kiyoshi (伊地 知潔) (batteria) ne entrò a far parte più tardi. I primi tre si conobbero nel circolo musicale della "Kanto Gakuin University".

Nel 2000/2001 vendettero i loro lavori online e nel 2001 la band pubblicizzò la canzone "Konayuki" inviandola alle radio.

Nel 2003 uscì il loro primo (mini) album "Hōkai Amplifer" che entra al 5° posto nella classifica Oricon vendendo 25.000 copie. Con questo album ottennero un così grande successo tanto da avere un contratto per utilizzate la canzone "Haruka Kanata" come sigla dell'anime "Naruto".

L'anno successivo vincono il premio "Best New Artist" e il loro video "Kimi to Iu Hana" vince il premio come miglior video musicale. Durante l'anno rilasciano quattro nuovi singoli: "Siren", "Loop & Loop", "Kimi no Machi Mad" e "Rewrite" (sigla di apertura dell'anime "Fullmetal Alchemist"). Rilasciano anche il loro secondo album "Sol-Fa", che diventa presto un successo, tanto da diventare numero 1 nella classifica Oricon per due settimane vendendo oltre 600.000 copie.

Nel 2005 oltre a partecipare a moltissimi festival e a fare concerti su concerti, pubblicano un DVD che mantiene la prima posizione nella classifica Oricon DVD per un mese intero. Sempre nel 2005 rilasciano il singolo "Blue Train" e riescon a vendere l’album "Sol-Fa" in America.

Nel 2006 rilasciano ben 2 album, "Fanclub" e "Feedback File", una compilation. Il primo sta nella top5 dell'Oricon Chart per circa 2 mesi mentre Feedback File entra in classifica alla seconda posizione. Sempre nel 2006 rilascia altri singoli: "World Apart" (in cui canta Kita Kensuke) e "Aru Machi no Gunjo".

Il 15 Ottobre 2008 esce il singolo "Fujisawa Loser" che vende 23.476 copie. Il 5 Novembre esce il nuovo album "Surf Bungaku Kamakura" che vende 80.997 copie.

Il 2 Dicembre 2009 esce il singolo "Shin Seiki no Love Song" che vende 31.378 copie.

Il 31 Marzo 2010 esce il singolo "Solanine" che raggiunge il successo poco a poco e finisce col vendere 63.296 copie. "Solanine" é diventato anche un film con protagonisti gli stessi ASIAN KUNG-FU GENERATION. Il 26 Maggio esce il singolo "Maigo Inu to Ame no Beat" che vende 24.189 copie. Il 23 Giugno esce l'album "Magic Disc", raggiungendo la 2° posizione dell'Oricon Chart e vendendo 108.932 copie, la band si conferma come uno dei punti fermi del rock giapponese.