Pour sauver le club de musique de son lycée, Ritsu décide d'enrôler trois étudiantes et de monter un groupe de pop. Mais l'une d'entre elles, Yui, n'a jamais touché à un instrument de sa vie. Sous forme de petit strips de quatre ou cinq cases, K-ON! raconte le quotidien des quatre jeunes filles, suit leurs répétitions, l'achat de matériel, et la découverte par Yui de sa passion pour la guitare.