Karl Kaiser studierte an den Musikhochschulen  Köln und Münster. Parallel dazu studierte er außerdem Theologie, Philosophie und Musikwissenschaften an den Universitäten in Bonn und Köln, entschied sich dann aber für den Beruf des Musikers. Seitdem konnte er sich als Solist, Kammer- und Orchestermusiker im Bereich der historisch informierten Aufführungspraxis sowie als Pädagoge einen hervorragenden Namen machen.
Nach vielfältigen und inspiriedenden Erfahrungen mit sehr verschiedenen Ensembles und Orchestern und der Musik vom 17. bis zum 21. Jahrhundert konzentriert sich Karl Kaiser heute auf wenige, sich ergänzende Ensembles.
Er ist seit 30 Jahren Flötist der Camerata Köln mit weltweiten Konzerten und mit mehr als 50 CDs eines großen Teils der barocken und frühklassischen Kammermusik.
Karl Kaiser ist Gründungsmitglied des Orchesters La Stagione Frankfurt unter Michael Schneider und Solist auf CDs mit Flötenkonzerten von Telemann, Abel und Holzbauer.
Er ist seit vielen Jahren Mitglied des Freiburger Barockorchesters und spielte als Solist Flötenkonzerte von Wilhelm Friedemann Bach, Johann Christian Bach und Johann Sebastian Bach auf CD ein.
Karl Kaiser ist Flötist des Ardinghello-Ensembles für romantische Kammermusik. Soeben erschien bei MDG die Ersteinspielung der Quartette für Flöte und Streichtrio op. 56 von Franz Danzi.
Karl Kaiser unterrichtet als Professor für Traversflöte und Aufführungspraxis an der Hochschule für Musik und Darstellende Kunst Frankfurt und an der Musikhochschule in Freiburg. Im Verlag con brio erschien von ihm das Buch „Basiswissen Barockmusik“. Im Mai 2013 wird sein Buch über die Lehren des Jacques Hotteterre im Verlag Walhall erscheinen.