実例で学ぶゲーム3D数学 / 松田晃一 / Fletcher Dunn, Ian Parberry (asin:4873113776)

確かにゲームを軸とした話の展開のところもあるけど、原題が「3D Math Primer for Graphics and Games Development」となっているように、「グラフィクスとゲーム開発のための3D数学入門」なので、3D CGなどに興味を持っている方にもオススメの内容です。
この本、日本ではオライリーからの出版ですが、原著はO'Reillyから出てるんじゃないんですね。
私が quaternion のことを「よんげんすう」と読むのだと思っていたのはナイショ。