無量大数という言葉は、サンスクリット語の「アパリミタ（量り知れないもの）」や「アプラメーヤ」といった仏教概念の漢訳に由来します。悟りの深さや仏の功徳、時間の果てしなさを形容するために使われていた宗教的語彙が、計算のための命数として取り入れられました。
現在私たちが目にする単位体系を確立したのは、江戸時代初期の数学者・吉田光由が著した和算書『塵劫記（じんこうき）』（1627年刊行）です。『塵劫記』は当時のベストセラーとなり、商業計算から庶民の算術教育まで幅広く普及しました。
実は初期の『塵劫記』では、中国の古典数学書『数術記遺』に倣い、「無量」と「大数」をそれぞれ別の単位として扱い、「極」の先を10倍や下数方式で区切るなど版によって定義が揺れ動いていました。しかし、1634年（寛永11年）の改訂版以降、「無量」と「大数」が統合されて「無量大数」という1つの四字単位になり、4桁繰り上がりの万進法において「不可思議（$10^{64}$）」の次となる「$10^{68}$」として定着しました。
