古代埃及用“哈乌”来表示未知数，“哈乌”是指若干的数量。古希腊的丢番图用字母来表示未知数，但以后进展很慢。 1559年法国数学家彪特开始用A、B、C表示不同的未知数。1591年，法国数学家韦达用A、E、I等元音字母表示未知数。
到1637年，法国数学家笛卡儿在《几何学》中始用X、Y、Z表示正数的未知数，这个方法简单而易于操作，被人们逐渐普遍采用。可是从字母A到Z，为什么偏偏要将X用来表示未知数呢?
对此，人们有以下4种猜测：
．当时德国数学家曾用X表示未知数。
2．意大利数学家卡塔尔迪用数字1加斜线表示未知数，图形与X相似。
3．阿拉伯人把未知数叫做“shui”，西班牙人效仿此发音，将未知数写做“XEI”，X就是取这个词的头字母。
4．X这个字母在单词中出现的次数很少，工厂用活字印刷法印刷时X总是剩下很多，所以笛卡儿方程式里的未知数常用英文字母X来表示。
20世纪90年代曾经流行的“X世代”，以及美国联邦调查局(FBI)将无法侦破的案件命名为“X档案”，都借鉴了X所代表的未知数这一含义。