公元852年，花剌子模数学家和天文学家阿尔·花剌子模写了一本有影响的代数教科书。它的阿拉伯文书名为《aljabrW’al muqabalah’》，意思是“结集一些未知数，使之与已知数匹配的技术”，其中的“aljabr”结集一词后来逐步演变为拉丁文alge-bra。英文的“代数学”一词为algebra，源于拉丁文，自然也来自阿拉伯文al-jabr，al为词冠，jabr之意为恢复或还原，解方程式时将负项移至另一边变成正项，也可说是还原。
清朝末年，有人翻译西方代数书时，按照音译为“阿尔热巴拉算法”。1859年正式使用“代数这”个名称，清代的翻译家和数学家李善兰（公元1811至1882年）在翻译西方数学著作时，第一次将algebra译为“代数学”。此后，代数一词便一直沿用下来。《微积拾级》一书的序中指出“中法之四元，即西法之代数也”，在不同的时期有人用算术作为代数的名称，中国古书九章算术其实是一本数书百科全书，代数问题分见于各章，特别是第八章方程，主要是论述线性（一次）联立方程组的解法。