O poreklu abakusa se raspravlja; zna se da su mnoge drevne civilizacije koristile abakus kao pomagalo u brojenju i računanju. Prvi abakusi su nastali na prostorima indo-kineskih kultura od perioda 1100. godine p. n. epne. Jedne od prvih civilizacija koje su koristile abakus su bile [[Kina]] i [[Mesopotamija]]. Prva vrsta abakusa je bila zasnovana na ravnoj kamenoj ploči koja je bila posuta peskom ili prašinom, gde su jednim prstom ili perom upisivali slova i reči. Brojeve su dodavali uz pomoć kamenčića i tako izvodili računske operacije. Od tada su se razvile različite vrste abakusa; najpopularniji od njih su bili napravljeni da bi se na njima moglo računati u dekadnom brojnom sistemu. Upotreba reči abakus datira još od 1387. kada je engleski jezik kao pozajmicu uzeo reč iz latinskog jezika da bi tom rečju označili peščani abakus. Latinska reč potiče od reči abakos, što je oblik genitiva grčke reči abah (što znači tabla za računanje). Ova grčka reč je takođe imala značenje- tabla posuta peskom ili prahom na kojoj se crtaju geometrijske figure. Neki lingvisti tvrde da ova reč: ili ima semitski koren, ābāq, hebrejska reč za - pesak, ili feničanski koren, abak, sa značenjem pesak, takođe.
