для решения СЛАУ можно использовать:
Numeric Javascript (numeric.solve(M, b))
algebra.js
hiddentao/linear-algebra