행렬방정식 Ax=b에서 만일 A나 b가 구하고자 하는 x에 무관하지 않고 x에 따라 변하는 경우가 종종 발생한다. 이러한 경우를 비선형(nonlinear) 문제라고 부르며 x를 알아야 A나 b를 결정할 수 있기 때문에 계산이 단순하지 않다. 이러한 비선형 방정식은 한번의 계산으로 해답을 구할 수 없기 때문에 뉴튼-랩슨 기법(Newton-Raphson method)과 같은 반복계산방법을 적용해야 한다.
이 기법은 구하고자 하는 x값을 미리 추정하고 이 추정 값을 가지고 A나 b을 결정한 다음 x값을 계산한다. 그리고 계산된 x값으로 다시 A나 b를 결정한 다음 다시 x값을 계산하는 일련의 반복과정을 통해 x값이 원하는 정확도를 만족하게 되면 반복계산을 종료한다. 하지만 이 기법은 매 반복계산 시 마다 A나 b를 새로이 계산해야 하기 때문에 행렬의 크기가 커지면 계산시간상 문제가 될 수가 있다.
이러한 불편함을 개선하기 위해 수정된 뉴튼-랩슨 기법이 종종 사용되고 있다. 이 기법은 반복계산 시 마다 A나 b를 계산하지 않고 맨 처음에 계산한 A나 b를 나머지 반복계산 과정에서 계속해서 사용하기 때문에, A나 b를 계산하기 위해 소요되는 시간을 현저히 줄일 수 있다. 하지만 A나 b가 매 반복계산에 있어 정확하지 않기 때문에 원하는 정확도를 가진 x를 구하기 위해 필요한 반복계산 횟수는 뉴튼-랩슨 기법에 비해 증가하는 단점이 있다.
.