최소 제곱 법 은 함수 근사에서 가장 중요한 응용 프로그램 중 하나입니다. 아이디어는 일련의 정렬 된 쌍이 주어 졌을 때이 함수가 데이터에 가장 근접하는 곡선을 찾는 것입니다. 함수는 선, 2 차 곡선, 3 차 등이 될 수 있습니다.
이 방법의 아이디어는 선택한 함수에 의해 생성 된 점과 데이터 세트에 속한 점 사이의 세로 좌표 (Y 구성 요소) 차이의 제곱합을 최소화하는 것으로 구성됩니다.
최소 제곱 법
방법을 제공하기 전에 먼저 "더 나은 접근 방식"이 무엇을 의미하는지 명확히해야합니다. n 개의 점 집합을 가장 잘 나타내는 선 y = b + mx, 즉 {(x1, y1), (x2, y2)…, (xn, yn)}을 찾고 있다고 가정합니다.
이전 그림에서 볼 수 있듯이 변수 x와 y가 선 y = b + mx로 관련되어 있다면 x = x1에 해당하는 y 값은 b + mx1이됩니다. 그러나이 값은 y의 실제 값인 y = y1과 다릅니다.
평면에서 두 점 사이의 거리는 다음 공식으로 지정됩니다.
이를 염두에두고 주어진 데이터에 가장 근접한 y = b + mx 선을 선택하는 방법을 결정하기 위해 점 사이의 거리 제곱의 합을 최소화하는 선 선택을 기준으로 사용하는 것이 논리적으로 보입니다. 그리고 직선.
점 (x1, y1)과 (x1, b + mx1) 사이의 거리가 y1- (b + mx1)이므로 문제는 다음 합계가 최소가되도록 m과 b를 찾는 것으로 줄어 듭니다.
이 조건을 충족하는 선을«점 (x1, y1), (x2, y2),…, (xn, yn)에 대한 최소 제곱 선의 근사치»라고합니다.
문제가 발생하면 최소 제곱 근사치를 찾는 방법을 선택하는 것만 남아 있습니다. 점 (x1, y1), (x2, y2),…, (xn, yn)이 모두 y = mx + b 선에 있으면, y = mx + b 선상에 있습니다.
이 표현에서 :
마지막으로 점이 동일 선상에 있지 않으면 y-Au = 0이고 문제는 유클리드 노름이 최소가되는 벡터 u를 찾는 것으로 변환 될 수 있습니다.
최소화 벡터 u를 찾는 것은 생각만큼 어렵지 않습니다. A는 nx2 행렬이고 u는 2 x 1 행렬이기 때문에 벡터 Au는 R n 의 벡터 이고 2보다 크지 않은 차원을 가진 R n 의 부분 공간 인 A의 이미지에 속합니다 .
따라야 할 절차를 보여주기 위해 n = 3이라고 가정합니다. n = 3이면 A의 이미지는 원점을 통과하는 평면 또는 선이됩니다.
v를 최소화 벡터라고합시다. 그림에서 우리는 y-Au가 A의 이미지에 직교 할 때 최소화되는 것을 관찰합니다. 즉, v가 최소화 벡터이면 다음과 같은 일이 발생합니다.
그런 다음 위의 내용을 다음과 같이 표현할 수 있습니다.
다음과 같은 경우에만 발생할 수 있습니다.
마지막으로 v를 풀면 다음과 같습니다.
데이터로 주어진 n 개의 포인트가 공 선적이지 않는 한 A t A는 가역적 이기 때문에이를 수행 할 수 있습니다 .
이제 선을 찾는 대신 n 개의 데이터 포인트에 대한 더 나은 근사치 인 포물선 (표현식이 y = a + bx + cx 2 형식 일 것)을 찾고자 한다면 절차는 아래에 설명 된 것과 같습니다.
n 개의 데이터 포인트가이 포물선에 있으면 다음과 같이됩니다.
그때:
비슷하게 y = Au를 쓸 수 있습니다. 모든 점이 포물선 안에 없다면, 우리는 벡터 u에 대해 y-Au가 0과 다르다는 것을 알게되고 우리의 문제는 다시 있습니다 : R3에서 벡터 u가 가능한 한 작도록 R3에서 벡터 u를 찾으십시오. .
이전 절차를 반복하면 찾는 벡터가 다음과 같음을 알 수 있습니다.
해결 된 운동
연습 1
점 (1,4), (-2,5), (3, -1) 및 (4,1)에 가장 잘 맞는 선을 찾으십시오.
해결책
우리는 :
그때:
따라서 점에 가장 잘 맞는 선은 다음과 같이 주어진다는 결론을 내립니다.
연습 2
물체가 200m 높이에서 떨어 졌다고 가정합니다. 떨어지면 다음 단계가 수행됩니다.
우리는 시간 t가 경과 한 후 상기 물체의 높이가 다음과 같이 주어진다는 것을 압니다.
g의 값을 얻으려면 표에 주어진 5 개의 점에 더 가까운 포물선을 찾을 수 있습니다. 따라서 t 2에 수반되는 계수 는 측정이 정확합니다.
우리는 :
그리고 나중에 :
따라서 데이터 포인트는 다음 2 차 표현식에 의해 적합합니다.
따라서 다음을 수행해야합니다.
이것은 g = 9.81 m / s 2 인 정확에 합리적으로 가까운 값입니다 . g의 더 정확한 근사치를 얻으려면 더 정확한 관찰에서 시작해야합니다.
그것은 무엇입니까?
자연 과학이나 사회 과학에서 발생하는 문제에 있어서는 수학적 표현을 통해 서로 다른 변수 사이에 존재하는 관계를 작성하는 것이 편리합니다.
예를 들어 경제학에서는 간단한 공식을 사용하여 비용 (C), 수입 (I) 및 이익 (U)을 연결할 수 있습니다.
물리학에서는 중력으로 인한 가속도, 물체가 떨어지는 시간, 물체의 높이를 법칙에 따라 연관시킬 수 있습니다.
이전 식에서 s o 는 해당 물체의 초기 높이이고 v o 는 초기 속도입니다.
그러나 이와 같은 공식을 찾는 것은 쉬운 일이 아닙니다. 일반적으로 많은 데이터로 작업하고 여러 실험을 반복적으로 수행하여 (얻은 결과가 일정한지 확인하기 위해) 서로 다른 데이터 간의 관계를 찾는 것은 근무중인 전문가에게 달려 있습니다.
이를 달성하는 일반적인 방법은 평면에서 얻은 데이터를 포인트로 표현하고 해당 포인트에 최적으로 근사하는 연속 함수를 찾는 것입니다.
주어진 데이터에 "가장 근접한"함수를 찾는 방법 중 하나는 최소 제곱 법입니다.
또한 연습에서 보았 듯이이 방법 덕분에 물리적 상수에 상당히 근접한 근사치를 얻을 수 있습니다.
참고 문헌
- Charles W Curtis 선형 대수. Springer-Velarg
- Kai Lai Chung. 확률 적 과정이있는 기본 확률 이론. Springer-Verlag New York Inc
- Richar L Burden & J. Douglas Faires. 수치 분석 (7ed). Thompson Learning.
- 스탠리 I. 그로스 만. 선형 대수의 응용. MCGRAW-HILL / INTERAMERICANA DE MEXICO
- 스탠리 I. 그로스 만. 선형 대수. MCGRAW-HILL / INTERAMERICANA DE MEXICO