삼차방정식의 근의 공식을 외우고 있는 분은 별로 없겠죠. 일단 식이 너무 복잡하니까요. 그래도 관심이 있는 분이라면 한 번쯤은 본 적이 있겠죠. 오늘은 이 삼차방정식의 근의 공식을 삼각함수를 이용해 조금 간단하게 나타내 보려고 해요.
$x^3+ax^2+bx+c=0$이라는 인수분해 불가능한 유리계수 삼차방정식을 생각해 볼게요. 삼차항의 계수는 0이 아닐 테니 나눠줬다고 생각하면 되죠. 먼저 식을 간단히 하기 위해 최고차항을 제외한 나머지 중 하나를 0으로 만들 방법을 생각해 볼게요.
근과 계수와의 관계를 생각하면 세 근의 합이 $-a$, 곱이 $-c$라는 걸 알 수 있죠. 인수분해가 불가능하니 $c\ne0$이에요. 0이라면 $x$를 인수로 가지죠.
삼차함수 $f(x)=x^3+ax^2+bx+c$의 그래프는 $x$축과 반드시 만나기 때문에, 방정식 $f(x)=0$이 적어도 하나의 실근 $\alpha$를 가진다는 걸 알 수 있어요. $\alpha$가 유리수라면 $x-\alpha$는 $f(x)$의 인수이므로 인수분해가 가능하죠. 즉, $\alpha$는 무리수예요. 식을 간단히 하기 위해 $x=t+\alpha$로 치환한다면 상수항이 0이 되니 이차방정식처럼 풀 수 있겠죠. 하지만 무리수가 추가되어 식이 복잡해지고, 무엇보다 먼저 $\alpha$를 알아내기 어려워요.
위의 경우처럼 $x$를 다른 변수로 치환하는 것을 생각한다면, 결국 $x$에 일차식을 대입하는 꼴을 생각할 수밖에 없죠. 다른 식이라면 삼차방정식이 유지되지도 않고, 식이 복잡해지니까요. 그렇다면 가장 간단한 것은 이차항을 0으로 만드는 거죠. 일차항은 상수항을 제외한 모든 항에 일차식을 대입했을 때 나올 수 있으니 계산이 복잡해요.
$x=t-\frac a3$라 하면,\[f\p{t-\frac a3}=t^3+pt+q\]의 형태가 되죠. $p=b-{a^2\over3}$이고, $q=c-{9ab-2a^3\over27}$이에요. $t^3+pt+q=0$의 모든 근은 유리수가 아니기에, 근과 계수와의 관계에서 $q\ne0$이라는 걸 알 수 있어요.
인수분해 불가능한 유리계수 삼차방정식인 $t^3+pt+q=0$은 서로 다른 세 근을 가져요. 중근이나 삼중근을 가진다면 인수분해가 가능하기 때문이죠. 세 근의 합이 0이니 삼중근이라면 0일 수밖에 없어요. 중근 $\tau$를 가진다면 다른 한 근은 $-2\tau$겠죠. $q=2\tau^3$이고 $p=-3\tau^2$이니 둘 모두 유리수가 되게 하는 무리수 $\tau$는 존재하지 않죠. 두 허근을 가진다면 서로 켤레복소수이니 세 근이 모두 다르겠네요.
먼저 $p=0$인 경우를 살펴보면, $\omega={-1+\sqrt3i\over2}$일 때, $t=-\sqrt[3]q\omega^k,\quad k=0,1,2$가 성립하죠. 이제 $p\ne0$인 경우만 생각하면 돼요.
삼각함수를 이용한다는 발상은 어디서 온 걸까요? 바로 $\cos3\th=4\cos^3\th-3cos\th$를 이용하는 거죠. 마침 $\cos\th$에 대한 삼차항과 일차항 밖에 없기도 하고, $\cos3\th$를 상수로 두면 $\cos\th$는 정확히 세 개의 값을 만족하니까요. $\cos3\alpha=\cos3\p{\alpha\pm\frac23\pi}$이기 때문이죠.
$t=\frac23\sqrt{-3p}\cos\th$라 하면\[4\cos^3\th-3\cos\th-\cos3\th=0\]의 양변에 $-\frac29p\sqrt{-3p}$을 곱해\[t^3+pt+\frac29p\sqrt{-3p}\cos3\th=0\]을 얻을 수 있어요. 즉, $\cos3\th={3\sqrt3q\over2p\sqrt{-p}}$라는 거죠. 지난번에 다룬 쌍곡선 함수에 대한 글에서 소개한 것처럼 cos함수를 복소수에서 정의하면\[\cos(a+bi)=\cos a\cosh b-i\sin a\sinh b\]이므로 $b\ne0$이면 cos의 함숫값은 $a=2n\pi$일 때 1보다 큰 수, $a=(2n+1)\pi$일 때 -1보다 작은 수, $a=\frac n2\pi$일 때 순허수가 돼요. $b=0$인 경우까지 생각하면 위의 $\cos3\th$에 가능한 모든 경우를 생각할 수 있죠.
이제 $-1\le\cos3\th\le1$이라면 역삼각함수를 이용해서 $\th=\frac13\arccos{3\sqrt3q\over2p\sqrt{-p}}$를 구할 수 있어요. 위의 경우에 맞춰 $\cos3\th>1$인 경우는 $\th=\frac i3{\rm arcosh}{3\sqrt3q\over2p\sqrt{-p}}$이고, $\cos3\th<-1$인 경우는 $\th=\frac\pi3+\frac i3{\rm arcosh}{-3\sqrt3q\over2p\sqrt{-p}}$, 순허수인 경우는 $\th=\frac\pi6+\frac i3{\rm arsinh}{3\sqrt3q\over2p\sqrt p}$가 된다는 걸 알 수 있겠죠. 각 실수부는 arccos의 주치(함숫값)에 맞춘 거예요. 물론 이 값들 말고도 정수 $n$에 대해 $\frac23n\pi$를 더한 값도 모두 $\th$가 될 수 있어요.
역삼각함수를 복소수 전체에서 정의한다고 생각하면 위의 식들을 arccos 하나로 생각할 수도 있겠죠. 정확한 정의에 대해서는 나중에 기회가 있으면 소개하도록 할게요. 이제 $x=t-\frac a3,\quad t=\frac23\sqrt{-3p}\cos\th$를 이용해 계산하면\[x=\frac23\sqrt{-3p}\cos\p{\frac13\arccos{3\sqrt3q\over2p\sqrt{-p}}+\frac23n\pi}-\frac a3,\quad n=0,1,2\]라는 해를 구할 수 있죠.