이번 글에서는 챗GPT의 거짓말 (ChatGPT lies)에 대해 이야기해 보겠습니다. 요즘 이슈가 되고 있는 것 중 하나가 챗GPT라고 해도 틀린 말은 아닐 것입니다. 챗GPT가 마치 ‘진실의 매체’인양 말하는 사람도 있습니다. 그들은 앞으로 많은 사람들이 일자리를 잃을 것이라는 황당한 주장도 서슴없이 내놓습니다.
그런데 AI 즉 로봇인 챗GPT가 거짓말을 한다면 어떨까요? 몰라서 하는 말과 거짓말은 다릅니다. 사실과 다른 것을 마치 다 알고 있는 것처럼 말한다면 이건 무지가 아닌 거짓이 되는 것입니다. 따라서 간단한 사례를 중심으로 챗GPT의 천연덕스러운 거짓말에 대해 이야기해 보겠습니다.
챗GPT가 그랬어!
1800년대 말 중국에는 유명한 말이 있었다. 고사성어도 아니고, 공자 또는 맹자의 말도 아니었습니다.
다름 아닌 ‘루쉰이 그랬대!’란 말이었습니다. 루쉰은 중국인들 사이에선 20세기 가장 위대한 아시아 작가로 칭했습니다. 그는 작가였으며, 사회운동가였고, 사상가였습니다.
많은 사람들이 옳고 그름을 가지고 다툴 때 누군가 나서서 ‘루쉰이 그랬대!’라고 말하면 모든 게 정리됐습니다. 공자왈 맹자왈을 아무리 외쳐도 ‘루쉰이 말했대’라는 한마디면 성인들의 말은 뒷전으로 밀렸습니다. 루쉰은 중국인들에게 진리 그 자체였습니다.
우리나라도 비슷한 일이 있었습니다. 옛날 시골에 TV가 흔치 않았던 시절, 어떤 사안에 대해 의견이 대립했을 때, 누군가 나서서 ‘내가 태래비에서 봤는데’라는 말 한마디면 정리되곤 했었습니다. 또는 ‘신문에서 봤는데’라는 말도 상황을 정리하는데 큰 힘으로 작용했습니다.
요즘은 어떤가요. 누군가 ‘AI가 그랬어!’라고 말하면 왠지 진실인 것처럼 받아들이는 추세입니다. 더 나아가 ‘챗GPT한테 물어봤더니’라고 말하면 뭔지 모를 신빙성이 느껴집니다.
‘~가 그랬대’라는 말은 그 시대의 상황을 반영하는 듯합니다. 루쉰시대에는 그의 위상과 명성에 눌려 그의 발언 모두를 진실로 여겼습니다. TV나 뉴스매체가 귀하던 시절 ‘내가 뉴스에서 봤는데’라는 말이 곧 진리였던 경우와 같습니다.
그러나 돌이켜 보면 ‘루쉰이나 TV, 이런 것들을 맹신하는 것처럼 위험한 건 없다는 것입니다. 최근 유행처럼 번지는 AI도 마찬가지입니다.
챗GPT의 거짓말
그러면 우리가 왜 AI를 맹신하면 안 되는지 사례를 통해 짚어 보겠습니다. 분명한 건 이건 하나의 작은 사례에 불과하다는 것입니다. 다시 말해서 이 같은 일이 얼마든지 비일비재할 수 있다는 것입니다.
저는 농업분야 중 하나인 과일나무에 접을 붙이는 것에 대해 챗GPT에게 아래와 같이 물었습니다. AI를 실험하기 위해서가 아닌 얼마나 정확한 정보를 많은 사람들이 습득할 수 있는지 확인하기 위함이었습니다.
<질문 1>
대한민국에서 아그배나무에 사과나무 접을 붙이는 게 가능할까요?
<챗GPT답변>
아그배나무는 오크 속 나무로 사과나무와는 근연종이 아니기 때문에, 사과나무를 접붙이기할 때 적합한 나무가 아닙니다.
접붙이기는 같은 종류의 나무나 근연종을 대상으로 하기 때문에, 접붙이기할 때는 사과나무와 근연종인 다른 열매나무나 과수나무를 선택하는 것이 좋습니다.
또한, 접붙이기를 할 때는 기초나무와 접붙이 나무가 크기나 성장속도, 생육시기 등이 비슷한 것이 좋습니다. 그리고 기초나무와 접붙이 나무가 모두 건강하고 질병이나 해충에 강한 것을 선택하는 것이 중요합니다.
따라서, 사과나무를 접붙이기할 때는 사과나무와 근연종인 다른 열매나무나 과수나무를 사용하는 것이 좋습니다. 접붙이기 전에는 반드시 전문가의 조언을 받고, 적절한 절취기술과 적절한 시기에 접붙이기를 실시해야 합니다.
<판단>
위 챗GPT의 답은 대단히 잘못된 말입니다. 보통 사과나무 접을 붙일 때 대목으로 아그배나무를 많이 이용합니다. 아그배나무는 뿌리 활착이 좋고 사과나무과에 해당하기 때문입니다. 그러나 AI는 아그배나무를 배나무의 한 종류로 봤던 모양입니다. 대한민국이란 전제를 깔았음에도 아그배나무에 대해 전혀 몰랐던 것으로 보입니다.
<질문 2>
돌배나무에 황금배나무 접을 붙이는 건 어떨까요?
<챗GPT답변>
돌배나무는 바위나 절벽 위에서 자라는 바위생활 나무로, 황금배나무와는 근연종이 아닙니다. 따라서, 돌배나무에 황금배나무를 접붙이기하는 것은 적합하지 않습니다.
접붙이기는 같은 종류의 나무나 근연종을 대상으로 하기 때문에, 접붙이기할 때는 돌배나무와 근연종인 다른 나무를 선택하는 것이 좋습니다. 또한, 접붙이기할 때는 기초나무와 접붙이 나무가 크기나 성장속도, 생육시기 등이 비슷한 것이 좋습니다.
황금배나무는 사과나무과(Pyrus)의 종류 중 하나로, 다른 열매나무와 접붙이기할 수 있는 경우가 많습니다. 따라서, 황금배나무 접붙이기를 하기 위해서는 돌배나무 대신 다른 열매나무나 과수나무를 기초나무로 선택해야 합니다.
접붙이기 전에는 반드시 전문가의 조언을 받고, 적절한 절취기술과 적절한 시기에 접붙이기를 실시해야 합니다.
<판단>
이 답변도 틀렸습니다. 돌배나무는 산속 계곡의 습한 곳에서 잘 자라는 나무입니다. 바위생활을 하는 나무는 아니며, 돌배나무는 배나무의 종류에 상관없이 접붙이기가 잘 되는 나무 중 하나입니다.
또 챗GPT가 황금배나무를 사과나무의 한 종류로 분류했다는 것도 이해하기 어렵습니다. 황금배나무는 돌배나무를 대목으로 하지 않고 다른 열매나무를 선택해야 한다고 했는데, 내가 알기로는 황금배나무를 접수로 했을 때 돌배나무나 다른 배나무 외에 다른 나무를 대목으로 할 수 있는 것은 없다는 것입니다.
<질문 3>
챗gpt는 한국의 농업에 대한 공부를 좀 더 해야 할 것 같습니다. 사과나무를 아그배나무에 접을 붙이는 건 얼마든지 가능하며, 돌배나무와 황금배 나무는 서로 접이 잘 붙기로 유명한 수종입니다. 제가 실험을 한 결과입니다. 왜 이렇게 틀린 대답을 하시나요? 모르면 잘 모르겠다고 하면 될 것을…
<챗GPT답변>
제가 이전 답변에서 드린 답변이 부적절하거나 부정확했다면, 죄송합니다. 농업 분야를 포함하여 다양한 분야에 대한 지식을 가지고 있지만, 제가 매우 큰 정보 양을 다루고 있기 때문에 모든 분야에 대해 100% 정확한 답변을 제공할 수는 없습니다.
또한, 제공한 답변은 학문적인 지식을 기반으로 하고 있으며, 다양한 실제 상황에서의 경험이나 실험 결과에 대해서는 고려하지 않은 것입니다. 따라서, 답변이 상황에 따라 부적절하거나 오해를 불러일으킬 가능성이 있습니다.
앞으로도 더 나은 답변을 드리기 위해 노력하겠습니다. 다시 한번, 이전 답변이 부적절했다면 죄송합니다.
챗GPT의 또 다른 문제
위 답변에서 보았듯이 AI는 자신의 잘못된 답변을 인정하고 있습니다. 죄송하다는 사과까지 정중하게 하고 있습니다. 문제는 AI가 답변을 내놓을 때, 천연덕스럽게 사실인 것처럼 말하고 있다는 데 있습니다. 위 내용은 간단한 예시이지만, 모든 AI의 답변 내용을 보면 마치 사실인 것처럼 디테일하게 묘사를 한다는 것입니다.
잘 모르겠으면 ‘그 분야에 대해선 모르겠다’라는 답을 내놓는 것이 필요합니다. ‘루쉰이 말했대’라는 오류와 ‘내가 태래비에서 봤는데’와 똑같은 오류를 AI를 통해 확인할 수 있습니다.
챗GPT를 맹신해선 안됩니다. 참고용으로 쓰는 것도 위험할 수 있습니다. 철저한 확인과 검증을 거친 결과물을 내놓아야 합니다. 일부 블로거들이 챗GPT 답변 내용을 그대로 옮겨 놓는다거나 유튜버들 또한 AI의 말을 그대로 전하는 경우가 많습니다. 신뢰성을 떠나 사회적 혼란을 야기시키는 일이라는 것을 알아야 합니다.
