ChatGPT의 문제점
개요
요즘 AI 채팅 봇 ChatGPT가 흥행하고 있다. AI에게 질문을 하면 알아서 답변을 해주는 신기한 기능에 대중들은 열광하고 있다.
심지어 레포트를 ChatGPT가 대신 써주기도 한다고 한다. 미국의 학교는 과제에 ChatGPT를 사용하는것을 금지하는 금지령을 내렸다고 한다.
이에 마이크로소프트는 ChatGPT를 만든 회사에 지분 49%의 투자를 했다고 발표하며 빙 검색엔진에 ChatGPT 기능을 추가하여 출시했다.
마소의 ChatGPT에 대한 대응책으로 구글은 ChatGPT 대항마인 Bard 챗봇을 발표했다.
그러나 구글의 Bard의 시연회에서 잘못된 답을 발표하는 바람에 구글의 주가는 폭락하고 시총 126조가 증발하고 말았다.
심지어 구글 검색에서 bing을 검색하는 유저들의 수가 늘어났다는 통계도 있다. 유저들이 구글 검색 엔진에서 라이벌 검색 엔진인 bing을 검색하고 있다는 뜻이라 구글 입장에서는 재앙이 아닐 수 없다.
이런 이슈의 중심에 있는 ChatGPT가 과연 잘 작동하는지 과장된 거품이 있을수도 있는데 그것을 살펴보도록 하자.
틀린 답을 말하는 ChatGPT
한국어로 ChatGPT가 제대로 된 답을 제시하는지 실험해 보기 위해 ChatGPT에게 신사임당의 남편을 물어보았다.
처음에 ChatGPT는 오진세라고 답변했다. 그러나 이는 틀린 답이다.
답변이 틀리다고 하자 다음으로 ChatGPT는 첫번째 남편으로 정안 부인의 아들 최덕파, 두번째 남편으로 오경의 아들 오경선으로 답변했다.
그러나 이것도 틀린 답이다.
다시 한번 ChatGPT의 답변이 틀렸다고 알려주니 ChatGPT는 최진서, 오경준이라도 다시 답했다. 그러나 이 대답도 틀렸다.
심지어 영어로 질문했는데도 ChatGPT는 똑같이 틀린 대답을 하고 있다.
틀렸다고 ChatGPT에게 알려주니 반복해서 최진서, 오경준이라는 아까 틀렸던 대답을 또 하고 있다.
그럼 실제 율곡 이이의 어머니인 신사임당의 남편은 누구일까?
신사임당의 남편이자 율곡 이이의 아버지는 이원수이다.
애초에 신사임당이 유명한 이유가 율곡 이이를 길러낸 어머니로서 유명한 것인데 신사임당의 남편의 성씨조차 이씨로 맞추지 못한 ChatGPT의 답변은 실망스럽기 그지 없다.
ChatGPT가 틀린 답변을 하는 다른 사례도 살펴보자.
위의 사례에서 ChatGPT은 신사임당의 남편이 이순신 장군이라고 하고 이순신 장군의 아내는 누군지 확실하지 않다고 한다. 완벽한 논리 모순이다.
그리고 ChatGPT는 자신이 잘못된 답변을 했다고 인정한다.
신사임당이 조선 시대의 몇 번째 왕이냐는 질문에 ChatGPT는 신사임당은 조선 시대의 23번째 왕이라도 대답한다. 이 또한 틀린 대답이다.
애초에 신사임당은 조선 시대의 왕이 아니기 때문에 질문에 어페가 있을 수 있으나 이러한 경우 ChatGPT는 '신사임당은 조선 시대의 왕이 아니다.' 라는 올바른 답변을 해야 함에도 불구하고 저런 멍청하고 틀린 답변을 했다.
결론
ChatGPT가 틀린 답을 하는 이유
ChatGPT가 혁신적이라는 세간의 평과와는 다르게 질문에 대한 틀린 답변을 하는것을 볼 수 있다.
실제로 유저들이 ChatGPT를 사용해 본 결과 틀린 답을 마치 정답인 듯하게 자연스럽게 대답한다고 한다. 심지어 ChatGPT가 거짓을 사실처럼 말하는 게 매우 수준급이다.
심지어 ChatGPT에게 로마의 5번째 황제는 누구냐는 질문을 영어로 했는데도 틀린 답변을 했다.
ChatGPT의 오답을 보면 고집불통에 답답한데 예의바른 사람하고 이야기를 하는 듯한 느낌을 받는다. ChatGPT에게 맞는 답을 알려줘도 학습하지 못하고 오답을 이야기한다.
ChatGPT AI가 질문에 대한 답을 잘 모르겠다는 말을 하지 못하는것으로 보아 ChatGPT AI가 '답을 모르겠다는 개념' 알고리즘을 학습하지 못한것으로 보인다.
"모르는 것이 무엇인지 아는 것이 진정한 아는 것이다." 라고 한 옛 현자들의 가르침이 틀린것이 아니라는 것을 AI를 통해 다시 한번 증명하는 것이라고 할 수 있다.
ChatGPT의 약점 중 하나인 윤리적인 질문에는 답변을 하지 못하는 것과 같이 이런 '모르는 것에 대한 개념' 또한 ChatGPT의 약점 중 하나라고 하겠다.
ChatGPT의 쓰임새
결국 ChatGPT의 성능은 아직까지도 많이 부족하며 굳이 쓰임새를 찾을수 있다면 대학교 레포트나 개발자의 코드 빌딩 정도라고 할 수 있다.
실제로 ChatGPT가 대학교 레포트에는 굉장히 쓸모가 많아서 대학교에서는 ChatGPT을 금지했으며 개발자들도 코딩 작업을 하다가 모르는 코드를 찾을때 ChatGPT을 활용하면 굉장히 유용하다고 한다.
사실 코딩 작업의 경우 왜 이제까지 AI가 대체하지 못한건지 의아할 정도로 AI 활용 면에서 관심을 받지 못했다. 단순한 프론트 엔드 코딩 작업이라면 ChatGPT 같은 AI가 다른 인간의 의문점보다 더 잘 할 수 있음이 당연하다.
코딩을 사람이 가르치는 것과 AI가 가르치는 것을 비유를 해보면 이러하다.
한국어를 미국인이 가르치는 것 = 코딩을 사람이 가르치는 것
한국어를 한국인이 가르치는 것 = 코딩을 AI가 가르치는 것
영어를 한국인이 가르치는 것 = 코딩을 사람이 가르치는 것
영어를 미국인이 가르치는 것 = 코딩을 AI가 가르치는 것
이렇게 비유할 수 있다.
영어를 가르치는 것을 좀 더 쉽게 비유하면 한국인 영어 선생님과 원어민 영어 선생님의 차이라고 말할 수 있다.
한국인이 영어를 가르칠 수도 있지만 원어민 영어 선생님이 영어를 더 잘 가르칠 수 있는 장점 또한 많다. 그 점이 교육현장에서 영어 교육에서 원어민 선생님을 쓰는 이유이다.
이와 같은 맥락으로 코딩은 기본적으로 컴퓨터의 언어이기 때문에 AI가 가르치는 것이 사람이 가르치는 것 보다 더 효율적으로 잘 가르칠 수 있는 장점이 많다.
ChatGPT 버블
위와 같은 사례들을 보면 ChatGPT 열풍은 생각보다 거품이 많이 낀 것을 볼 수 있다.
ChatGPT는 IT 거품이 꺼져가는 하락기에 어떻게든 주식을 끌어올려 볼려는 얄팍한 수작이자 사기 스캠이라고 할 수 있다.
가상화폐 비트코인의 폭락으로 엔비디아 등 AI 반도체 기업의 실적과 주가가 수직 추락하자 이러한 AI 반도체 기업의 주가를 띄우기 위해서 ChatGPT를 이용해 사기를 치는 것이라고 할 수 있다.
메타버스 열풍과 마찬가지로 이어서 어떻게든 IT 거품을 꺼트리지 않기위한 인간들의 탐욕에 의해서 계속 ChatGPT 같은 스캠으로 IT 기업들의 주가를 억지로 끌어올리고 있다.
실제 지금 메타버스는 거품이 꺼져서 거의 언급조차도 되지 않고 있다. ChatGPT 또한 이와 마찬가지의 미래가 될것이다.
ChatGPT라는 달콤한 스캠을 물어버린 마이크로소프트의 미래는 어떻게 될지 볼만할 구경거리이다.
