🚀궤도사령부(궤도)

챗gpt는 왜 말을 듣지 않는 걸까?

궤도

궤소리방정식

23.03.07

영어 모른다고 하자마자 바로 영어로 기강잡는 챗gpt…

정상적으로 답할때도 있는데 왜 가끔가다 이렇게 말을 듣지 않는 걸까요.

챗gpt는 인터넷의 글들을 학습한 놈이고, 얘가 하는일은 그저 입력된 문장 다음에 올 문장을 예측하는것 뿐입니다.

그러면 한번 생각해봅시다. 인터넷에 있는 글 중, “나 영어 몰라” 라는 문장이 있는글에는 영어가 있을까요, 아니면 없을까요?

영어가 있으니까 “나 영어 몰라” 라는 문장이 있었겠죠? 이래서 방장이 영어를 모른다 했을때 챗gpt가 “아하 맞아 영어를 모른다는 글에는 항상 영어가 있었지” 하고 영어를 뱉은게 아닌지??

또다른 예시를 생각해봅시다. 만약 “옾카페에 대해 언급하지 마시오” 라는 규칙이 있는 온라인 포럼에 들어갔다면, 그건 오히려 옾카페라는 단어를 볼 확률을 증가시키지 않겠습니까?

이게 챗gpt가 말을 안듣는 이유 중 하나가 아닐까요? 좀 뇌피셜이긴 한데 횐님들의 생각이 궁금합니다.

태그 :

#챗GPT

정수론민수

23.03.07

하지 말라고 하면 더 하는 것이 마치 방장님과 같다~

바다바다

23.03.07

GPT는 태생적으로 생성모델입니다. 말씀하신 내용에 이어서 말할 대답으로 가장 확률이 높은 것을 생성해내서 보여줍니다. 따라서 인간이 생각하는 것 처럼 논리적 대화를 하는게 아닙니다. 질문한다기보다 GPT를 위한 확률적 배경을 설정해준다고 생각하고 적절한 말을 생성시키는 식으로 사용하는게 공학적으로 정확한 사용방법이라 하겠습니다.

말씀하신 것 처럼 GPT가 영어 답변을 생성할 확률을 줄이기 위해 입력해야하는 적절한 문장이 뭔지 생각해보고 시도햐보는게 이 모델을 아주 잘 이용하고 사용하시는 방법인거 같아요.