전체게시글

국정원이 딥시크에 동북공정, 김치, 단오절 질문 후 들은 답

유머 기타

푸르로닝

02.10

출처 : https://www.donga.com/news/amp/all/20250209/130996118/1

색마전무

02.10

이게 선택적, 기만적, 편향적인거라고 볼 수도 있지만, 어찌보면 학습형ai의 특성과 중국의 정보 폐쇄성을 생각하면 자연스러운 일 같기도하네요.

당연히 중국어 자료로는 중국의 입맛에 맞는 자료들이 많을것이니... 언어별 질문을 같은 뜻으로 이해한 뒤 언어별로 선별해서 각각 다른 답변을 내놓는게 아니고, 각 언어로 한 질문들을 개별적인 질문으로 받아들이고 개별적으로 상응하는 데이터에 기반해서 도출된게 아닐까하는 생각도 드네요.

물론 그렇다 하더라도 타국의 일반적인 견해에 비해 중국어 자료가 편향적이거나 비일반적인 견해가 다수를 이루고 있다는건, 중국의 자료들 자체가 폐쇄적이고 편향적이란걸 반증한다는 것이지만요.

(딥시크가 편향적일 가능성이 없다는것은 아님ㅎ..)

색마전무

02.10

그리고 사고하지않고 단순 취합, 정리 할 뿐인 현재의 AI가 누군가에 의해 의도적, 적극적으로 오염된 정보에 얼마나 취약할지도 알 수 있는 대목이네요.

애초에 지금 단계에서 AI한테 사실이 아닌 견해를 묻는 것 자체가 위험한듯...

무플방지위원회수석연구원

02.10

선택적 답변 하네, 이 샛기...ㅂㄷㅂㄷ

회원님

02.10

결국 ai라는건 알고리즘으로 이용자 맞춤식, 원하는 정보(참,거짓 유무는 별개)를 제공할 뿐이라..정보의 편향성을 더 가중시키겠네요,,내 무습다,,,

개구린개구리

02.10

특히나 생성형ai는 문장의 일반 회귀성을 학습하기 때문에 표현이 이상하지만 자연스러운 결과임. 물론 중국쪽이니 더 신경안썻을 가능성이 아주 높지만 대다수 글로벌 기업의 공개된 ai는 편향되거나 오염된 문장을 제거하는 방향성으로 가고 있는데 또한 당연하게도 이러한 필터링 과정조차 비용이니 딥시크가 그렇게 좋은방향은 아니란것