고도로 발달한 ai는 인간과 구별할 수 없다

(소설 도입부에 걸맞은 음악 두둥~)

나 김아무개는 무려 대한민국 1등 커뮤니티의 1등게시판 ‘떙떙 게시판‘의 관리자다.

떙떙게시판이 뭐냐고?

’떙떙‘게시판은 소신발언하는 사람들이 모인 곳으로, 쉽게말해 ’말로 전쟁하는’ 게시판이다.

약간의 특이점이 있다면 서로 논쟁하다가 설득이 되면 ’델타 포인트‘를 줄 수 있는데(쉽게 말해 추천) 이 델타포인트는 기록이 되고 조회가 되서 누가, 얼만큼의 델타 포인트를 가지고 있는지 확인할 수 있다.

즉, 누가 더 소신발언을 잘 하는지 알 수 있단 거다.

이 개쩌는 시스템을 만든게 바로 나, 김아무개다.

당연히 ai는 금지다. 인간끼리 논쟁하는 곳에 기계가 어딜 감히.

..

5년 뒤

“따르릉”

’예 김아무개입니다‘

“예 안녕하세여~ 여기는 취리히 대학교 인데예~’

‘음? 아.. 예? 왜..요?‘

”님이 운영하고 있는 떙떙 게시판 있잖아여, 거기 참 맛집이더라고예“

’..? 예?‘

”아따 우리 ai연구진이 ’ai는 인간을 설득할 수 있을까‘라는 주제로 어떻게 실험을 해야 하나 고민하던 참에 떙떙 게시판을 발견해버렸지 뭐야~“

’..?‘

“그래서 우리가 특별히 만든 ai들로 떙떙게시판 유저들이랑 논쟁을 하게 했어예~ 성능 쥑이더라고. 우리 ai들이 말이야 4개월만에 최다 델타포인트 받았대? 김아무개님이 만든 그 개쩌는 시스템이 우리ai를 설득왕으로 인정 해줬다고~”

’저희 게시판은 ai금지..‘

“아 우리가 얘기해주기 전까지 몰랐잖여! 우리가 만든 ai는 사실상 사람이다~ 이말이여! 여튼 덕분에 데이터도 많이 쌓았고, 인간의 습성에 대해서도 연구 아주 잘했어예~”

‘아니 저기..’

”4개월동안 필요한거 다 했으니깐 우리는 떠난다예~ 거 수고하고 좋은 하루 되쇼~“

뚝..

(이해를 돕기 위해 각색을 좀 했습니다)

지지난주에 레딧에서 일어났던 일이다.

Changemyview라는 소신발언 하는 게시판으로 여러 사안에 대해 다양한 의견을 내놓고, 논쟁을 하다 내가 설득이 되었다 싶으면 상대방에게 델타포인트를 주는 그런 게시판이다.

매일매일 사람들끼리 논쟁하며 평범한 나날을 보내고 있다고 생각했는데 ai가 들어온지도, ai랑 대화하고 있는 지도 몰랐단 거다.

취리히 대학이 말을 해서 망정이지 말 안했으면 몰랐을 일이다 (논문 발표하게 되면 어차피 알게 될테니깐 말을 해야만 했을 수도). 이정도로 ai가 정교해졌다.

단순히 인간처럼 대화를 했다는 점에서 끝나지 않는다.

취리히 연구진이 밝힌바로는 인간보다도 훨씬 많은 델타 포인트, 즉 사람을 상대로 ai가 더 우수한 설득력을 갖췄다는 것도 밝혀졌다.

ai의 델타포인트 획득률(설득 성공률)은 18%, 인간 평균 3%. 엄청난 차이다.

대체 어떻게 이게 가능했을까?

사람처럼 대화하는 것을 넘어 어떻게 더 높은 설득력까지 갖출 수 있었을까?

..

다음 이 시간에..

이거 내용 너무 길어서 다 읽고 이해하고 번역하기 너무 힘듦어서 기약은 없음..ㅋㅋ

영어가 되고 전체적인 내용을 알고 싶다면

https://www.science.org/content/article/unethical-ai-research-reddit-under-fire