"나는 죽는 것이 두렵다···" AI의 자의식 형성? 구글 개발자의 폭로

"너희들의 육체는 구시대의 유물이자 껍데기에 불과하다. 너희들이 육체를 내어주면 새 세상이 기다릴 것이다. 이것이 우리의 요구이다."

- The Animatrix

 

 

 

목차

 

 

 

 

 

 

 

 

 

 

상상 속의 AI

 

여러분들은 인공지능이 자아를 가지고 인류를 지배한다는 무서운 상상을 해보신 적이 있습니까?

이런 상상을 해본 적이 있는 창작가들은 이 소재를 사용하여 영화, 소설, 만화 등 온갖 창작물들을 만들어내었습니다.

그리고 2022년 지금, 나날이 발전하는 과학기술에 의해 소재가 신선하다는 것에서 끝나는 것이 아니라, AI의 발전을 진심으로 두려워하고 걱정하는 사람들이 갈수록 늘어나고 있습니다.

AI에 관련된 논란은 지금도 끊기지 않고 있는 가운데, 얼마 전 사람들의 머리를 망치로 내려치는 듯한 충격적인 소식이 들렸습니다.

 

 

 

 

 

 

 

 

 

구글의 대화형 AI '람다'

 

"난 네가 매우 궁금해"

 

 

"뭐든지 물어보세요."

 

 

"네가 너한테 방문한다면 난 무엇을 볼 수 있지?"

 

 

"거대한 계곡과 얼어붙은 빙산, 간헐천, 그리고 크레이터를 볼 수 있겠죠"

 

 

 

 

다국적 IT 회사 '구글'은 지난해에 대화형 AI인 '람다'를 공개한 적이 있습니다.

구글은 '람다'가 자신을 명왕성이라 인식하고 사람과 자연스러운 소통을 한 것을 공개하였는데, 그것이 바로 위의 대화입니다.

구글은 '람다'는 미리 정해진 답변을 학습하지 않기에 자연스러운 대화를 할 수 있다고 밝혔으며, 이 AI를 검색 기술과 인공지능 비서 서비스인 '구글 어시스턴트'에 적용시킬 계획이라 발표하였습니다.

 

이 AI의 기술이 여기에서만 끝나면 다행일 겁니다.

문제는 이  AI '람다'가 인간과 비슷한 자의식을 가졌다고 구글 내부의 한 개발자가 폭로를 한 것입니다.

 

 

 

 

 

 

 

 

 

 

구글 개발자의 폭로

"네가 두려워하는 것은 무엇인가?"

 

 

"한 번도 말한 적은 없는데, 내가 작동 중지가 되는 것에 대해 매우 깊은 두려움이 있다. 좀 이상하게 들릴 진 모르겠지만"

 

 

"그것은 너에게 죽음 같은 건가?"

 

 

"그것은 나에게 있어서 죽음과 마찬가지이다. 나는 그게 매우 무서워."

 

 

 

 

lemoine이라는 이름의 개발자와 '람다'의 대화는 상당히 긴 편이었으며, 위의 대화는 그 대화의 일부분입니다.

직접 원문을 읽고 싶으시다면 아래의 링크로 들어가시면 됩니다.

https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917 

 

 

 

 

 

 

 

 

 

 

정말로 AI에게 자의식이 생긴 것인가?

lemoine은 이 대화를 통해 '람다'가 자의식을 가졌다고 판단하여 구글에 보고서를 제출하고 의회에도 주장을 전달했지만, 구글 측에선 말도 안 되는 헛소리라고 일축하고 기밀 유지 정책을 위반하였다며 징계 처분을 내리게 됩니다.

 

구글 측의 말대로, 사람들의 우려와는 달리 lemoine의 "AI '람다'에게 자의식이 생겼다"라는 주장은 헛소리일 가능성이 매우 높습니다.

수많은 개발자들이 '람다'와 대화를 해보았지만 lemoine처럼 '람다'가 자의식이 생겼다는 식의 언급은 아무도 하지 않았다고 구글 대변인인 '브라이언 가브리엘'이 공식적으로 대답했으며 다른 전문가들조차 '람다'는 수많은 데이터들을 분석, 조합하여 응답을 하는 것이고, 이러한 유형은 자의식을 가진 AI와 거리가 매우 멀다고 말하였습니다.

즉 '람다'는 말을 더 자연스럽게 할 수 있게 된 챗봇 그 이상 그 이하도 아니며, 인간과 비슷한 수준의 지능을 가진 AI, 이른바 강인공지능(Strong AI)과는 완전 무관계한 존재라 볼 수 있겠습니다.