"첫째, 로봇은 인간에게 해를 입히거나 인간이 다치는 것을 방조해서는 안 된다. 둘째, 로봇은 첫째 원칙에 어긋나지 않는 범위에서 인간의 명령에 복종한다. 셋째, 로봇은 위의 두 원칙과 상충하지 않는 한 스스로를 최대한 보호한다."

공상과학(SF) 소설의 대가 아이작 아시모프가 고안한 이 '로봇 3원칙'은 이후 다양한 창작물에서 소개됐다.

스마트폰이나 내비게이션이 등장하기도 전인 1960~1970년대의 SF물에서도 인간의 지적 능력을 한참 뛰어넘은 인공지능(AI)과 로봇이 등장한다.

이런 로봇 기술은 실제로 얼마나 구현될 수 있을까. 1976년 발표된 동명 소설을 원작으로 한 영화 '바이센테니얼 맨(1999)'의 주인공 앤드루는 책을 읽거나 인간과 대화하면서 스스로 학습하고, 자신의 능력을 개발한다. 일종의 '머신 러닝'이다. 구글의 알파고는 머신 러닝의 일종인 딥 러닝을 통해 바둑 두는 법을 훈련했다. 그렇다면 픽션에 묘사된 것처럼 미래의 인공지능은 감정을 배우고 인간에게 사랑을 느낄 수 있을까. 반대로 인공지능이 인간을 열등한 존재로 여기거나 적으로 간주해 공격할 가능성은 얼마나 될까.

AI 비서는 부분적으로 등장… 통합적 능력은 부족

영화 스타워즈 시리즈에 등장하는 인간형 로봇 C-3PO는 농담을 이해할 정도로 자연스럽게 인간과 대화를 나누고, 상황을 자체적으로 판단해 움직인다. 픽션에 등장하는 비서형 인공지능은 현실에도 부분적으로 나타났다. 애플의 지능형 소프트웨어인 시리(Siri)도 음성 명령을 인식해 알람을 맞추거나 전화를 거는 등 스마트폰에 탑재된 기능을 작동해주고, '외롭다'고 말하면 '나도 마음이 아프다'며 사용자의 감정에 동조하는 대답을 한다.

페이스북을 창업한 마크 저커버그는 "영화 '아이언맨'에서 주인공을 보조하는 자비스 같은 비서형 인공지능을 개발하는 것"이 올해 목표라고 밝혔다. 자비스는 전화를 걸거나 지도를 검색하는 사소한 작업을 해주는 것은 물론 자체적으로 판단을 내려 스스로의 기능을 활성화할 정도로 통합적인 인공지능이다. 아이언맨의 말에 딴죽을 걸거나, 구체적 명령을 내리기 전에 한발 먼저 아이디어를 내놓을 정도다. 인공지능 전문가들은 저커버그가 언급한 기능은 현재 부분적으로 상용화된 음성·얼굴·동작 인식 같은 시각적 기능과 음성 제어 같은 사물인터넷 기술을 결합한 것이고, 영화에 등장하는 것처럼 통합적으로 기능을 수행하는 최첨단 인공지능은 아니라고 평했다.

인간과 사랑에 빠지는 AI는 불가능

영국 SF 소설가인 브라이언 올디스 원작의 영화 'A.I.'(2001)에 등장하는 소년 로봇 데이비드는 사랑을 받고 싶어 하고, 또래인 인간을 질투하거나 무서워한다.

컴퓨터공학 전문가들은 "인간 같은 감정을 가진 인공지능을 만들기는 거의 불가능하다"고 입을 모았다. 인간의 지능이나 감정이 정확히 어떻게 발현되는지 밝혀지지 않았기 때문에 인간 같은 감정을 가진 로봇도 개발할 수 없다는 것. 하지만 감정을 '인식하거나 표현하는' 로봇은 제작할 수 있다고 답했다. 인공지능이 실제로 감정을 느끼는 것은 아니지만, 감정을 가진 것처럼 겉으로 표현할 수 있다는 뜻이다.

대표적 연구 분야가 감성 컴퓨팅(affective computing)이다. 표정이나 행동을 토대로 인간의 감정 상태를 인지하고 분석해, 적절하게 대처하는 시스템을 설계하는 게 목적이다. 조성배 연세대 컴퓨터과학과 교수는 "인공지능은 지능이 있는 것처럼 보이게 시스템을 만들고, (컴퓨터공학은) 그런 시스템을 개발하기 위한 기술을 연구하는 것"이라며 "비슷한 원리로, 인간이 어떤 감정을 느낄 때 어떤 행동을 하는지에 대한 데이터를 입력해 그에 맞는 반응을 보이도록 시스템을 만들 수는 있다"고 말했다.

인간 지배하는 AI? 현 기술 수준으로 판단 어려워

아서 C. 클라크의 소설에서 영감을 받아 제작된 영화 '2001 스페이스 오디세이'(1968)에 등장하는 인공지능 '할(HAL 9000)'은 자신의 생존을 위해 인간을 공격한다. 영화 터미네이터 시리즈의 수퍼컴퓨터 스카이넷도 마찬가지다. 1999년 첫 편이 개봉된 영화 매트릭스 시리즈의 인공지능은 인간을 에너지원으로 삼고, 영화 '아이, 로봇'(2004)의 인공지능 비키는 인간들이 지구를 파괴해 멸종하는 사태를 막겠다며 인간들을 감금한다.

컴퓨터공학 전문가들은 이 역시 지나친 상상의 결과라고 평가했다. 인공지능은 인간처럼 이데올로기 차이로 적을 판단하거나, 공격 의사를 갖기 어렵다는 것이다. 극도로 자동화된 인공지능이 탑재된 의사 결정 기준에 따라 '인간은 없애야 할 대상'이란 결론을 내릴 가능성은 있지만, 실제로 인공지능이 공격에 나설지는 알 수 없다.

이지수 한국과학기술정보연구원(KISTI) 책임 연구원은 "무기 시스템이 스스로 목표를 설정하고 공격 명령까지 내리는 '자율 무기(automated weapon)' 개념을 구현할 기술이 개발될지도 지금으로서는 예단하기 어렵다"며 "현재 기술 수준에서는 인공지능이 어떤 대상을, 어떤 상황에서, 어떻게 공격할 것인지도 자체적으로 판단하게 만들지 못한다"고 말했다.