[이종호의 포스트 펜데믹 로드맵-65] 킬-스위치
[이종호의 포스트 펜데믹 로드맵-65] 킬-스위치
  • 이종호 한국과학기술인협회장
  • 승인 2022.12.31 07:48
  • 댓글 0
이 기사를 공유합니다

‘터미네이터’의 경우 로봇의 반란에 인간이 똘똘 뭉쳐 위기를 넘기지만 그 과정에서 수십억 명의 인간이 희생된다. 더구나 모든 일이 영화처럼 해피엔딩으로 끝나는 것은 아니므로 로봇을 선한 문명의 이기로만 볼 것이 아니라 악한 도구로도 생각해야 한다는 지적이 결코 과장만은 아님을 이해했을 것이다.

그러나 수많은 과학자들의 우려에도 불구하고 대부분의 학자들은 단호하다. 영화 ‘터미네이터’와 같은 상황은 절대 일어나지 않는다는 것이다. 로봇이 인간에게 대항하는 치명적인 상황 즉 ‘로봇의 반란’은 절대로 일어날 수 없다고 단언하는 데 이유는 로봇에게 치명적인 약점이 있기 때문이다.

로봇도 인간과 마찬가지로 움직이는데 필요한 동력을 공급해야 한다. 그런데 로봇은 생명체와 같이 음식만 먹고 이를 분해하여 자신이 유용하게 쓸 수 있는 에너지로 변환시키는 것이 불가능하다는 점이다. 로봇이 유기물을 분해하여 에너지를 얻을 수 있는 장치도 개발 중이라는 발표도 있지만 이것은 엄밀한 의미에서 인간이 음식을 섭취하여 에너지를 얻는 것과는 다른 의미다.

이를 다시 설명하면 기계로 만들어진 로봇은 배터리가 없으면 동작할 수 없다는 것으로 설명할 수 있다. 그러므로 만약 로봇이 반란을 일으킨다면 ‘매트릭스’와 마찬가지로 전원 공급을 차단해버리면 된다는 것이다. ‘로보캅’에서도 로봇이 오작동을 일으키자 전원을 차단하라고 말한다.

물론 이 설명에 반대하는 사람들도 있다. SF영화에 따라 로봇이 인간이 에너지 즉 전원을 차단할 수 없도록 사전에 봉쇄하는 장면이 나온다. 로봇이 인간에게 반란을 일으킬 정도의 지능을 갖고 있다면 자신에게 치명상이 될 문제점을 사전에 제거하고 대안을 만들 수 있다는 주장이다.

현재도 각국에서 전쟁을 명분으로 인간을 살상하는 무기를 개발하는 것은 사실이다. 미국을 비롯해 선진국에서 무인 정찰기를 사용하는 것은 잘 알려진 사실이다. 이런 비행기는 대부분 원격 조종을 통해 비행한다. 그런데 이들이 무선 네트워크로 연결되어 있으므로 외부에서 악의적으로 프로그램을 조작한다면 사전에 프로그램되어 발사된 핵폭탄이 오작동을 일으켜 예상된 목표물로 향하지 않게 만들 수 있다. SF 영화에서 가장 요긴하게 사용하는 주제이다.

바로 이러한 잠재력이 미래의 인간에게 두려움을 주지만 학자들은 단언하여 이야기한다. 미래의 로봇이 인간에게 결정적인 해가 된다고 단언하여 생각하는 것도 기우라는 것이다.

그동안의 연구에 따르면 기계는 기계이므로 즉 인공지능로봇이라 할지라도 로봇이 인간을 정확히 모방하는 것이 불가능하다고 설명된다. 실상이 그렇다면 어떤 연유로 인공지능 로봇을 걱정해야 하냐고 반문한다.

기계 즉 로봇은 인간에게 헌신하는 목표로 제작되었으므로 비록 미래에 로봇이 인간보다 더 지능적으로 진화한다하더라도 커다란 문제점이 없을 것이라는 생각은 아직도 많은 사람들의 생각이다.

이 문제에 관한 한 학자들의 설명은 명쾌하다. 인간은 기억의 어떤 부분이 잊힐 때 그와 관련된 모든 것이 함께 잊히지 않는다고 설명한다. 그런데 인공지능 로봇에서 이런 일은 절대 발생하지 않는다는 점을 강조한다.

사실 기계는 인간과 달리 한계가 없다. 기계는 계속해서 새로운 정보를 축적하면서 한 시대의 기계에서 다음 시대의 기계로 많은 정보를 전달해 줄 수 있다.

더불어 기계는 인간들을 구속하는 생물학적 구속에서도 자유롭다는 점이다. 로봇은 인간이 생존하기 위한 환경 즉 공기와 온도의 미묘한 균형에도 의존하지 않는다. 또 인간이 가지고 있는 수많은 정신적인 한계로부터도 고통을 받지 않는다.

한마디로 로봇은 무한정의 지능으로 발전하는데 제한이 없다. 이 말을 적나라하게 표현한다면 로봇이 인간과 동등하거나 모방하는 것이 불가능하더라도 인간보다 좋은 지능을 가질 수 있다는 뜻도 된다.

중요한 것은 기계가 인간을 앞서는 상황이 되면 그동안 기계가 인간에게 헌신하는 상태로 있으리라고 상상할 수 없다는 지적이다. 이는 전쟁의 승패에서 승자가 독식하는 상황이 거의 기본인 것을 생각하면 충분히 이해되는 내용이다.

이 말이 갖고 있는 의미는 다소 철학적이다. 인공지능 로봇이 생물학적 인간과 100% 동등해 질 가능성이 없으므로 오히려 로봇이 언제까지 인간에게 복종할 것이라는 결론은 미지수라는 점이다. 이 문제에 대해 캐빈 워웍 박사는 명쾌하게 설명한다. 인공지능 로봇이 인간보다 명백한 이점을 가지고 있으므로 기계가 인간보다 우월한 위치에 서게 될 수도 있다는 것이다.

그런데도 많은 로봇학자는 인간의 도덕성과 실용화에 대한 열망이 인간에게 해가 되는 방향으로 진전되지 않는다고 단언하여 주장한다. 이는 지능적인 로봇을 만드는데 인간의 참여가 절대적으로 필요하기 때문이다.

이 말은 로봇 개발에 있어 결정적인 약점으로 제시되는데 한마디로 과학이 인간의 두뇌를 복제할 수 있을 정도로 발달하더라도 똑똑한 로봇이 인간에게 반란을 일으키거나 거짓말을 할 수 없도록 하는 것은 생각보다 쉽다는 것이다. 한마디로 인공지능 로봇이 엄청난 정보를 축적할 수는 있지만, 프로그램으로 입력되지 않은 자의식이란 존재할 수 없기 때문이다. 이는 로봇의 행동은 모두 예측할 수 있으므로 이에 대한 대안은 인간에게 있다는 뜻이다.

로봇이 인공지능을 가졌든 아니든 인간보다 어느 일정 분야에서 월등히 우월한 분야를 점유할 것은 자명한 일이다. 그러나 과연 미친 과학자나 독재자가 탄생하여 언젠가 터미네이터나 사기꾼 로봇이 몰려올 것인지 아닌지를 예단하는 것은 간단한 일이 아니지만 적어도 인간에게 마지막 카드가 있다는 것은 상쾌한 일이다. 특히 한국에서 개발하는 로봇이 세계를 석권하더라도 우려할 일은 아니다.

그래도 아서 클라크는 날카로운 조언을 내놓았다. ‘컴퓨터에 새로운 능력을 자꾸 부여하다 보면 언젠가 인간은 컴퓨터의 애완동물로 전락할 수도 있다. 그저 우리가 원할 때 컴퓨터의 플러그를 뽑는 능력만은 항상 보유하기를 바랄 뿐이다.’

이 문제를 보다 확대하면 많은 사람이 미래의 로봇에 우려감을 표시하는 것은 충분히 이해되는 일이다. 아무리 안전하게 로봇을 만들더라도 단 하나의 실수가 인류의 멸망으로까지 이어질 수 있다고 생각하기 때문이다. ‘터미네이터’에서 보면 로봇의 반란에 인간이 똘똘 뭉쳐 위기를 넘기기는 하지만 그 과정에서 수십 억 명의 인간이 희생된다. 더구나 모든 일이 영화처럼 해피엔딩으로 끝나는 것은 아니므로 로봇을 선한 문명의 이기로만 볼 것이 아니라 악한 도구로도 생각해야 한다는 지적이 절대 우려할 사항만은 아님을 이해했을 것이다.

한국과학기술연구원(KIST)의 김문상 박사는 더 명쾌하게 다음과 같이 적었다. ‘로봇은 언제든 인간이 플러그를 뽑을 수 있는 대상이 되어야지 반대로 로봇이 인간의 플러그를 뽑게 해서는 안 됩니다. 인간이 창조한 로봇이 거꾸로 인간을 지배하게 되는 일이 일어나서는 안 된다는 뜻이죠. 이는 생명공학 분야에서의 복제 기술이 악용될지 모른다는 염려의 목소리와 일맥상통합니다.’

김문상 박사는 로봇이 인간에게 서비스를 제공해주는 존재여야지, 인간을 대체하는 존재가 되어서는 안 되며 로봇은 인간의 충직한 부하로서 임무를 가져야 한다고 주장했다.

인간과 로봇의 관계를 설정하는 최후의 관건은 인간이 만드는 알고리즘에 기초하므로 로봇의 프로그램에 문제가 생길 때 이를 수정 보완할 수 있도록 만들면 된다는 것이다. 아무리 축적된 정보를 많이 갖는 로봇이라고 하더라도 인간에 대해 반기를 들 수 없는 알고리즘을 인간들이 만들 수 있는 한 로봇은 기계의 프로그램에 지나지 않는다는 설명이다.

그런데도 SF영화에서 자주 나오는 장면 즉 실수나 우연에 의해 이상이 생기기 마련이다. 학자들은 이런 상황에 대해 매우 말끔하게 설명한다. 로봇의 전원(電源) 즉 비상시 인공지능을 정지시키는 ‘킬(kill) 스위치’를 설치하면 된다는 주장이다.

인간의 문명을 지탱하는 기술 개발이 기본적으로 인간의 삶을 증진하는 방향으로 나가고 있지만 이에 반하는 사례도 수없이 등장할 수 있는 것은 사실이다. 그만큼 인간 생활이 단순하게 움직이지 않는다는 뜻이지만 여하튼 인공지능 로봇에 문제가 있다면 이를 극복하는 임무도 인간에게 주어졌음은 물론이다.

필자소개
고려대학교·대학원 졸업, 프랑스 페르피냥대학에서 공학박사 학위 및 과학국가박사 학위
한국과학기술연구원(KIST), 한국에너지기술연구원에서 연구 활동
저서: 「침대에서 읽는 과학」, 「4차 산업혁명과 미래 직업」, 「로봇은 인간을 지배할 수 있을까?」, 「유네스코 선정 한국의 세계문화유산」, 「유적으로 보는 우리 역사」 등 100여권



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • 서울특별시 송파구 올림픽로35가길 11(한신잠실코아오피스텔) 1214호
  • 대표전화 : 070-7803-5353 / 02-6160-5353
  • 팩스 : 070-4009-2903
  • 명칭 : 월드코리안신문(주)
  • 제호 : 월드코리안뉴스
  • 등록번호 : 서울특별시 다 10036
  • 등록일 : 2010-06-30
  • 발행일 : 2010-06-30
  • 발행·편집인 : 이종환
  • 청소년보호책임자 : 이석호
  • 파인데일리 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2024 월드코리안뉴스. All rights reserved. mail to wk@worldkorean.net
ND소프트