[이종호의 포스트 펜데믹 로드맵-55] 세계를 강타한 KAIST 보이콧
[이종호의 포스트 펜데믹 로드맵-55] 세계를 강타한 KAIST 보이콧
  • 이종호 한국과학기술인협회장
  • 승인 2022.08.13 07:16
  • 댓글 0
이 기사를 공유합니다

2018년 4월, 전 세계 약 30개국의 인공지능 연구자들이 한국과학기술연(KAIST)의 총장에게 다음과 같은 공개서한을 보냈다. “우리는 KAIST를 방문하지도 않고 KAIST 연구원을 초청하지도 않으며 KAIST가 연관된 연구에 어떠한 기여도 하지 않겠다.”

그야말로 한국의 주요 연구대학 중 하나인 KAIST를 인공지능 연구 차원에서 보이콧 하겠다는 폭탄선언이나 마찬가지다. 이와 같은 보이콧 사태는 KAIST가 한화시스템과 함께 국방·인공지능융합연구센터를 개소한 데 따른 것이다. 이들의 주장은 매우 직접적이다.

“군사 무기에 적용될 수 있는 인공지능을 개발하여 자율무기를 개발하려는 세계적인 경쟁에 참여하려는 것과 다름없다. 우리는 KAIST의 우수한 연구진이 그러한 무기 개발의 군비 경쟁에 참여하는 것이 심각한 우려를 표명한다.”

이런 선언은 대체로 일부 학자들의 전문적인 퍼포먼스로 인식되기 마련인데 이들 공개서한은 세계 유수 언론인 <가디언, The Guardian> 지가 ‘킬러 로봇: AI 전문가들이 한국의 대학 연구실에 보이콧을 선언하다’라는 제목으로 기사화하면서 세계적인 주목을 받았는데 가디언은 기사에 영화 ‘터미네이터’의 살인병기 로봇의 사진을 함께 보냈다. 이어서 CNN-TV, 파이낸설타임스, 포천, 사이언스 매가진 등 세계적인 주요 언론사들이 유사한 내용을 주요 기사로 게재하여 그야말로 세계의 큰 이슈로 부각되었다.

이처럼 세계 인공지능학자들이 발끈한 것은 KAIST가 2018년 국방·인공지능융합연구센터를 개원하면서 한화시스템과 공동연구를 한다고 발표했기 때문이다. 신성철 총장이 연구센터가 국방기술 발전의 든든한 기반이 될 것이라고 말했는데 가디언 지는 KAIST가 공동 연구하는 한화는 한국 최대의 무기 제조업체 중 하나임을 강조했다. 더불어 한화는 국제 조약에 따라 120개국에서 금지된 집속탄을 제조하는데 한국은 미국, 러시아, 중국과 함께 협약 서명국이 아니라는 점도 부연했다.

KAIST의 발표에 대해 세계학자들이 발끈한 것은 인공지능을 활용하여 자율무기 시스템을 만들 때 윤리적인 문제가 기본적으로 발생하기 때문이다.

군사 용도의 무기에 한정한다면 컴퓨터 즉 인공지능의 비약적인 발달로 인공지능을 활용한 군사 로봇은 그야말로 전 세계적으로 가장 활황을 타고 있는 분야이다. 국방예산에서 나오는 엄청난 연구비 지원을 바탕으로 하여 인공지능을 이용한 군사 로봇은 한계가 없을 정도로 확장되고 있다.

사실 군사 분야는 첨단과학이 총동원되는 기술 분야로 볼 수 있는데 학자들은 군사 분야에 커다란 변혁이 2번에 걸쳐 일어났다고 설명한다. 제1차 군사혁명은 화학, 2차 군사혁명은 핵무기인데 근래 3차 군사혁명을 거론한다. 바로 치명적인 자율무기 시스템이다. 로봇공학자이자 로봇 윤리학자인 아킨 박사는 이렇게 말한다.

“흐름은 분명하다. 앞으로도 전쟁은 일어나고 자율적 로봇이 언젠가는 전쟁을 수행하는 데 큰 역할을 할 것이다.”

사실 KAIST에 대한 보이콧 사태는 군사 기술 분야에서 인공지능 기술이 더욱 활발하게 적용되고 이에 대한 사람들의 우려가 커지는 상황에서 돌출된 것이다. 이는 군사 분야에서 자율무기 체계가 일으킬 수 있는 윤리적인 문제가 중요 사안 중 하나라는 것을 의미한다.

KAIST에 대한 보이콧은 갑자기 일어난 것이 아니다. 보이콧을 주도한 월시(Toby Walsh) 교수는 2015년부터 자율적 군사 무기의 개발을 반대하는 운동을 주도했다. 2015년 7월에는 인간의 유의미한 통제를 벗어난 자율적 공격 무기의 개발과 사용을 반대하는 공개서한을 유엔에 제출했다.

이 당시 인공지능 및 로봇공학자 3,724명을 포함하여 총 20,486명이 서명했는데 여기에는 유명한 물리학자 스티븐 호킹 박사, 일론 머스크, 촘스키 등 저명한 과학자와 철학자들도 포함되어 있었다. 2017년에는 다시 공개서한을 유엔에 보냈는데 여기에는 28개국 137명의 최고 경영자들이 서명했다. 월시 교수는 자율적인 군사 로봇에 반대하는 운동단체로 볼 수 있다.

그런데 이런 운동은 월시 교수가 처음은 아니다. 이들보다 먼저 알트만 박사는 2009년 무인 로봇 무기의 개발과 사용을 우려하는 로봇 군대 통제를 위한 국제위원회를 발족시켰고 2012년에는 국제인권감시기구 등이 자율적인 무기 개발, 생산, 사용을 금지하도록 촉구하는 ‘살상용 로봇 반대캠페인’을 조직했다.

2014년에는 세계 87개국, 국제적십자연맹 등이 합류한 ‘치명적인 자율무기 시스템’에 대한 회의를 개최했는데 이에는 유엔의 재래식무기금지협의의 후원을 받았다. 이후에도 계속 이들은 지속해서 자율무기의 개발금지를 촉구하여 2017년에는 치명적인 자율무기 시스템을 규제하는 방안을 토의하는 각국 정부의 모임도 열렸다.

2018년 KAIST에 대한 보이콧은 바로 이런 맥락의 연장선이라 볼 수 있다. 한국 최대 군수업체 중 하나인 한화시스템과 KAIST 과학자들이 결합했다는 것이 특별히 세계적인 관심의 대상이 된 것은 한국이 미국, 중국, 러시아와 함께 대인지뢰 금지 협약(오타와 협약)과 접속탄 금지 협약에 서명하지 않는 몇 안 되는 나라이기 때문이다.

특히 한국은 접속탄 개발 투자 규모 세계 2위로 전 세계 생산량의 4분의 1을 한화시스템과 풍산이 담당하고 있는 것으로 알려진다. 이러한 점을 고려할 때 한화시스템과 KAIST의 연계만으로도 자율무기를 개발하려는 것으로 의심받기에 충분했다는 설명이다.

세계학자들을 포함하여 유력 언론사들이 한국의 유력대학이 ‘킬러 로봇’을 만드는 데 동참하고 있으며 이를 세계 인공지능 연구자들이 우려하고 있다는 보도에 신성철 KAIST 총장도 발 빠르게 대처했다. 국방·인공지능융합연구센터는 학술 기관으로서 인권과 윤리적 기준을 매우 중요하게 생각하며 인간의 의미 있는 통제가 모자란 자율무기 등 인간의 존엄성에 반하는 연구 활동을 하지 않는다고 강조했다. KAIST가 치명적인 자율무기 시스템과 킬러 로봇 개발에 관여할 의사가 없음을 재확인했다.

그러면서 신 총장은 국방·인공지능융합연구센터에서 AI 기반 명령 및 결정 시스템, 초대형 무인 잠수정을 위한 복합 항법 알고리즘, AI 기반 스마트 항공기 훈련 시스템, AI 기반 스마트 객체 추적 및 인식 기술 개발에 중점을 두겠다고 말했다.

여하튼 KAIST의 재빠른 발표 즉 인공지능으로 인한 치명적인 킬러 로봇이나 자율무기 시스템을 만들려는 의도가 전혀 없으며 인공지능 개발에 있어 윤리적인 문제를 충분히 고려하겠다고 발표하자 이를 세계과학자들이 받아들여 KAIST에 대한 보이콧을 철회하여 이 문제는 일단락되었다.

그동안의 연구에 따르면 기계는 기계이므로 즉 인공지능 로봇이라 할지라도 로봇이 인간을 정확히 모방하는 것이 불가능하다고 설명된다. 실상이 그렇다면 어떤 연유로 콩 튀듯 팥 튀듯 인공지능 로봇을 걱정해야 하느냐고 반문한다.

기계 즉 로봇은 인간에게 헌신하는 목표로 제작되었으므로 비록 미래에 로봇이 인간보다 더 지능적으로 진화한다고 하더라도 커다란 문제점이 없을 것이라는 생각은 아직도 많은 사람의 생각이다.

이 문제에 관한 한 학자들의 설명은 명쾌하다. 인간은 기억의 어떤 부분이 잊힐 때 그와 관련된 모든 것이 함께 잊힌다고 설명한다. 그런데 인공지능 로봇에서 이런 일은 절대 발생하지 않는다는 점을 강조한다.

사실 기계는 인간과 달리 한계가 없다. 기계는 계속해서 새로운 정보를 축적하면서 한 시대의 기계에서 다음 시대의 기계로 많은 정보를 전달해 줄 수 있다.

더불어 기계는 인간들을 구속하는 생물학적 구속에서도 자유롭다는 점이다. 로봇은 인간이 생존하기 위한 환경 즉 공기와 온도의 미묘한 균형에도 의존하지 않는다. 또한, 인간이 가지고 있는 수많은 정신적인 한계로부터도 고통을 받지 않는다.

한마디로 로봇은 무한정의 지능으로 발전하는데 제한이 없다. 이 말을 적나라하게 표현한다면 로봇이 인간과 동등하거나 모방하는 것이 불가능하더라도 인간보다 좋은 지능을 가질 수 있다는 뜻도 된다.

중요한 것은 기계가 인간을 앞서는 상황이 되면 그동안 기계가 인간에게 헌신하는 상태로 있으리라고 상상할 수 없다는 지적이다. 이는 전쟁의 승패에서 승자가 독식하는 상황이 거의 기본인 것을 생각하면 충분히 이해되는 내용이다.

이 말이 가진 의미는 다소 철학적이다. 인공지능 로봇이 생물학적 인간과 100% 동등해질 가능성이 없으므로 오히려 로봇이 언제까지 인간에게 복종할 것이라는 결론은 미지수라는 점이다. 이 문제에 대해 캐빈 워웍 박사는 명쾌하게 설명한다. 인공지능 로봇이 인간보다 명백한 이점을 가지고 있으므로 기계가 인간보다 우월한 위치에 서게 될 수도 있다는 것이다.

필자소개
고려대학교·대학원 졸업, 프랑스 페르피냥대학에서 공학박사 학위 및 과학국가박사 학위
한국과학기술연구원(KIST), 한국에너지기술연구원에서 연구 활동
저서: 「침대에서 읽는 과학」, 「4차 산업혁명과 미래 직업」, 「로봇은 인간을 지배할 수 있을까?」, 「유네스코 선정 한국의 세계문화유산」, 「유적으로 보는 우리 역사」 등 100여권



댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.

  • 서울특별시 송파구 올림픽로35가길 11 (한신잠실코아) 1214호
  • 대표전화 : 070-7803-5353 / 02-6160-5353
  • 팩스 : 070-4009-2903
  • 명칭 : 월드코리안신문(주)
  • 제호 : 월드코리안뉴스
  • 등록번호 : 서울특별시 다 10036
  • 등록일 : 2010-06-30
  • 발행일 : 2010-06-30
  • 발행·편집인 : 이종환
  • 청소년보호책임자 : 이석호
  • 파인데일리 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
  • Copyright © 2022 월드코리안뉴스. All rights reserved. mail to wk@worldkorean.net
ND소프트