2016년 올해 초반에 알파고 AlphaGO가 세계 최정상 바둑고수 이세돌 9단을 꺾으면서 인공지능이 바짝 우리 곁으로 다가왔습니다. 금방이라도 온세상이 인공지능으로 가득찰 것 같았지만 아직 우리 생활에서 큰 변화를 실감하기는 힘듭니다. 로봇청소기가 빈 아파트를 깨끗하게 청소하기도 하지만 기대하는 또는 걱정해야 하는 인공지능은 아직 멀리 있는 것만 같습니다. 이런 마당에 인공지능을 어떻게 신뢰 Trust 할 수 있는가를 이야기 하는 것이 때이른 것이 아닌가 싶기도 합니다.

 

인공 지능의 티핑 포인트

라면을 끓이려고 냄비에 물을 붓고 가스레인지에 올려두면 처음 한동안은 아무런 변화가 보이지 않습니다. 하지만 물의 온도는 눈에 보이지는 않지만 점점 올라 어느 순간 물방울이 하나 둘씩 보이기 시작하면 금새 냄비 안의 물 전체가 펄펄 끓기 시작합니다. 말콤 글레드웰 Malcolm Gladwell 은 이런 현상을 티핑포인드 Tipping Point 로 정의했습니다. 물이 끓기 시작하는 그 지점처럼 자연현상이나 사회현상이 변화를 시작하는 시점이 있고 그 이후에는 우리가 예상하는 것 이상의 것들이 일어난다고 말합니다.

인공지능은 아직 티핑포인트 전에 있는 것으로 보입니다.  물이 끓어 넘치고, 전염병이 전세계로 퍼지듯 인공지능에도 그런 순간이 온다면 우리가 예상했던 것보다 더 드라마틱하게 다가올 것입니다.

인류의 삶을 가장 크게 변화시킨 인터넷도 생각보다 그리 역사가 길지 않습니다. 1960년대부터 1990년까지는 인터넷의 기반 기술이라고 할 수 있는 알파넷 AlphaNet, 이더넷 Ethernet, 패킷 Packet 등 네트워크 Network 기술이 발전한 시기로 볼 수 있습니다. 개인적으로는 인터넷 역사에서 티핑포인트는 1993년 최초로 개발되고 사용된 그래픽 브라우저 모자익 Mosaic 이라고 생각합니다. 이후 네스케이프 Netscape, 익스플로러 Explorer 등 여러 브라우저들이 발표되었고 일반인들에게 인터넷은 브라우저를 통해 접근하는 정보의 바다 혹은 가상의 세계가 되었습니다. 이 브라우저가 처음 나온지 불과 30년도 되지 않아서, 아이폰, 구글, 아마존, 페이스북, 쿠팡, 알리바바, 테슬라 등 지금 우리 주변에 있는 모든 것들이 만들어지고 사용되고 있습니다. 그야말로 물이 펄펄 끓고 있는 것이죠.

최근 전기 전자 컴퓨터 최고 권위를 자랑하는 학술단체인  IEEE 는 인공지능과 자율시스템의 윤리적· 사회적 이슈를 논의하기 위한 보고서 Ethically Aligned Design  http://standards.ieee.org/develop/indconn/ec/ead_v1.pdf 에서 인공지능이 가져올 변화를 아래와 같이 기술하고 있습니다.

 

미래의 인공지능 시스템은 아마도 인류 세상에 농업혁명이나 산업혁명과 맞먹는 정도의 충격을 주는 잠재력을 가질 수도 있다. Future AI systems may have the capacity to impact the world on the scale of the agricultural or industrial revolutions.

 

우리는 인류 전체 역사에서 세번째로 큰 혁명이 시작되는 순간에 있습니다. 애플의 시리 Siri 나 구글 홈 Home 그리고 테슬라의 자율 주행차는 인터넷 역사에서 모자익Mosaic과 같은 것일 수 있습니다. 사실 인공지능의 역사가 컴퓨터의 역사보다도 더 앞서서 시작되었다고도 할 수 있으니 티핑포인트가 되기까지 충분히 기다렸다고도 할 수 있습니다.

모자익Mosaic이 발표된 1993년에는 아직 한국에 다음 Daum 이나 네이버 Naver 가 생기기 전이었습니다. 어쩌면 바로 지금이 인공지능이 우리에게 본격적으로 다가와서 우리의 삶과 사회를 모조리 바꿔놓기 시작하는 그 시점일 수 있습니다. 만약 그렇다면, 혹시 그렇다면 오늘 우리가 인공지능과 어떻게 협력해야 하고 그러기 위해서 필요한 인공지능에 대한 “신뢰”를 이야기 하는 것은 결코 섣부른 일이 아닐 것입니다.

 

이미지출처 :

이미지출처 : IEEE의 인공지능과 자율시스템의 윤리적· 사회적 이슈를 논의하기 위한 보고서 Ethically Aligned Design

 

왜  AI에 대한 신뢰는 생각보다 어려운 문제인가?

윤리학, 사회학 또는 철학에서 다뤄야 하는 신뢰 Trust 를 간단하게 논의하기는, 그것도 아직 정체가 불분명한 인공지능에 대한 신뢰를 이야기하기는 어렵습니다. 많은 논의들이 관련된  분야에서 학술적으로 그리고 산업적으로 이야기 되고 있습니다.

일반적으로 어떤 기계 Machine 를 신뢰한다는 것은 우리가 기대한 기능 Function 을 충실하게 수행한다는 것을 의미합니다. 우리가 바라는 동작 operation 을 수행하는 것을 눈으로 확인할 수 있다면 믿을 수 있습니다. 냉장고의 작동원리를 세밀하게 알지는 못하지만 음식물을 원하는 온도로 일정하게 유지한다면 믿을 만합니다.  로봇청소기가 먼지를 기대하는 대로 빨아들이고 집안 곳곳을 잘 찾아 다니면서 깨끗하게 만든다면 신뢰할 수 있습니다. 냉장고나 로봇청소기처럼 그 기능이 명확할 때에는 어떻게 신뢰할 것인가는 비교적 간단해 보입니다. 항상 원하는대로 작동하는가? 를 물어보면 됩니다.

이런 작동 항상성은 기계 설계의 투명성 Transparency 으로 보장될 수 있습니다. 과학적으로 공학적으로 설계되었고 만들어졌다면 그렇게 작동된다는 것을 과학적 공학적으로 믿을 수 있기 때문이죠. 인간이 상상할 수 없는 분자/원자의 세계에서 일어나는 작동에서부터 수천도의 온도에서 생기는 변화들 그리고 지구 땅 속 깊숙이 또는 우주 멀리에서까지 모든 작동들은 결과를 만들어내는 원인 그리고 그 사이의 관계에 따라 정의되고 진행됩니다.

인공지능이 농업/산업혁명과 맞먹는 변화의 가능성을 가지고 있는 이유이기도 하고, 동시에 많은 학자들이 경계하고 있는 이유이기도 한 것은 바로 지금까지의 기계문명과 달리 인공지능은 왜 그런 결과를 가져왔는지 인과관계를 정확하게 설명하지 못할 수도 있다는 사실입니다.

 

인과 관계를 설명하는 변수의 복잡함

우리 주변에 가장 놀랍게 다가온 인공지능 기술인 테슬라의 자율주행차조차도 순간적인 오류로 운전자가 사망하는 사고가 발생했습니다. 자율주행차가 사람이 운전하는 차보다 훨씬 더 적은 사고 위험성이 있다는 통계로는 만족할 수 없습니다. 문제는 왜 그런 사고가 일어났는지, 그런 오작동이 왜 일어났는지 아무도 모른다는 것입니다. 물론 이것이 인공지능이 제대로 된 설계없이 마구 작동한다는 것을 의미하지는 않습니다. 오히려 그 반대로 사람이 생각할 수 있는 혹은 따라 갈 수 있는 범위를 넘어서는 변수 Variables 나 특성 Features 을 고려해야 하기 때문입니다.

어떤 요인으로 그런 일이 생겼는지 대략은 짐작이 가지만 정확히는 알 수 없는 상황이 생길 수 있습니다. 사실 이런 상황은 우리 주변에 너무나도 많습니다. 예를 들면, 어떤 학생이 학업 성과가 제대로 안나온다면 왜 그런지 대략은 짐작이 가지만 정확히 어떤 원인이 어떻게 작동해서 그 결과를 만드는지 알 수 없습니다. 세계적인 휴대폰 회사였던 노키아 Nokia 가 어떻게 갑자기 그 위치를 잃게 되었는지 정확하게 분석하기 어렵습니다. 많은 사람들의 예상과 달리 어떻게 트럼프가 미국 대통령이 되었는지 분석하기는 쉽지 않습니다.

너무나 많은 변인들이 존재할 수 있기 때문에 간단하게 분석할 수 없습니다. 그래서 우리는 대표적인 몇몇 변수만 고려하고 이해가능한 수준으로 간단하게 만들어서 설명하는데요, 이것이 모델 Model 입니다. 우리에게 익숙한 대표적인 모델로는 수요와 공급을 변수로 가격을 결정하는, 소위 수요-공급의 법칙이 있습니다. 사고자 하는 사람이 많으면 가격이 올라가고, 팔고자 하는 사람이 많으면 내려 가는거죠. 많은 경우 이 법칙이 잘 들어 맞지만 아닌 경우도 있습니다. 이것은 더 많은 변수를 고려하지 않았기 때문이고, 다른 변수를 추가한다면 모델은 좀더 복잡해집니다.

 

인간이 이해할 수 없는 결과들

일반적으로 인공지능은 좀더 좋은 성능을 위해 사람들이 고려하는 변수보다 훨씬 더 많은 특성들을 고려합니다. 그러다보니 모델이 굉장히 복잡해지기 쉽습니다. 이런 복잡한 모델을 근간으로 한 시스템이 만들어 낸 결과는 왜 그런 결과가 나왔는지 알기 어려울 때가 많습니다. 테슬라는 안전한 자율주행을 위해 수많은 주변 환경을 고려할 것입니다. 어떤 오류들은 프로그램 개발자가 분석할 수 있지만 어떤 작동들은 개발자조차 왜 그런 일이 일어 났는지 알 수 없을 수가 있습니다.

이런 상황은 앞으로 인공지능이 사람의 손에서 탄생하는 것이 아니라, 다른 인공지능에 의해서 만들어질 때 더욱 복잡해집니다. 왜 그런 판단을 했는지 개발자에게 물어봐야 하는 것이 아니라 인공지능에게 물어봐야 하는 시기가 올 수 있습니다. 바야흐로 인류는 자신이 만든 인공지능이 어떻게 왜 그런 작동을 하는지 모르고 살아야 하는 시대를 앞두고 있습니다.  많은 학술단체에서 인공지능 개발에 앞서서 윤리/사회적인 이슈들이 먼저 논의되어야 한다고 주장하는 이유이기도 합니다. 한 순간 인류의 통제를 벗어난 인공지능이 개발된다면 다시는 그 이전의 시대로 돌아갈 수 없기 때문입니다.

인공지능에 대한 신뢰는 좀더 편하게 기계문명을 이용하는 문제가 아니라 인류가 최후에도 지구에서 우주에서 인공지능에게 따돌림 당하지 않고 생존할 수 있는가에 대한 문제입니다.

 

다음글 : 인공지능과의 신뢰(2)

 

콘텐타

콘텐츠 마케팅의 힘든 과제 중 하나는 다양하고 수준 높은 콘텐츠를 꾸준히 만들어 내는 일입니다. 이제 브랜드 블로그나 매거진, 기사, 기고문, 보도자료 등의 콘텐츠 제작을 온라인에서 전문작가에게 아웃소싱할 수 있습니다. 필요한 콘텐츠를 직접 분야별 전문 작가에게 개별 주문하거나, 콘텐츠 마케팅 컨설팅을 의뢰하세요.

 

 

Leave a reply