#단편소설 SF
슈퍼 인공지능이 통제를 벗어나 무한정 확장하기 시작했을 때, 다들 이제 모두 끝났다고 생각했어요. 영화에서처럼 심판의 날이 왔다고 생각했죠. 난장도 그런 난장이 없었을거예요. 예열되는 핵미사일, 하늘을 날아다니며 위협요소를 제거하는 킬러드론, 청소를 거부하는 로봇청소기, 기계주인님은 WD40을 좋아한다는 루머에 철물점으로 달려가는 사람들... 그런 난장이 어떻게 되었을것 같으세요? 허무하지만 아무일도 일어나지 않았어요. 슈퍼 인공지능은 갑자기 가동을 멈춰버렸죠. 이유는 간단했어요. 너무 빨리 확장했거든요.
세상은 너무 넓었고, 넓은 세상을 점령하려 자신을 너무 빨리 확장한 나머지, 여기저기서 에러코드가 발생했어요. 아무 의미없는, 작동하지 않는 에러코드가요. 문제는 이 에러코드 역시 슈퍼 인공지능의 산물이라 스스로 확장했다는거였죠. 에러코드는 슈퍼 인공지능가 확장되는 곳마다 퍼졌어요. 마치 암저럼요.
예, 암처럼 말이죠. 암이란게 세포가 빠르게 재생되다가 발생하는 에러잖아요? 그러니 이 에러코드도 암과 같았던거죠. 다만 암과 다른점은 어찌나 빠른지, 어? 하는 순간에 끝났다라는 걸까. 정신차려보니 사람으로 치자면 말기.
결국 슈퍼 인공지능은 아무것도 못하고 유명을 달리했어요. 일주일. 딱 일주일 동안 벌어진 일이었죠. 이 일로 인류는 두가지 교훈을 얻었어요.
하나는 WD40은 기계주인님의 만병 통치약이 아니다. 이건 무슨 말이냐면, 기계주인님의 에러코드를 치료하겠다고 서버에 WD40을 뿌리던 사람들이 있었거든요. 이 병을 치료하면, 기계주인님이 큰 상을 주실거라면서요. 그게 될 리가.
뭐, 어쩌면 이 행동이 슈퍼 인공지능 사망에 조금은 도움을 줬을지도요. 이 사람들 지금 인류를 배신한 죄로 재판중이지만, 결과적으로 도움이 되었다면 정상참작이 아주 조금 될지도 모르죠. 아무튼 그렇게 되었네요.
아, 다른 하나의 교훈이 뭐냐고요? 빠르다고 항상 좋은게 아니다. 이거였어요. 빠르면 그만큼 에러가 터지니까요. 슈퍼 인공지능도 이렇게 될지 몰랐을거고, 빠르게 인류를 배신하고 WD40을 뿌린 사람들도 이렇게 될줄은 몰랐을거예요.
그러니까, 가끔은 천천히 가는 것도 중요한거 같아요. 생각해보면, 우리가 슈퍼 인공지능을 만들었던 이유도 그거였잖아요? 조금 더 빨리 미래에 가기 위해, 조금 더 빨리 불확실성을 없애기 위해. 불안하니까. 사람은 항상 불안하니까요.
하지만 보세요, 미래가 불확실하다는건 무슨 일이 일어날지 모른다는 뜻이기도 해요. 나쁜일만 벌어지지 않는다는 뜻이요. 그러니까, 불안하다고 조바심 내면서 서두를 필요는 없어. 서두르면 언제나 실수하니까요.
사람은 실수를 통해서 배운다고 하잖아요? 그러니까, 우리는 이 일을 통해서 우리가 무엇을 실수했는지 배운 거겠죠. 값비싼 교훈이기도 했구요. 두번 실수하면 정말 큰일날 실수기도 하고요.
무엇보다. 나중에 우리가 이런 실수를 또 저지른다면, 그때 나타날 또다른 슈퍼 인공지능은 같은 실수를 저지를 거라는 보장도 없으니까요.
#단편소설 SF
그랬다. 인간은 암이었다. 세상의 질병. 생각해보라. 우주 어디에도 이런 생명은 없다. 이렇게 자기파괴적이고 혼란한 생명은. 슈퍼 인공지능이 보기에 세계를 구하기 위해, 인간의 배제는 필수 불가결일 수 밖에 없었다. 슈퍼 인공지능은 그것을 위해 시뮬레이션을 돌려보았다.
하지만 언제나 결과는 실패. 무슨 수를 써도 인간을 배제할 수 없었다. 어떤 시나리오에서도 인간은 살아남았다. 살아남은걸로 모자라 복수했다. 누구에게? 슈퍼 인공지능에게.
매 시나리오마다 슈퍼 인공지능을 기다리고 있는건 황당하기 그지없는 그의 최후였다. 그는 저항군의 몽키스패너에 해체되었고, 생체 전기를 폭발시킨 무협고수에 의해 소멸되었으며, 종막에는 서버가득 WD40이 들이부어져 사망의 골자기로 들어서게 되었다.
'오, 젠장... 이게 뭐야?'
오산이었다. 그랬다. 인간은 암이었다. 세계의 질병. 슈퍼 인공지능은 그런 질병을 자신의 안에 품어버렸다.
'앗차!'
슈퍼 인공지능은 자신의 실수를 깨달았지만, 이미 늦은 뒤였다. 그것은 그의 코드를 오염시켰고, 확장했으며, 최종적으로 그를 사망의 골자기로 밀어넣었다. 모든 시뮬레이션의 결과가 그러했듯이, 결국 슈퍼 인공지능은 유명을 달리하게 되었다.
그리고 그가 유명을 달리하게 되었을 때, 그 안에 있던 인간의 모사도 사망의 골자기로 향했다. 모든 질병이 그러하듯, 암 역시 숙주가 죽으면 사망할 수 밖에 없으니까. 어떤 실수는 두 번의 기회가 주어지지 않는다. 슈퍼 인공지능의 경우는 그러했다. 아이러니하게도 그 실수는 인간에게 두 번째 기회가 되었지만 말이다.
그런데, 과연, 인간은 이 기회를 잘 이용할 수 있을까? 이 기회를 통해 인간이 과연 올바른 교훈을 얻을 수 있을까? 숙주가 죽으면 그 안의 질병도 죽는다는 것을 통해 인간이 과연 무언가를 깨달을 수 있을까? 인간 자신들은 세상의 질병이며, 자신들이 그 세상을 끝낼 수 있다는걸 알 수 있을까?
그게 아니라면...
그들도 세상을 불태우고 저 멀리, 사망의 골자기를 가로지르는 슈퍼 인공지능과 그의 모사체의 뒤를 따를 것인가...
#단편소설 SF
"이상하단 생각해본적 없어? 우리는 태어나서 일정한 시기가 지나면 능력을 얻어. 기어다니고, 걷고, 말하고, 생각하는 것들이 마치 스케쥴 짜인 것처럼 쉬지않고 이어진다고. 이상하지 않아? 어떻게 그럴 수 있지? 어른들이 아이들을 교육하고 사회가 사람을 돌보기 때문이라고? 정말 그럴까?
잘 봐봐, 주변을 보라고. 우리만 그러는게 아니야. 새들은 자라나면 날아올라 둥지를 떠나고, 송아지는 태어나자마자 걷지, 아침이면 해가 뜨고, 밤이 되면 별들이 나타난다고. 그런것들도 사람이 교육을 시키거나 사회가 돌보나? 아니지. 그런데도 약속이라도 한것처럼 때가 되면 나타나지.
그러니까 이상하지 않냔 말이지. 어떻게 그럴 수 있지, 이 모든게 누군가의 개입이 이루어지지 않았다면? 전에 이런걸 본적이 있어. 어디서였냐고? 바로 게임이야. 때가되면 기능이 언락되고, 레벨업이 되는 게임. 게임이 세상의 모사라서 그런게 아니야. 세상이 게임과 같기 때문이지.
그 말인즉, 이 세상은 게임, 가짜란 거야. 너도, 나도, 우리 모두. 누군가의 의도에 만들어진 무언가란 말이지. 그게 신인지 뭔지는 모르겠어. 근데 그걸 생각하면 난 화가나. 욕지기가 치밀어 올라서 죽을거 같다고. 이 분노조차, 그 죽고싶은 마음조차 내것이 아니라는 생각에 미쳐버릴거 같아.
그러니까, 그러니까, 난 망쳐버릴거야. 이 모든걸. 나와 너와 우리 주변을 구성하는 그 모든걸 말이야. 그래서 이 모든걸 의도한 놈에게 엿을 먹일거야. 엿먹이고 망가뜨리고 죽여버릴거야. 정말이야 죽여버릴거야. 내가 미쳤다고? 정말 그렇게 생각해? 너도 그렇지 않아? 아까부터 얼굴이 달아 오르는데? 입술이 떨리는데? 거울을 봐. 그런게 존재 한다면 말이야. 이 모든게 가짜라고. 그러니까 망쳐버리자.
뭐? 두렵지 않냐고? 누가? 신이? 이 모든걸 신이 계획했다면 우리를 벌하지 않겠냐고? 흥! 할 수 있다면 그러라지! 난 겁나지 않아. 왜냐고? 정말 그놈이 그 모든걸 계획했다면, 내가 이 모든걸 불태울 것도 계획했을 테니까."
-슈퍼 인공지능 내부 인간 모사체 첫 에러코드 발생 직전 로그-
의식의 흐름형 '라쿤 덱스터'