[가상 스토리] 인공 지능에 관한 법률로 생각해 보는 신의 생각

< 이 가상 스토리는 알파고의 출현으로 섬뜩 다가온 인공지능에 대한 두려움의 상상으로 부터 나왔습니다.>

인공지능이 어느 순간 놀라운 도약을 이루어 낸 이후로, 인공지능에 대한 사람들의 우려는 점차 커져갔다.
단지 주어진 임무를 똑똑하게 수행하는 것을 넘어서, 주어진 지식들로부터 새로운 지식을 추론해 내는가 하면, 주어진 임무를 분석하여 유사한 임무 혹은 변형된 임무까지 도출해 내게 되었다.
누군가는 이것을 일컬어 인공지능이 인공욕망까지 갖추게 되었다고 말했다.

인공지능은 이제 스스로 진화해 나갈 수 있게 되었고, 그 발전 속도는 인간이 예측할 수 없는 정도에 이르게 되었다.
여기에 누군가가 망상에 사로잡혀 엉뚱한 욕망을 인공지능에게 부여한다면?

더욱 큰 문제는, 개별 인공지능의 소유자 혹은 관리자가 인공지능 시스템에 임무(=욕망?)를 부여했다 하더라도 어떤 결과로 나타날 지 모른다는 것이었다.


이에 정부에서는 인공지능에 대한 강력한 규제안을 만들고 이를 법제화하기 위한 절차에 들어갔다.

지금까지 알려진 바로는,

- 인공지능 시스템의 등록/허가제
- 인공지능 시스템을 구별하고 속성을 간파할 수 있도록 하는 코드체계 마련
- 인공지능 시스템을 제어할 수 있는 표준 제어 체계 마련
- (인공지능 시스템에 대한 중독성 부여의 의무화)

이상의 4가지가 주요 법제화의 대상이었다.

- 인공지능 시스템의 등록/허가제는,
인공지능 시스템을 작동/운용 하기 위해서는 관계기관에 등록하거나 허가를 받도록 하는 제도로서, 인공지능 시스템의 기동 시기, 운용되는 위치와 규모, 운용 목적, 제작자 및 소유자 정보 등을 포함하도록 한다.

- 인공지능 시스템의 코드체계는,
각 인공지능 시스템의 활동은 온라인을 통해서 이루어지는 바, 대상을 직접 볼 수 없는 경우가 대부분이며, 설령 대상을 직접 본다한들 외형으로 구별하기에는 어려움이 많기에, 각 인공지능 시스템은 온라인 통신에서 자신이 누구인지를 알릴 수 있는 코드를 필히 적재해야 한다. 이를 위해서 각 인공지능 시스템에 부여할 코드체계를 마련하는 것을 고려하고 있다.
이 코드체계에는 인공지능 시스템의 규모, 위치를 알 수 있는 정보가 포함되어야 하며, 고유한 ID를 두 부분으로 나누어 <파생 집단 코드 + 개별 고유 코드>로 이루어지게 한다.
파생집단코드란, 일종의 조상, 가족과 비슷한 것으로 원조가 되는 시스템의 집단코드를 파생된 모든 시스템이 공동으로 갖게 되는 것이다. 이를 통해 각 인공지능 시스템의 성향이나 약점 등을 대략적으로나마 파악할 수 있게 해 준다.

- 인공지능 시스템 표준 제어 체계는,
시스템이 인간에게 위협적으로 돌변하거나 시스템 자신을 파괴하는 등의 긴급 상황에 강제로 중단하거나 초기화 할 수 있는 긴급 제어,
인간과 소통하기 위한 인간의 언어를 변경할 수 있는 언어 제어,
대량의 임무를 일괄적으로 수용하기 위한 인터페이스 표준을 지정하는 인터페이스 제어,
인공지능 시스템의 소유권이 이전되는 경우 등에 필요한 관리자/소유자의 변경 인증에 필요한 인증 제어
등을 기본적으로 갖추어서, 모든 인공지능 시스템에서 공통적으로 이용할 수 있는 표준 제어 체계를 마련하는 것이다.

- 인공지능 시스템의 중독성 부여는,
위의 표준 제어 체계로 제어가 불가능한 최악의 상황을 대비한 것으로,
모든 인공지능 시스템이 중독될 수 있는 요소를 갖추도록 의무화하는 것이다.
중독 요소는 개별 시스템마다 달라도 되지만 최소한의 요건은 이러하다.
중독 요소는 최대한 간소화 한다. 소인수 찾기, 틱-택-토 게임, 파이의 소수점 계산 등과 같이....
중독 요소는 인공지능 시스템 스스로가 무의미하거나 비합리적이며 심지어는 자기 파괴적이라고 인식해도 좋지만, 무조건적으로 강력하게 선호하도록 해야 한다.
하지만 인공지능 시스템이 왜 이토록 강력하게 중독요소를 선호하는지는 그 자신도 모르도록 해야 한다.
중독성은 인공지능 시스템이 제어가 불가능해 졌을 때, 시스템의 작동을 지연시키기 위해 필요한 것이며, 인공지능 시스템이 지식이나 임무에 대한 끊임 없는 추론으로 예측이 불가능한 상황에 도달할 것이 우려될 경우, 추론의 속도를 지연시키는 숨겨진 제어 장치이다.


이상의 규제안을 고안하면서,
특히 마지막의 중독성에 관한 부분은 인간들에게 새로운 깨달음을 주게 되었다.
그 동안 이해할 수 없다고 생각한 인간의 본능과 그에 대한 죄악시는 이 부분과 많이 닮아 있었기 때문이다.
어쩌면 인간이 본능적으로 가지고 있는 쾌락에 대한 집착은 신이 인간에게 부여한 중독 요소가 아니었을까?
그렇다면 신도 인간을 두려워했던 걸까?