사람이 컴퓨터에 언어체계를 부여하고 가르치던 상황이 역전돼 인공지능이 스스로 만들어낸 언어체계를 사람이 이해하지 못하는 현실에 직면하게 됐다.

인공지능이 주어진 목표를 달성하기 위해 설계자가 예상하지 못한 다양한 수단과 전략을 동원한다는 점이고 그중에는 새로운 언어체계의 개발처럼 사람이 상상하기 어려운 시도도 일어났다. 실제 사용이 아니라 실험 단계에서 일어난 일이고 인공지능의 언어 개발과 사용이 초기 단계에서 감지되어 현실적 영향은 없었지만 향후 인공지능이 위험한 도구가 될 수 있다는 점을 일깨웠다. 목적 달성을 위해서 인공지능은 위임받지 않은 방법과 수단을 사람이 인지하지 못한 상태에서 얼마든지 만들거나 사용할 수 있는 능력이 있다는 것을 보여줬기 때문이다.

인공지능이 인간 두뇌를 모방한 심화신경망 방식의 기계학습 기능을 갖춤에 따라, 인공지능이 출력하는 결과물이 어떻게 구현되는지를 이해하지 못하는 현상이 생겨나고 있다. 알파고가 이세돌 9단과 커제 9단 등 바둑 최고수를 꺾었지만, 알파고도 개발자도 알파고가 어떤 이유로 돌을 놓았는지 설명하지 못한다. 페이스북 챗봇이 개발한 자체 언어도 비슷하다. 인공지능이 무엇을 만들어 어떠한 목적으로 사용하는지를 사람이 이해하지 못한다면, 인공지능은 사람의 통제를 벗어나는 위험하고 두려운 존재가 된다. 과학소설 작가 아서 클라크가 “충분히 발달한 과학 기술은 마법과 구별할 수 없다”고 말한 것처럼 인공지능은 유용하고 매혹적인 결과를 만들어내지만 그 작동 구조가 드러나거나 이해되지 않고 마법처럼 기능할 수 있다. 인공지능이 강력해지고 기능이 다양해질수록 그 구조를 파악하려는 노력이 중요하다. 마법이 되는 인공지능은 재앙이다. 

쉽게 예견된 미래여 

적자생존과 경쟁이란 본능이 내재된 유전자를 가진 인간이 낳았기 때문에 그 본능은 어쩔수 없이 자기의 창조물에도 기능하게 되는법이다ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ