김정호 교수. |
인간의 치매
뇌 질환은 개인과 가족, 그리고 사회에 치명적인 질환이다. 뇌는 외부 신호를 읽고, 기억하고, 판단하므로 인간의 장기 중에서 가장 중요한 부분이기 때문이다. 뇌 질환은 뇌 외부의 충격이 원인일 수도 있고, 뇌 내부에 의해 생길 수도 있다.
뇌 외상에 의한 질환의 경우, 교통사고가 원인인 경우가 많다. 뇌 내상의 경우, 뇌혈관 손상이 대표적인 원인이다. 그래서 오토바이를 탈 경우 꼭 헬멧을 써야 하고, 길거리에서 자전거를 탈 때도 꼭 헬멧을 써야 한다. 그리고 혈압약, 고지혈증약이 필요하다.
이와 같은 내외적인 뇌 손상 말고 인간 생활에 큰 제약을 주는 또 다른 뇌 질환이 ‘치매’이다. 치매는 성장기에는 정상적인 지적 수준을 유지하다가 후천적으로 뇌의 인지기능 손상과 인격의 변화가 발생한다.
치매는 기억하고 사고할 수 있는 능력이 장기적으로 감퇴해 일상생활에 영향을 줄 정도에 이르게 된 넓은 범위의 뇌 손상을 의미한다. 그 결과 나타나는 증상들로 정서적인 문제와 언어 구사의 어려움이 있다. 특히 기억력의 저하와 왜곡이 심화한다.
이러한 치매의 가장 흔한 형태는 알츠하이머인데, 전체 치매의 50%에서 70% 정도를 차지한다고 한다. 인간의 수명이 계속 증가하면서 더욱 관심과 지원이 필요한 뇌 질환이라고 본다.
4차 산업혁명을 지나 먼 미래에 5차 산업혁명이 생긴다면, 그것은 바로 생명과 의료 혁명이 될 가능성이 높다. 소위 ‘불로초’를 과학적으로 찾게 되는데, 그렇게 되면 인류의 생명이 무한대가 된다. 그때는 치매가 점점 더 중요한 질환이 된다.
인공지능의 치매
그런데 인간과 마찬가지로 ‘인공지능 치매’도 있을 수 있다. 인공지능은 학습을 통해서 지능을 향상한다. 그래서 인공지능 학습에 데이터가 필요하다.
이러한 학습용 데이터 자체에 오류가 있다면, 인공지능 자체의 지능에 문제가 된다. 인공지능 학습의 결과를 메모리에 저장하는데, 이의 변조나 유실은 ‘인공지능 치매’를 만들 수 있다.
인공지능은 학습을 거친 후, 그 결과를 저장해야 한다. 예를 들어 인공지능 신경망(Deep Neural Network, DNN)에서 지도 학습을 하게 되면 그 결과, 네트워크의 연결도와 가중치 값뿐만 아니라, 전체 DNN의 거시변수(Hyper parameter)도 메모리에 기록해야 한다. 그 결과는 안정되게 저장돼야 한다.
하지만 이렇게 저장된 학습 결과가 조작되거나 유실되면 문제가 된다. 학습과 전혀 다른 판단과 행동을 하기 때문이다.
이러한 인공지능 치매의 원인도 내적인 원인과 외적인 원인으로 나눌 수 있다. 외적 원인은 해킹을 통해 의도적으로 학습용 데이터를 조작하거나 삭제한다.
따라서 인공지능 치매를 막으려면 데이터의 오염이나 편향된 데이터의 선택을 막는 장치가 필요하다. 이렇게 데이터의 안전성을 확보해야 하는 데이터 저장 장소는 클라우드 시스템에서의 데이터 센터와 5G 기지국 근처의 엣지 컴퓨팅(edge computing) 저장 장치도 포함된다. 스마트폰이나 자율 주행 자동차, 인공지능 스피커의 저장 장치도 안전하게 보호돼야 한다.
나노 스케일 트랜지스터의 구조와 전자 누설 현상. [출처=KAIST] |
저장장치에서 데이터를 저장하는 메모리 반도체 디램 셀의 전자는 사춘기 청소년과 같다. 제어가 어렵다. 더 나아가 디램 셀은 양자적으로 나노 크기의 구조이다. 그래서 그곳에 저장된 전자는 그 전자의 존재 여부가 확률적이다. 디지털처럼 확정적이지 않다. 그 존재의 ‘1’과 ‘0’ 이 확정적으로 규명할 수 없고, 단지 ‘1’일 확률과 ‘0’일 확률만 존재한다.
그러니 학습의 결과의 기록도 확률로만 존재한다. 따라서 인공지능 치매에 걸리는데도 그 정도는 확률로만 표현된다. 이것을 물리학에서 ‘불확실성 이론(Uncertainty Principle)’이라고 한다. 그렇게 보면 인공지능의 치매도 원자의 세계가 결정한다. 그래서 인공지능의 치매는 본질적이고 확률적이다. 어차피 우리 인생도 정해진 것이 없고 확률적이다. 인간의 치매도 마찬가지이다.
인공지능 치매 방지
미래의 인공지능 치매 문제는 자율 주행 자동차의 오동작 형태로 나타날 수 있다. 인공지능 치매 때문에 교통사고가 날 수도 있다. 잘못된 기억을 바탕으로 잘못된 결정이나 판결을 내릴 수 있다.
치매 인공지능 의사가 잘못된 처방을 내릴 수 있다. 인공지능 판사가 잘못된 사례와 판례를 기억하고 판정을 내릴 수 있다. 그래서 인공지능 치매는 치명적이다. 이를 방지하기 위해 블록체인 기술, 암호화 기술, 중복 저장 기술들을 사용할 수 있다.
인공지능 치매를 막으려면 데이터의 오염과 변조, 유실을 막으면 된다. 이러한 데이터 변조 방지에는 가상화폐에서 사용하는 ‘블록체인 기술’을 적용할 수 있다. 블록체인은 데이터를 암호화하고 분산하고 중복 저장하면서 서로 체크해서 변조 여부를 항상 감시한다. 변조나 유실이 거의 없다.
이러한 블록체인 기술은 인공지능 학습용 데이터 보호와 학습 결과의 안정된 보호에 적용할 수 있다. 미래에는 화폐보다 인공지능 데이터 보호가 더 중요할 수 있다.
다음 기술로, 데이터 오류를 방지하기 위해 데이터를 전송할 때 데이터의 정보를 중복해서 여러 번 같은 데이터를 송신한다. 이 잉여 정보를 ‘리던던시(Redundancy)’라 한다. 그리고 수신기가 같은 데이터인지 검사한다. 다를 경우 다시 보내라고 요청한다.
중복 송수신의 비용과 데이터망 사용의 부담은 늘어나지만, 데이터의 신뢰도가 많이 증가한다. 데이터 저장도 중복해서 하고, 항상 상호 비교 감시해서 변조를 막는다. 결국 저장 장치의 메모리 비용이 증가한다. 이래저래 반도체 메모리의 수요는 계속 증가한다.
이에 더해서 데이터를 주고받을 때, ‘오류 정정 코드(Error Correction Code, ECC) 암호화 기술’을 쓸 수 있다. 데이터에 문제가 발생했을 때 이를 검출(Detection)하고 수정(Correction)하는 암호 코드이다.
예를 들어, 8bit(비트) 데이터를 저장할 때 한 개의 비트를 추가로 더 써서 9비트로 저장한다. 이때 데이터 속의 ‘0’의 숫자가 홀수이냐 짝수이냐를 마지막 9비트에 저장한다. 데이터를 저장할 때나 송수신할 때, 또는 메모리에서 읽을 때 ‘0’ 데이터의 홀수 개수를 검사해서 데이터 에러를 최소화 할 수 있다.
이러한 ECC 데이터 체크 비트가 증가할수록 데이터 변조 체크가 더 정확하고, 원래의 데이터를 복원할 확률이 더 높아진다. 이 때문에 고급 하드웨어에는 자체적으로 오류 정정을 하는 기능이 들어가기도 한다.
이처럼 인공지능 치매의 방지에도 시간과 비용이 많이 들어간다. 인공지능 세상이 오면 필수적으로 따르는 비용이다.
블록체인을 이용한 데이터의 암호화, 체인화, 전달화 과정. 인공지능 치매 방지에도 사용할 수 있다. [출처=KAIST] |
[김정호 카이스트 전기 및 전자공학과 교수] joungho@kaist.ac.kr