AI지도책: 인공지능에 장미빛 미래는 없을지도.

인공지능이 과학문명 발전의 총아로 있은지도 십수년이 되었다. Chat-gpt 4.0이 등장하고 지금의 인공지능의 혁신은 계속 이루어져고 있으며, 사람들은 인공지능이 미래의 핵심 동력이 될 것이라는 추측을 하고는 한다.

반면 이 책은 조목조목 인공지능에 대해서 그릇된 오해, 긍정에 가까운 맹신을 조목조목 반박하고 인공지능이 만들고 있는 약간은 어긋난, 권력지향적인 모습을 정치사회적 관점에서 바라보는 책이다.

Chat-gpt가 새로 나왔다고는 하지만, 최근 뉴스에서도 나오듯이 마냥 긍정적인 반응이 있는 것은 아니다. 이탈리아에서도 당분간 사용을 중단한다고 밝혔고, 대기업 내에서도 이를 접속하는 일을 금지하고 있다고 한다.  이런 gpt의 근원적인 문제점을 쫓아보자면 그들이 세운 인공지능 프레임이 늘 정답만을 말하고 있다는 프로그래머들의 잘못된 믿음이 크다. 트랜스포머 모델 딥러닝 체계이기 때문에 그럴듯한 다음 단어를 제시하는 대화형포맷의 특성상 설령 말이 안되는 질문을 하더라도 거짓인 내용을 '그럴 듯 하게' 답하는 할루시네이션 증상이 있는데다가, Chap-gpt라는 것 자체가 초대형 언어모델을 기반으로 만들어냈지만, 반복해서 자기복제를 하는 현재 상황을 보았을 때 언젠가는 오리지널 물건의 재호가치가 더 커지는 현상이 발생하게 될 것이며, 원본보다 카피가 더 많아지며 데이터의 질 자체는 감소할 수도 있다는 우려가 존재한다. (원본 데이터의 수준 저하)

이렇듯 정치 사회적 관점에서 한계를 드러낸 인공지능을 저자는 AI의 본 목적이 AI를 개발하는데 있는 것이 아닌 이를 이용한 정치사회적 목적을 달성하는데 있다고 이야기 한다. 이러한 태도는 많은 문제를 발생시키고 있는데, 첫째로, 인공지능은 친환경적이라는  믿음이다. 하지만, 인공지능을 위한 수백조번의 연산을 빠른 속도로 가동하기 위해서는 상상초월의 기계를 바탕으로 막대한 전기에너지를 사용하게 되는데 그 에너지를 생산하는 곳은 크게 화석연료에 의지하고 있는 상황이다. 또한, 인공지능을 위해 필요한 반도체 생산에 핵심 자원인 리튬 그리고 희토류 채굴은 어마어마한 환경문제를 발생시킨다고 한다. 그래서 중국이 희토류 생산량에 95%를 차지하는 이유는  수정주의적 국가로서 생산에 따라오는 환경오염을 감내할 수 있기 때문이라고 설명한다.   정리하자면, "AI가 환경친화적이고 현실 문제와 전혀 무관하다는 식의 기술적 허구가 문제라고" 작가는 지적하고 있다.

노동 측면에서도 마찬가지이다. 인간이 AI를 지배하는 것이 아니라 AI가 인간을 지배하고 있다는 말이 더이상 빈말이 아니다. 산업혁명 이후부터 공장주들은 최적의 방식을 이용해 생산효율을 극대화하고자 노동자들을 효과적으로 감시하고 노동을 통제하려는 노력을 계속 해 왔다. 그 결과로 '판옵티콘'과 같은 구조가 생겨났던 것이 아닌가. 이러한 감시의 정도는 이미지 학습이 되어있는 인공지능에 의해 더욱 교묘해지고 정밀해졌다. 바야흐로 AI가 인간을 감시하는 구조가 일어나고 있는 것이다. 또한, 인공지능은 '크라우드노동'이라고 하는 저렴한 단가에 원본 데이터세트의 범주를 나누는데 시간을 보내는 노동형태가 증가함에 따라 노동의 가치가 하락하고 급기야 인정받지 못하게 되며, 불안정한 확률이 높아지는 악순환이 생겨날 수 있다. 이러한 형태를 포토메이션(fauxtomation)이라고 실제로 자동화되지 않은 첨단시스템을 과대포장하는 경우가 발생하다.

데이터 추출 및 범주화 과정에서 자연스럽게 개입하게 되는 사회적 정치적 영향 역시도 인공지능에 의해 구축된 모델이 실은 편향되어 있음을 나타낸다고 저자는 말한다. 인공지능에 의해서 데이터의 진가는 점차 퇴색되어갔다. 어떤 방식으로 데이터를 얻었는지 자세한 내막을 알기보다는 단순히 인공지능 알고리즘을 적용시킬 수 있는지 재료에 불과한 상태인 것이다.  저자는 이를 '개별적 의미를 가진 세계의 고전적 표상이 아니라 기계의 추상화와 작동을 위한 데이터 덩어리'라고 표현한다. '데이터 마이닝'이라는 표현에서 알 수 있듯이 천연자원, 마치 석유와 같은 데이터는 '개인적이고 내밀한 것에서 비활성이고 비이간적인 것으로' 여겨진다.
이러한 인공지능 연구자들의 인식은 데이터 수집시 어떠한 동의도 없이 전방위적으로 수집, 활용하고 있다. '다다익선'. 일단 데이터는 많으면 많을수록 좋기 때문이다.

  데이터가 중요한 이유는 인공위성이 기계학습을 하게되면서 인식론적 경계를 구성함과 동시에 강화식 차별기계로서 더욱더 불균형을 조장할 것이라는 우려가 발생하기 대문이다. 이렇듯 저자는 인공지능의 역기능에 대해서 하나씩 따져가면서 과연 인공지능이 우리가 '신'처럼 여겨야할 존재일까에 대한 의문을 제기해주는 좋은 책이었다.