[이민호의 AI 인문학 12] AI는 만능이 아니다

만능처럼 보이는 AI

“AI 기능의 확장”

AI 기술은 빠르게 발전하고 있다. 짧은 프롬프트 입력만으로 3D 캐릭터가 생성되고, 음악이 작곡되며, 영상이 제작되는 사례를 확인할 수 있다. 글쓰기와 프로그래밍, 디자인 생성, 상담 기능 등 다양한 분야에서 활용 가능성이 확장되는 중이다.

이러한 변화는 AI가 창작을 대신할 수 있다는 인상을 준다. 일부 데모 영상이나 결과물은 마치 사람 없이도 완벽한 작업이 가능한 것처럼 보이기도 한다. 하지만 실제 제작 과정은 다르다. 전문가의 기획, 감각, 판단 없이 생성된 결과물은 종종 의도에서 벗어나거나 완성도가 떨어진다.

AI는 보조 도구로서 강력하지만, 전문가의 손을 거치지 않은 작업은 온전한 결과물로 이어지기 어렵다.

현재의 AI는 기술의 중심이 아니라, 그것을 다루는 사람의 기획과 판단을 뒷받침하는 역할에 가깝다.

AI의 구조적 한계

“사람이 필요한 이유”

AI는 대량의 데이터에서 패턴을 찾아내는 방식으로 작동한다. 흔히 ‘딥러닝(deep learning)’이라고 불리는 이 방식은 입력을 받으면, 과거 데이터를 바탕으로 가장 그럴듯한 출력을 만들어내는 방식이다. AI가 배우는 내용은 ‘이해’가 아니라, 수치화된 패턴과 매개변수(가중치)다. 이는 현재의 AI가 확률적 언어 모델(probabilistic language model) 또는 통계적 패턴 인식(statistical pattern recognition)으로 불리는 이유이기도 하다. 

이 데이터는 대부분 사람이 손으로 정리한다. 케냐, 나이지리아, 인도, 필리핀 등지에서는 작업자들이 이미지에 태그를 붙이고, 문장을 분류하며, 질문에 적절한 답변을 연결하는 작업을 반복한다.

이렇게 수집된 데이터는 AI가 입출력 간의 패턴을 익히는 데 사용된다. 이 과정을 통해 AI는 조건의 구조와 흐름, 그리고 다양한 관계를 저장하고, 비슷한 상황이 주어졌을 때 이를 바탕으로 결과물을 만들어낸다. 하지만 여기에는 구조적인 한계가 존재한다. 

수집되는 데이터는 특정 언어, 문화, 시기, 환경에 기반하고 있어 편향이나 오류가 포함되기 쉽다. 문장이 단편적인 경우도 많고, 이미지나 영상에서 손가락 개수가 맞지 않거나, 움직임이 어색하게 끊기는 등 시각적 오류와 왜곡이 드러나는 일도 적지 않다. 이러한 문제들은 AI가 만들어낸 결과물을 그대로 신뢰하기 어렵게 만든다.

이를 ‘환각(hallucination)’이라고 부른다. 이는 AI가 사실을 이해하거나 인식하는 것이 아니라, 통계적으로 ‘그럴듯한’ 결과를 조합하는 방식으로 작동하기 때문이다.

언어, 이미지, 영상 등 표현 방식은 다르지만, AI가 다루는 것은 어디까지나 수치화된 패턴이다. 감정과 맥락, 문화적 배경처럼 해석이 중요한 영역에서는 사람의 판단이 절대적으로 필요하다. 

전문가의 시대, 도구의 역할

“기술의 방향을 결정하는 건 사람의 판단”

AI는 효율성과 생산성을 높일 수 있는 강력한 도구다. 반복적인 작업을 줄이고, 생각의 범위를 확장하며, 더 빠르고 다양한 방식으로 결과에 도달할 수 있도록 도와준다. 그러나 이 도구가 모든 분야를 자동화하고, 사람의 역할을 대체할 수 있다는 인식은 조심할 필요가 있다.

AI는 창작자, 작업자, 개발자 등 각 분야의 전문가들에게 과정을 보완하고 지원하는 도구로 적합하다. 그렇기에 중심에는 언제나 그 도구를 다루는 사람의 기획과 감각이 있어야 한다.

실제로 AI 연구자들 중 일부는 이와 같은 입장을 밝힌 바 있다. 스탠퍼드대의 페이페이 리(Fei-Fei Li)는 AI를 '사람의 의도와 설계에 따라 작동하는 기술적 구성물'이라 설명했고, 뉴욕대의 게리 마커스(Gary Marcus)는 "AI는 현재로선 매우 정교한 자동화 도구에 불과하며, 사람의 판단력이나 직관과는 다르다"고 말했다. 이러한 견해는 AI의 활용 방식이 어디까지나 도구로서의 역할에 머물러야 한다는 인식을 반영한다. 기술이 효과를 가지려면, 그것을 설계하고 방향을 정하는 사람의 개입이 전제되어야 한다.

기술은 계속 진화하고 있다. 그러나 AI는 전문가를 대체하기 위한 것이 아니라, 전문가가 더 나은 결과를 만드는 데 활용되는 도구일 뿐이다. 기술의 가치는 사람이 방향을 정하고, 그 안에 목적을 부여할 때 비로소 완성된다.

미국의 정치 이론철학가 한나 아렌트가 “기술은 인간의 목적 없이 스스로 방향을 가질 수 없다”고 말한 것처럼(『인간의 조건』, 1958), 기술은 멀리 나아갈 수 있지만, 어디로 나아갈지는 사람이 정해야 한다.

만능처럼 보이는 AI에 대해 과도한 낙관도, 무분별한 의존도, 막연한 공포도 경계해야 한다.

AI는 사람의 의도를 담는 그릇이며, 사람의 생각이 흐를 때 비로소 빛나는 도구다.

자동화 기술이 정교해질수록 그 방향을 정하고, 의미를 부여하는 사람의 역할은 더욱 선명해진다.

시인, 칼럼니스트, IT AI 연구원 , KAN 전문기자   

(주)데이터포털에서 빅데이터시각화팀장으로서  데이터 시각화와 AI 기술을 활용해 공공데이터의 효율적인 활용을 위한 연구에 주력하고 있음.  

시인과 컬럼니스트로도 활동하며, 문학과 데이터 과학을 접목하여   AI 플랫폼 시대에 사는 우리들이 나아갈 방향을 제시하고자 함