관료문서 성격에 권익보호 겉핥기
정부주도 권한집중에 민간은 조연
인간·기술 공존시대…책임 명확히

지난 대선에서 이재명, 김문수, 이준석 후보 모두 ‘인공지능(AI) 강국 건설’을 주요 공약으로 내세웠다. 특히 이재명 후보와 김문수 후보는 100조 원 규모의 국가 투자를 약속하기도 했다. AI는 대한민국 전체의 생존 전략이며, 시민과 기업 모두가 함께 설계에 참여해야 할 공공의 사안이다. 그런 점에서 2026년 1월부터 시행될 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법’(약칭 인공지능기본법)은 단순한 법률을 넘어, 대한민국이 어떤 AI 시대를 만들고자 하는지 보여주는 설계도가 된다는 점에서 매우 중요하다.

 

그런데 이 법을 들여다 보면 정작 펼쳐지는 것은 청사진이 아니라 관료적 행정 문서이다. 기술의 최전선에서 미래를 감지하고 기업의 자율성과 함께 자칫 매몰될 수 있는 시민의 권리를 확보하기 위한 고민은 잘 보이지 않는다. 기술적 경쟁력이나 시민적 권익보호 대신 ‘지원’과 ‘국고보조’가 전면에 드러나 있을 뿐이다.

 

전체 43개 조문 중 17개 이상에 ‘지원’, ‘출연’, ‘보조’, ‘재정’이라는 용어가 등장하는 데서 알 수 있듯이 AI 산업에 대한 재정 투입을 당연시한다. 창업, 데이터 구축, 집적단지 조성, 협회 설립까지 떡고물을 누가 만질지는 비교적 정밀하게 그려져 있다.

 

그러나 그 돈이 누구에게, 어떤 기준으로, 어떤 방향으로 쓰일지는 여전히 안갯속이다. 기술은 빠른데 법은 느리고, 위험은 큰데 규제는 약하다. ‘성과평가’, ‘위험통제’, ‘책임소재’는 이 법 어디에서도 핵심 개념이 아니다. 특히 고영향 인공지능이나 생성형 인공지능처럼 위험이 큰 분야에서도 “설명을 제공할 수 있도록 노력하여야 한다”, “검·인증을 받도록 할 수 있다”는 식의 추상적 조항만 가득하다. ‘노력’이란 말에 모든 감시와 통제가 밀려난다. 책임지는 주체는 불분명하고, 시민이 AI 결정에 설명을 요구하거나 이의를 제기할 권리는 명시조차 되어 있지 않다. 시민은 이 법에서 ‘보호대상’일 뿐 ‘행위주체’가 아니다.

 

반면, 정부의 권한은 분명하다. 정책 수립은 과학기술정보통신부 장관, 감독은 대통령 소속 위원회, 집행은 산하기관이 맡는다. 민간은 조력자, 시민은 수혜자일 뿐이다. 이런 구조는 인공지능을 국가가 육성해야 할 산업으로만 보는 좁은 관점의 산물이다. 사회적 위험, 시민권, 권력 집중에 대한 인식은 철저히 배제되어 있다. 기본법이라 쓰고, 관료 중심 산업진흥법이라 읽어도 무방할 정도다.

 

고영향 인공지능에는 실질적인 규제가 있어야 한다. ‘설명 제공을 노력한다’는 식의 선언적 표현이 아니라, 설명 가능성, 위험관리, 인증 의무를 법적 의무사항으로 명시해야 한다. AI가 사람의 생명, 안전, 기본권에 영향을 미치는 영역에서 ‘노력’은 통제 수단이 될 수 없다. 인공지능의 결정이 영향을 미치는 사람은, 그 결정의 이유를 물을 수 있어야 하고, 잘못된 판단에는 이의를 제기할 수 있어야 한다. 이는 단순한 권고가 아니라, 디지털 시대의 기본권이 되어야 한다. 지금처럼 정책 수립부터 집행, 감독까지 모두 정부 주도로 설계된다면, 기술은 권력화되고 거버넌스는 폐쇄적으로 변질될 수 있다. 정부는 민간, 학계, 시민사회를 조율하는 중립적 조정자여야 하며, 권한은 분산돼야 한다. AI 시대가 어느 한 주체의 주도와 통제로 굴러가도록 해서는 안 된다. 윤리, 기술, 사회, 법 각 영역의 전문성과 경험이 함께 작동하도록 해야 한다.

 

이미 유럽연합은 AI법을 통해 위험 기반 접근을 정립하고, 고위험 인공지능에는 사전 인증, 투명성, 설명 가능성, 인권 보호 조치를 법적 의무로 강제하고 있다. 단순한 ‘노력의무’가 아니라, 시스템 개발 전부터 설계, 테스트, 운영 전반에 걸쳐 의무 이행을 문서화하고 감독기관이 직접 확인할 수 있게 한다. 규제기관도 정부 내부가 아니라 독립적으로 구성되며, 기업과 기술 제공자뿐 아니라 시민사회와 전문가단체가 참여하는 다층적 거버넌스 체계를 갖춘다.

 

AI 기본법은 단순한 산업정책이 아니다. 그것은 기술과 인간이 어떻게 공존할지를 묻는 법이며, 권력과 책임이 어떻게 나뉘어야 하는지를 결정하는 사회계약이다. 지금의 AI 기본법은 선언만 있고, 설계는 없다. 아직 시행이 되지 않은 만큼 AI 기본법의 전면 재검토가 필요하다.