챗GPT(OpenAI), 제미나이(Google) 등 글로벌 인공지능(AI) 서비스가 국민 일상과 산업 전반에 빠르게 확산되는 가운데, 해외 AI기업의 국내 법적 책임을 강화하기 위한 입법이 추진된다. 해외 AI서비스가 국내 시장에서 막대한 영향력을 행사하는 만큼, 위법행위나 사고 발생 시 신속하게 대응할 수 있는 실질적 책임체계를 마련하겠다는 취지다.

더불어민주당 조인철 의원(광주 서구갑, 국회 과학기술정보방송통신위원회)은 13일, 해외 AI 사업자의 국내대리인 지정 및 관리 절차를 강화하는 내용을 골자로 한 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하 AI기본법) 일부개정법률안'을 대표 발의했다고 밝혔다.

◆ AI 서비스는 ‘국경 없는데’, 책임은 ‘사각지대’... 국내 기업 역차별 우려
AI 챗봇, 생성형 AI, 추천 알고리즘, 자동화 의사결정 시스템 등 AI서비스는 이미 국민 생활과 산업 현장 전반에 깊숙이 자리 잡고 있다. 문제는 위법행위나 사고가 발생했을 때 해외 본사에 대한 국내 법 집행과 후속 조치 이행을 담보하기 쉽지 않다는 점이다.

국내 AI기업은 AI기본법 위반 시 자료 제출, 시정 요구, 제재 등 국내 법령에 따른 책임을 부담한다. 반면 해외 AI기업은 국내 책임 주체가 불분명할 경우 정부의 자료 제출 요구나 후속 조치 이행을 담보하기 어렵다. 이 때문에 국내 기업만 규제 부담을 지고, 해외 AI기업은 사실상 책임 공백 속에서 사업을 영위하는 역차별 구조가 발생할 수 있다는 우려도 제기된다.

◆ 국내대리인 지정 의무에도 신고 기업은 엔트로픽 단 1곳…실효성 보완 필요
현행 AI기본법은 국내에 주소 또는 영업소가 없는 일정 규모 이상의 해외 AI사업자에게 국내대리인을 지정하도록 하고 있다. 구체적으로는 전년도 매출액 1조 원 이상, AI 서비스 부문 매출액 100억 원 이상, 일평균 국내 이용자 수 100만 명 이상인 경우 등이다. AI서비스 관련 사고로 자료 제출을 요구받은 경우에도 지정 대상이 될 수 있다.

그러나 현행 제도는 대리인 변경 시 신고 의무가 명확하지 않고, 정부와의 상시 연락 유지 기준도 미흡하다. 특히 해외 AI사업자가 국내 법인을 두고 있는 경우에도 해당 법인을 국내대리인으로 우선 지정하도록 하는 근거가 부족해, 사업 운영 실태를 알지 못하는 형식적 대리인이 지정될 가능성도 있다.

조인철 의원실에 따르면, 현재 과학기술정보통신부에 국내대리인을 신고한 해외 AI기업은 '엔트로픽(Anthropic)' 1곳에 불과하다. 지정 의무 규정이 있음에도 이행 실적이 극히 저조한 만큼, 제도 실효성을 높이기 위한 구조적 보완이 시급하다는 지적이 나온다.

◆ 국내 법인 있으면 대리인으로 지정…변경신고·상시연락 의무 신설
이번 개정안은 국내대리인 제도를 단순한 행정 절차가 아니라, 해외 AI기업의 국내 책임을 확보하는 실질적 장치로 강화하는 데 초점을 맞췄다.

주요 내용은 ▲국내대리인 변경 시 과학기술정보통신부 장관에게 변경신고 의무화 ▲해외 AI사업자가 국내 법인을 설립한 경우 해당 법인을 국내대리인 우선 지정 ▲국내대리인의 성명·주소·연락처·담당자 정보를 인터넷 사이트 등에 공개하고 과학기술정보통신부에 통보 등이다.

또한 ▲국내대리인이 과학기술정보통신부와 상시 연락이 가능하도록 필요한 조치를 취하도록 하고 ▲관련 의무 위반 시 3천만원 이하의 과태료를 부과할 수 있도록 했다.

이를 통해 해외 AI기업의 국내 책임 주체를 명확히 하고, 위법행위나 사고 발생 시 정부가 신속하게 연락, 자료 확인, 후속 조치에 나설 수 있는 기반을 마련하겠다는 취지다.

◆ 조인철 의원 “글로벌 빅테크도 국내법 테두리 안에서 공정하게 경쟁해야”
조인철 의원은 “AI서비스는 이미 국경을 넘어 국민 일상과 산업 전반에 중대한 영향을 미치고 있지만, 책임 체계는 여전히 해외 본사의 선의에 기대는 수준에 머물러서는 안 된다”고 밝혔다.

이어 “AI기본법상 국내대리인 지정 대상이 규정돼 있음에도 실제 신고 기업이 ‘엔트로픽(Anthropic)’ 단 한 곳에 그친 것은 제도의 실효성을 재점검해야 한다는 명확한 신호”라며 “국내대리인은 단순한 우편함이나 연락창구가 아니라, 국내 이용자 보호와 정부 대응을 위한 실질적 책임창구가 되어야 한다”고 강조했다.

조 의원은 “이번 개정안을 통해 해외 AI기업의 책임 공백을 메우고, 국내외 기업이 동일한 기준 아래 공정하게 경쟁할 수 있는 ‘기울어지지 않은 운동장’을 만들겠다”고 말했다.

한편, 조인철 의원은 '정보통신망법' 등 관련 법 개정을 통해 글로벌 빅테크의 국내대리인 책임성을 강화하는 입법을 지속 추진해왔다. 또한 AI 생성물 표시 의무화, 글로벌 빅테크 플랫폼 책임성 강화, 디지털 인프라 안정성 확보 등 AI 시대 국민 보호와 디지털 주권 강화를 위한 입법 활동에도 속도를 내고 있다.