[미디어스=송창한 기자] 시민사회가 인공지능(AI) 알고리즘에 대한 법제도 마련을 정부와 국회에 촉구했다. 정부가 발표한 AI 알고리즘 정책은 기업의 자율규제에 초점이 맞춰져 있지만, 자율규제만으로는 차별·편향성·불공정성 등 AI 역기능으로부터 인권을 보호할 수 없다는 지적이다. 업계는 정부의 자율규제안이 시장경제 논리에 맞지 않다며 반발하고 있다.

24일 참여연대·민주사회를위한변호사모임·진보넷 등 120개 시민단체는 '인권과 안전, 민주주의가 보장되는 인공지능 정책 요구' 시민사회 선언을 발표했다. 이들은 "우리는 인공지능 챗봇 '이루다'가 어떻게 여성, 장애인, 성소수자, 유색인종에 대한 편견과 혐오를 빠르게 배우고 재현하는지를 직접 목격했다"며 "인공지능의 편향성이 사회적 통제 없이 가정에서, 학교에서, 직장에서 사용되는 제품과 시스템에 바로 적용된다면 우리사회 이러한 편견과 혐오가 항구적이 될 것"이라고 밝혔다.

시민사회는 AI도 인권과 법률을 준수해야 한다며 시급히 관련 법과 제도가 마련되어야 한다고 요구했다. ▲국가감독체계 마련 ▲정보공개와 참여 ▲AI 평가 및 위험성 통제 ▲권리구제 절차 보장 등이 필요하다는 것이다. 이들은 "인공지능으로 영향을 받는 당사자들이나 일반 국민은 인공지능의 도입, 운영 결정에 대해 발언과 참여 기회를 전혀 보장받고 있지 못하다"고 지적했다. 이들은 "공공기관들은 인공지능을 적용한 면접이나 서류평가가 공정한지 검증 않고 사용해왔고, 플랫폼 기업의 불투명한 알고리즘은 노동자와 자영업자들에게 고통을 주고 있다"며 "포털 뉴스의 비밀 알고리즘은 공론장의 편향성에 영향을 미치고 있다"고 비판했다.

현재 과학기술정보통신부, 방송통신위원회 등 AI 관련 정부부처는 '자율규제'에 방점을 찍은 기본원칙을 발표, 가이드라인 마련 등을 위한 작업을 진행 중이다. 과기정통부는 '사람 중심의 인공지능'을 키워드로 자율규범 성격의 '국가 AI 윤리기준'을 발표했다. 방통위는 최근 기업 자율규제에 초점을 맞춘 'AI 기반 추천 서비스 이용자 보호를 위한 기본원칙'을 공개했다.

하지만 자율규제만으로는 AI의 역기능을 방지하고 이용자 보호할 수 없다는 게 시민사회의 비판이다. 이들은 "기업자율적인 윤리가 인권과 법률의 준수 의무를 회피하는 이유가 되어서는 안된다"며 개인정보 보호와 혐오차별 금지를 위한 관련 법률이 마련되어야 한다고 강조했다. 이들은 "AI로 사람에 대한 처분이나 의사결정에 이르도록 하면서 그 보호 방법이나 구제절차에 대한 논의는 충분히 이뤄지지 못했고, 과기정통부 등이 주도하는 인공지능 정책은 산업계의 요구로 점철되어 있다"고 했다.

이에 시민사회는 해외사례를 들어 공정거래위원회, 국가인권위원회, 개인정보보호위원회 등이 AI 규제 논의에 함께 참여해야 한다고 제언했다. 이들은 "다른 나라의 경우 산업관련 부처가 인공지능 정책에 관여하더라도 부분적이거나 기술과 관련한 역할에 그치고 있다. 이들 국가에서 국민을 위해 인공지능을 감독하는 역할은 주로 시장감독기구, 국가인권기구, 개인정보보호감독기관에서 수행한다"며 "국가는 인공지능 국가 감독 체계를 수립해 공정위, 인권위, 개보위가 반드시 참여하도록 해야한다"고 강조했다. 시민사회는 이 같은 선언 내용을 국회 관련 상임위원회와 정부부처 등에 제출할 계획이다.

AI 정부 정책을 둘러싸고 플랫폼 업계와 시민사회의 입장차이는 작지 않았다. 지난 20일 방통위가 주최한 AI 기본원칙 관련 공개 토론회에서 한국인터넷기업협회·KT 등 플랫폼 기업측은 방통위 기본원칙안이 시장경제 논리와 소비자 선택에 반하고, 기업 경쟁력을 저하시킬 수 있다며 반대 입장을 분명히 했다.

권세화 한국인터넷기업협회 실장은 "회사는 이윤을 창출하는 곳이다. 디지털미디어 추천은 소비자에게 더 좋은 제품을 소개해 수익을 창출하는 데에 목적이 있다"면서 "결국 기업의 영업기밀 하나하나를 공개하게 할 여지가 있다. 내부 전담조직을 운영하게 해 사실상 정부가 언젠가 기업을 관리하고 감독하겠다는 의지"라고 비판했다.

반면 한국소비자연맹·소비자시민모임 등 소비자시민사회에서는 알고리즘 공개 의무가 제외돼 이용자 보호 실효성에 의문이 들고, 소비자 피해구제 책임소재가 불명확하다고 지적했다.

정지연 한국소비자연맹 사무총장은 "방통위가 마련한 핵심원칙과 실행원칙에 대체적으로 공감하지만, 투명성 부분에 있어 알고리즘을 제외하는 부분을 강조하고 있는 것이 의문"이라며 "AI 기반 추천서비스의 핵심은 알고리즘이다. 어떤 문제가 발생했을 때 기업들이 알고리즘 뒤에 숨는 경우를 너무 많이 봐왔다"고 짚었다.

☞ 네이버 뉴스스탠드에서 ‘미디어스’를 만나보세요~ 구독하기 클릭!