[뉴스클레임]

시민사회가 인공지능(AI) 기본법이 국회 본회의를 통과한 데 대해 "고위험 AI로 인해 발생할 수 있는 위험으로부터 시민의 안전과 인권을 보호해야 한다는 시민사회의 요구를 외면한 정부와 국회를 규탄한다"고 밝혔다.

광주인권지기 활짝, 건강권실현을위한보건의료단체연합, 민주사회를위한변호사모임 디지털정보위원회, 삶과노동을잇는배움터 이짓, 참여연대, 홈리스행동 등은 27일 논평을 내고 "이번 국회 본회의를 통과한 AI 기본법은 시민사회가 줄기차게 요구해왔던 핵심적인 내용을 누락하고 있어, 21대 국회에서 논의됐던 법안과 크게 다르지 않다"며 이같이 말했다.

전날 국회는 본회의에서 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI기본법)을 함께 의결했다. 이 법안은 재석 의원 264명 중 찬성 260표, 반대 1표, 기권 3표로 통과됐다.

시민사회는 ▲금지해야 할 인공지능에 대한 규정이 없고 ▲고영향 인공지능 사업자의 범위는 여전히 협소하며 ▲고영향 인공지능 사업자의 책무 위반에 대한 처벌 규정도 미흡하다고 지적했다.

또 ▲인공지능에 영향받는 자의 정의가 포함된 것은 다행이나 정작 영향받는 자의 권리 및 구제에 대한 조항은 두고 있지 않으며 ▲학습 데이터 공개 등 범용 인공지능 사업자의 의무 조항 역시 포함돼 있지 않다고 말했다. ▲인공지능 인권영향평가도 ‘노력할 의무’만을 부여하고 있어 실효성이 있을지 의문이며, 독소조항을 새롭게 포함했는데 ▲국방 또는 국가안보 목적의 인공지능을 이 법의 적용에서 배제한 것이라고 꼬집었다. 

이들은 "그나마 정부여당안보다 보완된 일부 내용이 최소한의 규제로 작동할 수 있는 부분은 불행 중 다행이다"라며 "이번 국회를 통과한 AI 기본법이 AI의 위험성을 예방하고 통제하는데 과연 실효성이 있을지는 의문이다"라고 밝혔다.

특히 "실제 AI의 편향, 오류, 남용으로 인해 차별적 결정, 감시, 안전 위험 등이 발생하더라도 이에 대해 피해 당사자가 인지하지 못하거나 그 원인을 제대로 파악할 수 없을 가능성이 높다는 점이야말로 가장 큰 문제"라고 했다.

시민사회는 "비록 이번에 제정된 AI 기본법 규정상으로는 AI에 대한 제대로 된 규율이 어렵게 됐지만, 행정당국의 권한을 확인하는 것을 넘어 영향을 받는 자가 적극 적인 권리를 행사해 우리 사회에 도입된 AI 시스템이 투명성과 책임성을 갖고 운영되도록 시민사회는 감시의 노력을 게을리하지 않을 것"이라고 강조했다.

끝으로 "AI 기술의 빠른 발전 속도를 고려할 때, 정부와 국회 역시 AI 기본법의 문제점을 빠르게 보완하고, 안전과 인권에 기반한 AI 기술 개발이 이뤄질 수 있도록 노력할 것을 촉구한다. 특히 각 부처는 소관 분야별로 규제를 집행하는 특별법 제정을 통해 AI의 위험성을 최소화할 필요가 있다"고 말했다.