인공지능(AI) 면접에서 인공지능이 응시자에게 A와 B+로 평가했지만, 면접관은 하위 2등과 1등으로 평가했으며, 면접관들이 1등과 2등으로 평가한 합격자에는 AI가 B0와 B-로 평가하는 등 사람과 AI 면접관의 심사 결과 간 괴리가 커, AI 면접의 공정성에 문제가 제기되고 있다.

오정미 변호사 서울대 공익법률센터 변호사는 17일 정필모 의원과 정보인권연구소가 주최해 온라인으로 개최된 '인공지능의 공정성, 투명성, 책임성 보장을 위한 법제 정비 방안' 국회토론회에서 정 의원실 분석 자료를 인용해 '마에스트로 연수생 합격자 150명의 점수를 분석한 결과, 이 같은 결과가 나타났다는 문제를 지적했다.

오 변호사는 또 "한국방송통신전파진흥원(KCA)의 경우, 3년 동안 신입사원 면접에서 AI 면접을 보조수단이 아닌 당락을 결정하는 수단으로 활용해 왔지만, 불합격자를 어떤 기준을 적용해 불합격시켰는지 이유를 전혀 알 수 없었다"며 "이는 AI가 '블랙박스'로 설명 불가능한 문제가 있는데, 인사혁신처는 공공기관 면접에 대해 오히려 투명성, 공정성, 효율성을 높인 인사혁신 사례로 선정했다"고 밝혔다.

그는 "지난해 발표된 정부의 '인공지능 법·제도 규제 정비 로드맵'에 따르면 기업의 자율성을 존중하는 시장 친화적 법 제도를 만드는 것이 골자로 AI 산업 육성에만 치우쳐 있다"며 "AI와 상호작용하는 국민들에 대한 구체적인 내용이 없으며, 국민의 기본권, 기업의 제조물 책임, 소비자 보호 법적 규제 방안이 누락돼 있다"고 지적했다.

오 변호사는 다른 법률과 관계도 명확치 않은데, 지능정보화기본법은 일반법으로 하고, 인공지능은 지능정보화기본법의 특별법 형태로 제정돼야 하며, 소비자 보호, 인권보장, 이용자를 위한 법률를 제정해야 한다고 강조했다. 또 법 제정안이 산업계에 한정돼 있어, AI의 정의 조항에 이용자를 추가해야 한다고 덧붙였다.

그는 '고위험 인공지능 분류체계 및 영향 평가'가 필요하다는 의견도 제시했다. 오 변호사는 "의료, 운송, 사법 등 중대한 위험이 예상되는 분야, 부상, 사망을 초래하거나 개인이나 법인에 피할 수 없는 영향을 미치는 경우 등에 고위험 인공지능 분류체계가 필요하다"며 "고위험 AI로 분류된 제품에 대해 규제가 적용돼야 하며 EU(유럽연합) 백서처럼 자발적 표시가 바람직하다"고 말했다. 또 AI를 정부의 조달지침에 도입시, 각 단계별 인공지능 영향평가를 실시해야 한다고 밝혔다.

또 고위험 AI 등의 경우, 책임성 강화를 위해 사람의 감독 의무가 필요하며, 미국의 FTC(연방거래위원회)와 같이 알고리즘을 사용해 신용점수를 부여해 사람이 자동의사결정이 되는 경우, 주요 원인과 결과를 설명해야 할 의무를 부과해야 하며, 공공 부분에서 AI 사용지 통지와 설명 의무를 가져야 한다고 설명했다. 필요시 데이터에 관한 기록이나 데이터 자체를 보존해 문서화 및 기록보존 의무도 필요하다고 덧붙였다.

AI 거버넌스 구조에서는 현재는 AI 법제 마련에 과학기술정보통신부 중심인 데 소비자 보호를 위해 공정거래위원회, 인권 보장을 위해 국가인권위원회와 개인정보보호위원회 등이 같이 참여해야 하며, 소비자, 정보인권 단체 등 시민사회가 포함돼야 한다고 강조했다.

이어 김민우 충북대 박사는 '헌법과 인공지능'을 주제로 한 발표를 통해 "인공지능이 국민처럼 기본권을 향유할 수 있는 기본권과 법인격 주체성을 갖는 지, 책임능력이 있고, 개인정보를 침해하지 않는 지 주요하게 들여다볼 필요가 있다"며 "AI 알고리즘에 의한 인권 침해, 킬러로봇 등 자율무기 통제와 AI가 만든 창작물의 경우, 저작권은 AI에 있는 지 AI를 개발한 사람에 있는 지를 따져봐야 한다"고 밝혔다.

그는 특히, "AI가 인간의 노동력을 대체하는 상황에서 전 국민을 상대로 하는 '기본 소득제' 도입을 고민해야 하는 시점"이라며 "인공지능 등 새로운 지능적 존재의 법적 지위, 권리 및 민형사 책임의 범위 등 새로운 법 규범이 필요하다"고 강조했다.