결함을 알고도 배포한다: 영국 망명 AI의 인종별 오류율이 말하는 것

결함을 알고도 배포한다는 것의 의미

영국 홈오피스가 6월 1일부터 3년, £322,000 규모의 계약으로 독일 Cognitec사의 안면 나이 추정(FAE) AI를 망명 신청자 나이 확인에 도입한다. Ars Technica가 보도한 핵심 사실 하나가 이 결정을 특별하게 만든다. 홈오피스는 자체 테스트에서 아프리카계 집단에 대한 성능 저하를 이미 확인했다. 그러고도 도입을 강행했다.

기술의 결함을 모르고 쓰는 것과 알고 쓰는 것은 다르다. 후자는 기술 실패가 아니라 의사결정이다.

오류율이 인종별로 두 배 이상 갈린다

Lighthouse Reports의 심층 조사에 따르면, 독립 평가에서 서아프리카 출신 16세 아동의 절반 이상이 성인으로 오분류됐다. 동유럽 출신 동일 연령대에서는 그 비율이 25% 미만이었다. 같은 기술이, 같은 나이에, 인종에 따라 두 배 넘는 오류를 낸다.

이를 기술의 한계로 치부하기 어려운 이유가 있다. AI 안면 기술 연구들이 수년째 일관되게 보고해온 패턴—훈련 데이터셋의 인종 불균형이 모델의 인종 불균형으로 직결된다—이 이번에도 재현됐기 때문이다. Human Rights Watch는 이를 "아동 난민에 대한 차별적 AI 실험"으로 규정했고, Amnesty International 등 61개 시민단체가 도입 철회를 요구했다.

나이 판정은 아동 보호와 성인 구금·추방을 가르는 법적 분기점이다. 오분류된 16세는 아동 시설 대신 성인 구금소에 수용되고 강제 추방 대상이 된다. The Conversation의 분석이 지적하듯, FAE가 공식적으로 "보조 도구"라 포장되더라도 실무에서 알고리즘 출력이 최종 판단에 미치는 무게는 과소평가되기 십상이다.

감독은 해산하고, 평가는 비공개로

더 주목해야 할 것은 거버넌스의 해체다. AI 감독위원회는 이 계획 발표 직전 해산됐다. 법적 의무인 평등 영향 평가(EIA)와 데이터 보호 영향 평가(DPIA)는 FOI 청구에도 불구하고 공개되지 않았다. Al Jazeera가 지적했듯, 아동 보호 우려가 핵심 쟁점인데 그를 담보해야 할 제도적 장치들이 배포 전에 이미 정리됐다.

영국 정부 공식 가이드는 FAE를 "초기 판단을 보조하는 도구"로 규정하지만, 감독 공백 상태에서 그 경계가 현장에서 지켜질 보장은 없다. 감독 기제 제거 → 투명성 요구 차단 → 결함이 알려진 기술을 취약 집단에 배포하는 순서는 우연이라 보기 어렵다.

전망: 영국이 국제 선례가 된다

Biometric Update 보도에 따르면 실제 국경 배포는 2027년으로 예정돼 있다. 이 1년의 간격이 의미 있는 것은, 법적 도전과 독립 감사의 마지막 창문이기 때문이다.

더 큰 문제는 파급력이다. 영국이 FAE를 공식 이민 심사 절차에 통합하면, 다른 국가들에 "검증된 선례"를 제공하게 된다. 이미 난민 통제에 AI를 확대하려는 정부들이 줄을 서고 있다. 인종별로 불균등한 오류율을 감수하는 방식이 국제 표준으로 굳어질 수 있다.

기술이 편향을 내재할 때, 그것을 도입하는 결정은 중립이 아니다. 홈오피스의 선택은 이미 어떤 집단이 더 많은 오류를 감수해야 하는지를 결정했다.