#AI 거버넌스

4개의 글

에이전트 시대의 충돌 테스트장: Patronus AI가 $50M으로 짓는 것

Patronus AI의 $50M 시리즈 B는 단순 투자 소식이 아니다. 에이전트 배포가 급증하는 시대에 정적 벤치마크의 한계를 넘어 '디지털 월드 모델'로 장기 자율 태스크를 검증하는 인프라 레이어가 새로운 필수 게이트로 부상하고 있다.

영국 홈오피스가 인종별 오류율 격차를 인지하고도 AI 안면 나이 추정 기술을 망명 신청자에 적용한다. AI 감독위 해산과 영향 평가 비공개가 맞물리며, 알고리즘이 구조적 차별을 자동화할 위험이 현실화되고 있다.

AI 에이전트의 탁월함을 설파하던 KPMG 보고서가 AI 할루시네이션으로 전면 철회됐다. 45개 인용 중 40개가 손상·오도·검증 불가 판정. 이 아이러니가 컨설팅 신뢰 산업 전체에 던지는 질문을 분석한다.

Anthropic이 미공개 모델 Claude Mythos로 전력·수도·병원 시스템의 취약점 1만 건을 찾아냈다고 발표했다. AI 기반 방어가 확장되는 동시에, 검증받지 않은 모델이 공공 인프라에 조용히 배포되는 거버넌스 공백이 열린다.