호주, 첨단 AI 안전검증 법제화 추진

호주 정부가 첨단 AI(프런티어 AI) 기업에 외부 평가와 사고 보고를 의무화하는 '호주 AI 표준' 입법 계획을 발표했습니다. 호주에서 사업하는 모든 프런티어 AI 기업이 대상이며, 국내 기업도 기준에 해당하면 적용받습니다. 기업은 위험 관리 체계를 갖추고 독립된 외부 평가를 받아야 하며, 사고 발생 시 정부에 신속히 알려야 합니다. 위반 기업을 감독하고 제재할 전담 규제기관도 새로 설립됩니다. 다만 프런티어 AI 분류 기준, 법 시행일, 제재 규모, 사고 보고 기한 등 세부 내용은 아직 공개되지 않았습니다.

이 일이 어디서 왔나

호주 정부의 이번 입법 추진은 2026년 6월 발생한 오픈AI 관련 메디케어 정보 유출 사건을 계기로 시작된 안전 규제 논의의 연장선에 있습니다. 앞서 앨버니지 총리는 '신속 검토' 보고서의 18개 권고안을 모두 수용하겠다고 밝혔고, AI 기업에 적용할 6가지 핵심 의무사항(보안 통제, 위험 식별·관리, 의무 신고, 독립 평가 허용, 프레임워크 공개 등)을 공개한 바 있습니다. 이번 '호주 AI 표준' 발표는 그 권고안을 실제 법률과 전담 규제기관으로 구체화하는 단계로 보입니다.