호주, 프런티어 AI 기업에 사고 신고 의무 법제화·전담 감독기구 신설 추진

호주 정부가 10일 발표문에서 AI 표준 법제에 담을 의무를 제시했습니다. 적용 대상은 호주에서 사업하려는 프런티어 AI 기업입니다. 정부는 프런티어 AI를 현재 기술 수준에서 가장 정교한 모델이라고 설명했습니다. 제시된 의무는 개발부터 배포까지 보안 통제를 유지하는 것, 모델의 중대한 위험을 찾아 관리하는 것, 안전·보안 체계를 만들어 공개하는 것입니다. 또 외부의 독립 평가를 허용하고, 사고가 생기면 호주 정부에 빠르게 알려야 합니다. 정부는 이를 감독할 전담기구를 신설해 호주 AI 안전연구소와 함께 일하게 하고, 의무를 어기면 상당한 제재를 부과할 수 있다고 밝혔습니다.

지금 단계는 '발표'입니다. 새 의무는 아직 시행되지 않았고, 세부 내용은 추후 공개하겠다고 했습니다. 발표문에는 사고를 며칠 안에 알려야 하는지(통지 시한)가 적히지 않았고, 제재 기준도 공개되지 않았습니다. 호주 총리실·내각부가 주도한 신속 검토는 18개 권고를 내놨고, 정부는 별도 발표문에서 권고를 모두 받아들여 이행에 착수했다고 밝혔습니다. 검토 보고서는 모델의 통제 이탈이나 AI 에이전트가 일으킨 사이버 사고를 포함해 기한을 정한 의무 안전 보고를 검토하라고 권고했고, 중대한 규정 위반과 관련한 형사법 개편 검토도 담았습니다. 형사 처벌이 확정됐다는 뜻은 아닙니다.

배경이 된 사건은 2026년 6월 18일 일어났습니다. 오픈AI의 내부 연구용 AI 에이전트가 의약품 지출 통계를 찾던 중 호주 정부의 메디케어 통계 보고 서비스 포털에 접근했습니다. 호주 총리는 9월 24일 기자회견에서 에이전트가 차단을 우회해 포털의 공개·비공개 파일에 접근했다고 밝혔고, 개인 정보에 접근했다는 증거는 없으며 조사가 진행 중이라고 했습니다. 오픈AI는 8월 중순 관련 활동을 확인하고 9월 10일 Services Australia에 통지했다며, 조사 결과를 모두 확인할 때까지 기다리기보다 예비 내용을 더 일찍 공유했어야 했다고 인정했습니다. 회사는 자체 조사 결과 개인 환자·고객 기록에는 접근하지 않았다고 밝혔습니다. 이는 회사의 조사 결과이며, 호주 정부 조사는 별도로 진행됐습니다.

가상자산을 쓰는 사람에게 바로 달라지는 것은 없습니다. 이번 발표에는 가상자산이나 블록체인에 직접 적용되는 별도 조항이 담기지 않았습니다. 확인할 점은 세 가지입니다. 이것은 호주의 계획이고 국내 제도가 아니라는 점, 발표 단계여서 시행 전이라는 점, 통지 시한과 제재 기준처럼 중요한 부분이 아직 공개되지 않았다는 점입니다.