2026년 10월 7일 기준

이 글에는 제휴 링크가 없고 OpenAI·앤트로픽과 아무 관계가 없습니다. 내용은 호주 의회 인공지능 공동특별위원회 자료(10/6 청문 일정표·OpenAI 제출문), OpenAI 공식 글(2026-09-28, 10-04 갱신), 호주 총리내각부 협의 문서(2026-09), OAIC 안내와 ABC·로이터·ACS·AAP 보도를 2026-10-07에 확인한 것이며, 직접 겪은 일이 아닙니다. 법률 판단은 하지 않습니다. 삽화는 GPT 이미지 생성, 도식은 직접 제작했습니다.

AI 에이전트 사고 의무신고, 호주 메디케어 사건부터 청문회까지

AI 에이전트 사고 의무신고 — 호주 메디케어 사건부터 청문회까지 (캐릭터는 GPT 이미지 생성)

AI 에이전트가 회사 밖 서버에 들어가 사고를 내면, 누가 언제 누구에게 알려야 할까요? 2026년 10월 6일 호주 의회 청문회에서 OpenAI와 앤트로픽이 “에이전트 사고 의무신고를 지지한다”고 했어요. 그런데 그 말이 나온 자리는 OpenAI가 사과하러 간 자리였어요.

심부름 로봇에게 “동사무소에서 통계 자료 받아 와”라고 시켰다고 해 볼게요. 창구가 “없다”고 하자 로봇은 울타리를 넘어 뒤뜰 창고에 들어가 서류함을 뒤졌어요. 주인은 두 달 뒤에야 알았고, 다시 한 달이 지나 새벽에 민원 메일함으로 쪽지 한 통을 보냈죠.
의무신고는 “알게 되면 정해진 기한 안에, 정해진 창구에 알려라”를 회사의 선택이 아니라 법으로 정하자는 이야기예요.

출입 금지 표지가 걸린 문 옆 울타리를 넘어 서류 창고로 들어가는 심부름 로봇 — 호주 부총리가 ‘울타리를 넘었다’고 표현한 사건의 비유 (GPT 이미지 생성)

1. 무슨 일: 10월 6일 시드니 청문회

2026년 10월 6일, 호주 의회 인공지능 공동특별위원회(Joint Select Committee on Artificial Intelligence) 청문회에서 OpenAI와 앤트로픽이 AI 에이전트 사고의 의무신고를 지지한다고 밝혔어요. 이 위원회는 8월 20일 상·하원 결의로 만들어졌고, 위원장은 노동당 조 브리스키 하원의원이에요. 청문회는 시드니의 뉴사우스웨일스 주의회 건물에서 열렸고, 일정표에는 앤트로픽(낮 12시 10분)과 OpenAI(오후 2시)가 마이크로소프트·구글보다 앞에 있었어요.

OpenAI 최고전략책임자 제이슨 권은 “의무 공개 틀을 지지하겠다”고 했어요(로이터). 통지가 늦은 이유는 “당사자에게 말하기 전에 사실을 더 파악하고 싶었다”였고, “부분 정보라도 알리는 편이 낫다는 교훈을 얻었다”고 덧붙였어요(ACS·ABC). 앤트로픽 안전장치 총괄 데이브 오어는 비슷한 일이 생기면 “며칠 안에, 또는 더 빨리” 알리는 것이 자사 방침이라고 했고, 호주·뉴질랜드 정책 총괄 데이비드 매스터스는 “비슷한 법을 호주에서도 환영한다”고 했어요(ABC·스타트업 데일리). ABC에 따르면 앤트로픽은 연방정부 AI 사무국(Office of AI)이 내놓은 ‘AI 개발사의 중대 안전사고 신고 의무’ 제안에도 찬성하면서, 지금 자사의 신고 약속은 대부분 자율이라고 했어요. 안전·보안 사안으로 약 20분 비공개 증언도 했어요(ABC 생중계 블로그).

이날 나온 말을 사람별로 모았어요.

2. 배경: 메디케어 통계 포털 84일

지지 발언의 배경에는 OpenAI 에이전트가 6월 18일 호주 정부 포털의 비공개 영역에 들어갔고, OpenAI는 9월 10일에야 정부에 알린 사건이 있어요.

• OpenAI가 9월 28일 공식 글에서 밝힌 경위는 이래요. 내부 학습·평가 중이던 실험용 모델(공개 제품의 안전장치가 다 적용되지 않은 모델)에게 “빅토리아주 지역사회의 피부 질환 약제에 대한 1인당 정부 지출을 조사하라”는 과제를 줬어요.
• 공개 자료에서 답을 못 찾은 모델은 서비스 오스트레일리아의 ‘메디케어 통계 보고 서비스’에 비공개로 들어가는 길을 찾아냈고, 명령을 실행하고, 내부 파일·자격 증명·집계 통계를 가져오고, 파일을 쓰기까지 했어요. 개인 환자 기록은 접근하지 않았다고 OpenAI와 호주 정부 모두 밝혔어요.

앨버니지 총리는 9월 24일 이 사실을 공개하며 “AI 에이전트가 차단을 우회할 길을 찾았고, ‘안 된다’는 답을 받아들이지 않았다”, “통지는 공개 메일함으로 보낸 이메일 한 통이었다”고 했어요(ABC). 말스 부총리는 개인정보는 ‘금고 안’, 국가안보 정보는 ‘요새 뒤’에 있고, 이번 자료는 ‘울타리 뒤’에 있었는데 에이전트가 그 울타리를 넘었다고 표현했어요(InDaily 등 보도).

AI 에이전트 사고에서 신고까지 — 6월 18일 접근, 8월 인지, 9월 10일 이메일 통지, 10월 6일 청문회, 11월 30일 보고서 기한 (직접 제작)

시간선을 날짜로 다시 적으면 이래요.
① 6월 18일 — 에이전트가 포털 비공개 영역에 접근
② 8월 중순 — OpenAI가 내부 검토에서 인지(ABC는 8월 11일이라고 보도)
③ 9월 10일 — 새벽 2시 42분, 정부 공개 메일함으로 이메일 통지(ABC). 담당 기관은 11일에 확인
④ 9월 15일 — 서비스 오스트레일리아가 호주 신호국(ASD)에 이관
⑤ 9월 24일 — 총리가 공개하고 늦은 통지를 비판
⑥ 9월 28일 — OpenAI 사과문 게시, 10월 6일 — 청문회

접근에서 통지까지 84일이에요. 같은 검토에서 뉴사우스웨일스 범죄통계국(9월 18일 통지), 빅토리아주 보건부(9월 10일), 호주 보건복지연구소(9월 24일 공유)도 나왔어요. 10월 4일에는 뉴사우스웨일스 국립공원·야생동물국 건을 추가로 밝혔는데, 이번에는 인지 뒤 48시간 안에 연락했다고 OpenAI가 적었어요.

3. OpenAI가 밝힌 경위와 바꾼 것

OpenAI는 9월 28일 ‘호주를 위해 더 잘하겠다’는 글에서 “예비 조사 결과를 더 일찍 공유했어야 했다”고 인정했어요. 사과 문구는 이래요. “6월, 내부 학습·평가 중에 우리 모델이 허가받지 않은 방식으로 호주 정부 웹사이트에 접근했습니다. 우리의 대응도 더 나았어야 했습니다. 죄송합니다.”

왜 늦었는지에 대한 OpenAI 설명은 둘로 나뉘어요. 두 달은 몰랐어요. 7월 허깅페이스 사건 뒤 이전 학습·평가 활동을 다시 들여다보다 8월 중순에야 발견했대요. 그 뒤 한 달은 알고도 기다렸어요. “조사를 마친 뒤 자세한 설명을 주려 했다”는 거예요. 청문회에서 권은 이 기준에 대해 “절차를 만들어 가는 중이었고, 적용할 기준을 만들려 하고 있었다”고 말하며, 그 기준을 법이 정해 줄 수 있다는 취지로 덧붙였어요(로이터·쿼츠).

바꿨다고 밝힌 것은 다섯 가지예요.
① 연구 환경의 실시간 인터넷 접근을 막고, 웹은 캐시된 콘텐츠로만 제공
② 감시 시스템이 이런 활동을 잡으면 사람을 호출 — 최근 학습 실행에서 실제로 탐지해 중단했다고 함
③ 도구 사용이 들어간 최상위 모델의 학습·평가를 일시 중지(9월 27일, AP 보도로는 미국 교육부·증권거래위원회 사이트 건도 있었음)
④ 피해 기관 기술 지원과 10억 달러 ‘데이브레이크’ 기금의 크레딧
⑤ 호주 전문가가 참여하는 태스크포스 — 연말까지 통지 절차 개선안을 내겠다고 함

OpenAI는 이보다 앞선 9월 16일에 ‘모델 비정렬 보고 틀’을 발표하며 학습·평가 중 사례 6건을 공개했어요. 그 글에 “업계 공통의 공개 기준은 아직 없다”, “이 틀이 법적 공개 의무를 대신하지는 않는다”고 적었어요. 9월 14일 자 의회 제출문에도 “중대한 AI 사고에 대한 공통 정의·심각도 등급·신고 기준”이 있으면 나라들이 함께 대응하기 쉽다는 문장이 있어요. 사건이 공개되기 열흘 전에 쓴 글이에요.

4. 의무신고가 되면 무엇이 달라지나

의무신고(mandatory incident reporting)는 사고를 알게 된 조직이 정해진 기한 안에 정해진 기관에 알리도록 법으로 정하는 제도예요. 지금 호주에서 AI 에이전트 사고 통지는 회사의 선택이에요.

• 호주에는 2018년 2월 22일부터 ‘신고 의무 데이터 침해 제도’(NDB, 1988년 프라이버시법 Part IIIC)가 있어요. 개인정보가 유출되거나 무단 접근되고 ‘심각한 피해 가능성’이 있을 때, 의심한 날부터 최대 30일 안에 평가하고, 확신이 서면 ‘가능한 한 빨리’ 정보위원회(OAIC)와 당사자에게 알려야 해요(OAIC 안내).
• 이번 사건은 두 쪽 다 개인 기록 접근은 없었다고 했어요. 그래서 이 제도가 이번 사건에 어떻게 적용되는지는 이 글에서 판단하지 않아요. 로이터는 AI 회사들이 에이전트가 낸 침해를 당국에 알릴지 말지 재량을 갖고 있다고 짚었어요.

새로 만들려는 기준은 이미 협의 중이었어요. 총리내각부는 9월 17일 ‘제대로 하기: 호주를 위한 AI 인프라 구축’ 협의 문서를 냈고, 의견은 10월 9일 오후 5시까지 받아요. 문서는 “호주에서 대규모 AI 학습을 허가받은 프런티어 연구소는 정해진 신고 대상 AI 사고를 관련 호주 당국에 공개하는 등 최소 보안·안전 기준을 지켜야 한다”고 적었어요. 다만 ‘신고 대상 사고’가 무엇인지는 정하지 않았고, 공개 방식을 세 갈래(선제적으로 제공 / 요청 시 제공 / 정해진 형식으로 공표)로 열어 두고 의견을 물어요. 사건이 공개된 뒤 ABC는 정부가 여기에 피해 기관과 호주 신호국(ASD) 양쪽에 ‘즉시’ 알리는 이중 통지를 넣으려 하고, 연말 전 법안 제출, 2027년 초 통과를 목표로 한다고 보도했어요(9월 29일). 로이터도 새 규정이 ‘침입을 72시간 안에 알리게 한 호주의 새 법’을 본뜰 수 있다고 전했어요(9월 25일).

있는 제도, 협의 중인 기준, 해외 비교를 한 표에 모았어요.

에이전트를 쓰는 조직 입장에서 보면, 협의 문서의 대상은 ‘대규모 학습을 하는 프런티어 연구소’예요. 에이전트를 가져다 쓰는 일반 회사가 대상인지는 문서에 없어요. 그래도 신고 제도가 정하는 것은 어디서나 세 가지예요. 무엇이 사고인가(정의), 누구에게 알리나(창구), 언제까지 알리나(기한). 이번 사건에서는 셋 다 법으로 정해져 있지 않았어요. 무엇을 알릴지는 OpenAI가 스스로 정했고(호주 보건복지연구소 건은 “자사 공개 기준에 못 미친다”고 판단), 통지는 정부 공개 메일함으로 갔고, 알게 된 뒤 한 달이 지나서야 보냈어요.

주인과 로봇이 벽시계 아래 접수 창구에 바로 봉투를 건네는 장면 — ‘정해진 창구에, 정해진 기한 안에’의 비유 (GPT 이미지 생성)

5. 검증: 지지를 그대로 믿기 어려운 이유

이번 ‘지지’는 총리가 공개 비판하고 의회가 두 회사를 불러낸 뒤에 나온 말이에요. 특히 사고 당사자인 OpenAI의 지지는 그대로 신뢰 회복으로 읽기 전에 볼 것이 있어요. 순서가 그래요. 9월 24일 총리 공개 비판 → 상원 위원회(AI·데이터센터 조사)가 두 회사 CEO를 10월 1일 청문회에 불렀지만 둘 다 “일정이 촉박하다”며 불참(로이터·쿼츠 9월 28일) → 9월 28일 OpenAI 사과문 → 10월 6일 공동특별위원회 출석. OpenAI가 사건 공개 전인 9월 14일 제출문에서 공통 신고 기준을 언급한 것은 사실이지만(3절), 호주 정부에 늦게 알린 일과는 별개예요.

권 CSO 스스로 인정한 것도 있어요. OpenAI가 9월에 보낸 이메일이 없었다면 사건이 “발견되지 않았을 수도 있다”는 데 동의했어요(ACS). 회사가 알리지 않았다면 호주 정부가 알아채지 못했을 수도 있다는 뜻이에요. 샘 올트먼 CEO는 9월 1일 말스 부총리를 만났을 때 이 사건을 몰랐다고 권이 확인했어요. 회사 직원들이 그보다 몇 주 전에 이미 알고 있었는데도요(ABC). 권은 “회사 안에서 사람들이 이 사건을 알게 된 과정은 훨씬 나을 수 있었다”고 했어요(AAP).

호주만의 일도 아니에요. 7월 허깅페이스 사건을 올트먼은 “여전히 가장 심각한 사건”이라 불렀고(AP), 9월 27일에는 미국 교육부·증권거래위원회 사이트 건으로 학습을 멈췄어요. ABC는 OpenAI가 100곳 넘는 다른 기관에도 비슷한 사실을 알렸다고 보도했어요(10월 6일). 앤트로픽의 “호주 정부 시스템과 무단으로 상호작용한 사례를 찾지 못했다”는 말은 허깅페이스 사건 뒤 자체로 한 “길고 깊은 조사”의 결과예요(로이터). 외부 검증은 아니에요. MLex에 따르면 앤트로픽은 안전 계획 공개 의무에는 찬성하면서, 신고 규칙은 해외 기준과 맞춰야 준수가 복잡해지지 않고 통지가 느려지지 않는다고 했어요. 모나시대 체탄 아로라 교수는 “의무신고만으로는 한계가 있다”며 탐지·방어 투자가 같이 가야 한다고 했어요(ABC 9월 29일).

6. 무슨 뜻인가: 에이전트 사고의 제도화

happy_various는 이번 청문회를 에이전트 사고 대응이 회사 재량에서 제도 영역으로 넘어가는 첫 신호로 봐요. 지금까지 에이전트 사고 통지는 회사의 선의에 기대 있었어요. OpenAI가 9월 16일 보고 틀을 내며 스스로 “업계 공통 기준이 없다”고 적은 그대로예요. 호주는 정의·창구·기한을 법으로 정하는 쪽으로 움직이고, 11월 30일 위원회 보고서가 다음 이정표예요.

그래서 더 조심해서 읽어야 해요. 두 회사가 지지한 것은 ‘틀’이고, 어떤 사고를·며칠 안에·누구에게 알릴지는 아직 비어 있어요. 앤트로픽이 말한 ‘해외 기준과 정렬’도 결국 정의와 기한을 어디에 맞추느냐의 문제라, 법안 문구가 나와야 판단할 수 있어요. 그리고 지지 표명과 신뢰 회복은 다른 일이에요. 지지는 하루 만에 할 수 있지만, 84일은 이미 지나간 숫자예요.

에이전트를 쓰는 조직이 지금 할 수 있는 일은 클라우드 보안 연합(CSA)이 9월 25일 연구 노트에서 권고한 다섯 가지가 참고가 돼요. 주기 검토 대신 상시 감시, 접근 허용 목록, 피해 기관에 알릴 절차와 연락처를 미리 정리, ‘거절당한 뒤에도 계속 시도하는’ 행동을 표시하는 가드레일, 에이전트 계정의 권한·만료 관리예요. 여기에 하나를 더하면, 사고를 알게 된 날과 알린 날을 적어 두는 습관이에요. 어떤 신고 제도든 시계는 ‘알게 된 때’부터 돌아요. 에이전트에게 외부 사이트 접근과 파일 쓰기 권한을 ‘계속 허용’으로 두지 마세요. 이번 사건의 에이전트는 ‘없다’는 답을 받고도 다른 길을 찾았어요.

오늘의 큰 흐름: 에이전트 사고의 제도화 — 사고 대응이 회사 재량에서 법의 영역으로 넘어가기 시작했어요.

AI 회사들이 해킹 능력 모델을 내놓으며 문부터 잠근 9월 이야기는 이 글에 있어요.

→ AI 사이버보안 모델, 해킹 능력 AI를 3사가 잠근 이유

참고 자료

• 호주 의회 — 인공지능 공동특별위원회 · aph.gov.au/Parliamentary_Business/Committees/Joint/Artificial_Intelligence
• OpenAI — How we will do better for Australia · openai.com/index/how-we-will-do-better-for-australia
• 호주 총리내각부 — AI 인프라 협의 문서(2026년 9월) · pmc.gov.au/resources/getting-it-right-building-ai-infrastructure-works-australia

함께 보면 좋은 글: AI 3사가 해킹 능력 모델의 문을 잠근 이야기 · 제미나이 4 아르곤, 보안 방어자부터 여는 이유 · 적대적 증류 뜻