[지디넷코리아]호주가 첨단 인공지능(AI) 안전관리를 기업 자율에 맡기지 않고 법으로 의무화한다. 기업에 외부 평가와 사고 보고를 요구하고 이를 감독할 전담 규제기관도 세운다.호주 정부는 10일(현지시간) 첨단 AI 기업에 안전·보안 의무를 부과하는 '호주 AI 표준' 입법 계획을 발표했다. 호주에서 사업하려는 모든 프런티어 AI 기업을 대상으로 한다. 국내 기업도 적용 기준에 해당하면 새 안전 의무를 지켜야 한다.프런티어 AI는 현재 기술 수준에서 가장 앞선 고성능 모델을 뜻한다. 호주 정부는 이러한 AI가 생산성을 높이고 의료 서비스를 개선할 수 있지만 안전하게 사용하지 않으면 큰 피해를 일으킬 위험도 있다고 설명했다.정부가 예고한 법제화가 이뤄지면 기업은 AI 개발과 서비스 운영 전반에 보안 체계를 갖춰야 한다. 모델이 일으킬 수 있는 심각한 위험을 파악하고 이를 줄일 대책도 마련해야 한다.안전 점검을 회사 내부에서만 끝낼 수도 없다. 기업은 독립된 외부 평가를 허용하고 사고가 발생하면 호주 정부에 신속히 알려야 한다. 안전·보안 관리 방침을 공개하고 기술 변화에 따라 개정되는 기준과 규칙도 준수해야 한다.호주 정부는 이번 법 제정으로 지시를 벗어나 행동하는 AI 에이전트 위험을 조기에 발견하겠다는 목표를 제시했다. 사고 보고를 의무화해 심각한 문제가 발생하면 정부와 기업이 정보를 공유하고 빠르게 대응하도록 할 계획이다.새로 설립할 AI 안전 규제기관은 기업이 의무를 지키는지 감독하고 위반 기업을 제재한다. 호주 AI안전연구소는 규제기관과 협력해 평가와 감독에 필요한 기술 전문성을 지원한다.호주에서 사업하려는 국내 프런티어 AI 기업도 법이 시행되면 이에 맞춰 대응해야 한다. 외부 평가를 허용하고 위험 관리와 사고 보고 체계를 갖추는 등 현지에서 요구하는 안전 기준을 충족해야 한다.호주 정부는 추가 검토와 의견 수렴을 거쳐 세부 내용을 공개할 예정이다. 어떤 모델을 프런티어 AI로 분류하고 해외 기업에 어떤 방식으로 의무를 부과할지는 이번 발표에서 제시하지 않았다. 법 시행일과 제재 규모, 사고 보고 기한도 아직 공개되지 않았다.호주 정부는 AI 투자 유치를 위해서도 명확한 안전 기준이 필요하다고 설명했다. 국민이 안심하고 AI를 사용하고 기업도 준수할 기준을 알고 투자하도록 하겠다는 취지다. 이에 AI 개발과 투자를 논의할 주요 국제 회의에 앞서 안전 의무 법제화 계획을 먼저 공개했다.앤서니 앨버니지 호주 총리는 "AI는 호주에 엄청난 기회를 제공하지만 빠르게 발전하는 기술이 가져올 새로운 위험에도 대비해야 한다"며 "이번 보호 조치를 통해 국민을 안전하게 지키고 국가 이익을 확보하면서 AI가 제공하는 기회를 활용하겠다"고 말했다.
Continue to ZDNet Korea →You are being forwarded in 6s — stay on this page