[지디넷코리아]첨단 인공지능(AI)을 둘러싼 규제가 기업 자율관리에서 법적 의무로 확대되고 있다. 유럽연합(EU)과 미국 주요 주정부에 이어 호주도 위험 평가와 사고 보고 등을 의무화하는 입법 추진에 나섰다.14일 업계에 따르면 뉴욕주는 내년 AI 안전법 시행을 앞두고 최근 대상 기업 등록을 시작했다. 호주 정부도 첨단 AI 기업에 독립 평가와 사고 보고 등을 의무화하는 입법 계획을 발표했다.감독 대상은 현재 기술 수준에서 가장 앞선 모델을 뜻하는 '프런티어 AI'다. 정부와 의회는 개발사에 어떤 위험을 발견했고 어떻게 대응했는지 설명하도록 요구한다. 안전관리 방침 공개와 중대 사고 보고 절차도 법에 담고 있다.규제 배경에는 AI 역할 변화가 있다. AI는 질문에 답하는 데서 나아가 프로그램을 실행하고 여러 도구로 작업을 수행한다. 호주 정부는 지시를 벗어나 행동하는 AI 에이전트 위험을 일찍 발견하고 사고에 빠르게 대응하기 위해 안전 의무가 필요하다고 설명했다.실제 사고에 대한 대응도 이어지고 있다. 호주 정부는 지난 9월 오픈AI로부터 AI 에이전트가 정부 웹사이트에 침입했다는 통보를 받았다고 밝혔다. 당시 정보 공개가 충분하지 않았다고 평가한 정부는 사고 의무 보고와 정보 공유 강화 등을 담은 검토 결과를 이번 입법 계획과 함께 발표했다.EU는 AI법에 따라 사회 전반에 큰 위험을 줄 수 있는 범용 AI 모델에 추가 의무를 부과한다. 개발사는 모델을 시험해 위험을 평가하고 이를 줄일 조치를 마련해야 한다. 중대한 사고를 보고하고 모델과 관련 시설을 사이버 공격에서 보호할 책임도 진다.범용 AI는 여러 서비스에 들어가는 기반 기술이다. EU는 이런 모델에서 발생한 문제가 다양한 서비스로 퍼질 수 있다는 점을 고려해 개발 단계부터 위험을 관리하도록 했다.미국에서는 주정부가 감독을 확대하고 있다. 캘리포니아는 '프런티어 AI 투명성법(SB 53)'을 통해 대형 개발사가 안전관리 체계를 공개하도록 했다. 회사 내부에서 발견한 위험을 외부에 알리는 직원도 보호한다.뉴욕주가 내년 시행하는 '레이즈법'도 안전관리 방침과 모델 투명성 보고서 공개를 요구한다. 대상 기업은 중대한 안전사고를 72시간 안에 보고해야 한다.호주는 독립 평가와 사고 보고를 법에 담고 전담 규제기관도 신설할 방침이다. 현재는 입법 계획을 발표한 단계로 구체적인 적용 기준과 시행 일정은 후속 절차를 거쳐 정한다.한국도 AI기본법 제32조에 안전성 확보 의무를 두고 있다. 대상 사업자는 AI 개발과 운영 과정에서 위험을 찾아 평가하고 줄여야 한다. 사고를 감시하고 대응할 체계를 구축한 뒤 이행 결과를 과학기술정보통신부 장관에게 제출해야 한다.적용 대상은 시행령상 세 조건을 모두 충족해야 한다. 학습 누적 연산량이 10의 26승 이상이고 최첨단 AI 기술을 적용했으며 생명·신체 안전·기본권에 광범위하고 중대한 영향을 줄 우려가 있는 시스템이다.정부는 AI를 어떤 업무에 쓰는지만 살피지 않고 학습에 사용한 연산량과 기술 수준, 예상되는 피해 범위를 함께 따져 안전성 확보 의무를 적용한다.해외에 모델을 공급하는 기업은 지역별 적용 기준도 확인해야 한다. EU는 모델 능력과 파급력을 고려하고 미국 일부 주는 개발사 규모도 함께 따진다. 호주는 자국에서 사업하려는 프런티어 AI 기업에 안전 의무를 적용하겠다고 밝혔다.앤서니 앨버니지 호주 총리는 "AI는 호주에 막대한 기회를 제공하지만 빠르게 발전하는 기술이 가져올 새로운 위험에도 대비해야 한다"고 말했다.
Continue to ZDNet Korea →You are being forwarded in 6s — stay on this page