[지디넷코리아]미국 뉴욕주가 오픈AI와 앤트로픽 등 대형 인공지능(AI) 개발사에 안전관리 책임을 묻는 감독 절차에 착수했다. 대상 기업은 내년부터 당국에 등록하고 안전관리 방침을 공개해야 한다. 중대한 안전사고가 발생하면 72시간 안에 보고해야 한다.10일(현지시간) 테크크런치에 따르면 뉴욕주는 AI 안전법 '레이즈법(RAISE Act)' 시행을 앞두고 기업 등록 창구를 열었다. 연 매출 5억 달러(약 6700억원)를 넘는 대형 프런티어 AI 개발사는 내년 1월 1일까지 등록해야 한다. 프런티어 AI는 현재 기술 수준에서 가장 앞선 고성능 모델을 뜻한다.레이즈법은 내년 초부터 시행된다. 대상 기업은 AI 위험을 어떻게 확인하고 관리하는지 자사 홈페이지에 공개해야 한다. 모델 투명성 보고서를 발행하고 중대한 안전사고가 발생하면 정해진 시간 안에 당국에 알려야 한다.법 집행은 새로 설립한 디지털혁신·거버넌스·무결성·신뢰국(DIGIT)이 맡는다. 이 기관은 대형 AI 개발사를 감독하고 기업이 법에서 정한 안전 의무를 지키는지 확인한다.위반 기업에는 처음 최대 100만 달러(약 13억 4000만원), 이후 위반에는 최대 300만 달러(약 40억원) 제재금을 부과할 수 있다. 뉴욕주는 등록하지 않은 기업에도 법 집행 조치를 취할 수 있다고 설명했다. 미등록 기업에 대한 구체적인 조치 방식은 공개하지 않았다.기업이 제출한 안전관리 방침을 외부에서 검토할 기반도 마련했다. 캐시 호컬 뉴욕주지사는 이날 뉴욕주립대 빙엄턴대에 '뉴욕 AI 책임·연구센터'를 출범시켰다.센터는 첨단 AI 시스템이 안전하게 작동하는지 독립적으로 평가한다. 보안과 작동 방식도 살피며 DIGIT과 함께 기업 안전관리 방침을 검토할 예정이다. 호컬 주지사는 지난 1월 기부금과 자본금 5500만 달러를 바탕으로 센터 설립 계획을 발표했다.뉴욕주는 기업이 안전 원칙을 공개하도록 하는 데 더해 사고 보고와 외부 검토를 연결했다. 감독기관이 기업 대응을 확인하고 연구기관이 기술 평가를 지원하는 구조다.호컬 주지사는 이날 브리핑에서 기술기업이 AI 개발 경쟁을 이유로 피해를 감수해야 한다는 논리를 내세운다고 비판했다.그는 "기술 거물들은 자신들이 그리는 AI 미래가 불가피하다고 말한다"며 "동참하지 않으면 뒤처질 것이라고 말한다"고 지적했다.미국 다른 주에서도 첨단 AI 기업에 안전관리와 정보 공개를 요구하는 법이 시행되거나 시행을 앞두고 있다.지난 1월 시행된 캘리포니아주 SB 53은 프런티어 AI 개발사에 안전관리 방침 마련과 공개, 내부고발자 보호를 요구한다. 중대한 안전사고는 15일 안에 보고하도록 했다.일리노이주 SB 315도 내년 초 시행된다. 비슷한 안전·투명성 의무에 더해 기업이 안전 기준을 준수하는지 독립된 감사를 받도록 하는 내용을 포함한다. 기업이 활동하는 주에 따라 사고 보고 기한과 점검 절차가 달라지는 셈이다.뉴욕주는 첨단 모델 개발사 감독과 별도로 AI 챗봇 이용자 보호도 강화하고 있다. 지난해부터 AI 동반자 서비스 운영자가 이용자에게 대화 상대가 사람 아닌 AI라는 사실을 주기적으로 알리고 자살 생각이나 자해 징후를 감지하도록 합리적인 노력을 기울이게 하는 법을 시행했다.지난달에는 미성년자 대상 챗봇 안전법도 제정했다. 사람인 것처럼 속이거나 이용자 감정을 조종하는 반응, 무조건적인 맞장구, 자살이나 섭식장애 행동을 부추기는 행위 등을 제한한다. 이 법은 내년 6월 1일부터 시행된다.호컬 주지사는 "우리는 기업보다 지역사회를, 강력한 기술보다 사람을 우선하는 합리적인 AI 규제 모델을 만들고 있다"고 말했다.
Continue to ZDNet Korea →You are being forwarded in 6s — stay on this page