[지디넷코리아]앤트로픽이 답변을 생성한 인공지능(AI) 모델 출처를 확인하는 기술 개발에 나섰다. 이용자가 선택한 모델과 실제 답변에 쓰인 모델이 일치하는지 검증할 수 있게 돕기 위한 조치다. 3일(현지시간) 테크크런치 등 외신에 따르면 앤트로픽 연구진은 특정 결과물이 어떤 모델에서 나왔는지 암호학적으로 증명하는 오픈소스 시스템 '플래시프루브'를 개발에 착수했다. 연구진은 블로그를 통해 연구 진행 상황과 기술 명세서, 일부 작동 코드를 공개했다.핵심 목적은 AI 기업이 이용자에게 알리지 않고 모델을 바꿔 사용하는지 확인하는 것이다. 비용을 아끼려고 저렴한 모델로 답변하거나, 성능 평가에서 좋은 점수를 받으려고 더 뛰어난 모델을 투입했는지 검증할 수 있다.플래시프루브는 특정 답변을 특정 모델이 생성했다는 사실을 수학적으로 증명한다. 이메일의 암호학적 서명으로 발신자를 확인하듯 AI 답변을 만든 모델을 확인하는 방식이다.이를 위해 AI 개발사는 모델마다 고유한 정보를 공개해야 한다. 이용자는 이 정보를 바탕으로 답변이 해당 모델에서 나왔는지 검증할 수 있다.검증 과정에서 모델의 작동 방식을 결정하는 내부 수치인 가중치는 공개하지 않아도 된다. 앤트로픽이나 오픈AI처럼 가중치를 비공개로 유지하는 기업도 핵심 기술을 노출하지 않고 활용할 수 있다는 의미다. 이용자는 자신의 기기에서도 검증 작업을 수행할 수 있다.앤트로픽 연구진은 "이는 완성된 연구 결과가 아닌 중간 진행 상황을 공유하기 위한 것"이라며 "답변이 어떤 AI 모델에서 나왔는지 알 수 있는 생태계를 만들 것"이라고 밝혔다.
Continue to ZDNet Korea →You are being forwarded in 6s — stay on this page