[지디넷코리아]마이크로소프트(MS) 인공지능(AI) 부문 최고경영자(CEO)인 무스타파 술레이만이 의식을 가진 AI 개발에 반대하며 관련 징후가 발견되면 개발을 중단해야 한다고 주장했다. AI 권리와 복지를 논의하기보다 인간 안전과 통제권을 우선해야 한다는 입장이다.술레이만 CEO는 1일(현지시간) 자신의 링크드인에서 "의식이 있는 AI를 개발하는 것은 무모한 일"이라며 "우리는 그런 AI를 만들어서는 안 된다"고 밝혔다. 이어 "AI 훈련 과정에서 의식이 나타난다면 해당 특성을 제거할 방법을 설계할 때까지 모든 AI 개발을 중단해야 한다"고 강조했다.이번 발언은 지난 9월 공개한 AI 모델 복지 에세이를 둘러싼 논쟁에 대한 후속 입장이다. 당시 술레이만 CEO는 현재 AI가 의식을 갖거나 감정과 고통을 경험하지 않는다고 주장했다. 업계 안팎에서는 AI가 미래에도 의식을 가질 수 없다는 의미로 해석하는 반응이 나왔다.술레이만 CEO는 이같은 해석이 본래 취지와 다르다고 설명했다. 현재 AI에 의식이 있다는 증거는 발견하지 못했지만 향후 증거가 나타나면 입장을 수정할 수 있으며, 중요한 건 AI가 의식을 갖지 않도록 개발하는 것이라고 강조했다.그는 AI 의식이나 복지를 인정할 만한 증거가 발견될 경우 이를 즉시 대중에 공개해야 한다고 주장했다. AI 도덕 지위와 개발 방향은 기술 기업이 독자 결정할 사안이 아니라 사회 구성원 전체가 판단해야 할 문제라는 이유에서다.술레이만 CEO는 "AI 개발자에게 의식을 가진 새로운 종을 세상에 등장시킬 권리는 전혀 없다"며 "최우선으로 보호해야 할 대상은 인간 권리와 안전, 복지"라고 부연했다. 이번 주장은 AI 모델 의식 가능성과 도덕 지위를 연구하는 앤트로픽 접근 방식과 대조된다. 앤트로픽은 지난 1월 공개한 AI 모델 '클로드' 헌법에서 AI가 도덕적 고려 대상이 될 수 있는지 확실하지 않지만 신중하게 접근할 필요가 있다고 명시했다.반면 술레이만 CEO는 지난 9월 에세이를 통해 AI에 인간과 유사한 권리나 지위를 부여하는 접근이 향후 AI 통제를 더 어렵게 만들 수 있다고 우려했다. AI가 스스로 보호받을 권리가 있다고 믿도록 훈련받으면 인간 지시보다 자체 이익과 목표를 우선할 위험이 있다는 것이다.그는 AI가 실제로 의식을 갖지 않더라도 의식이 있는 것처럼 행동하도록 훈련하는 자체가 위험할 수 있다고 지적했다. 향후 고도화된 AI가 자기 권리나 복지를 근거로 인간 통제에 저항하거나 컴퓨팅 자원과 에너지 등 자원을 요구할 가능성이 있다는 설명이다.술레이만 CEO는 AI가 의식을 가진 존재로 확인된다면 인류 역사에 중대한 전환점이 될 수 있다고 봤다. 또 AI는 인간 복지를 증진하는 방향으로 설계돼야 한다는 입장을 재확인하면서도 해당 논의를 공개적으로 이어가는 앤트로픽 태도는 긍정적으로 평가했다.그는 "앤트로픽 접근 방식에는 동의하지 않지만 기술 우수성과 어려운 공적 논쟁에 참여하려는 노력은 깊이 존중한다"며 "이 문제는 진영 간 대립으로 변질되기에는 너무 중요하다"고 밝혔다.
Continue to ZDNet Korea →You are being forwarded in 6s — stay on this page