삼성·구글 등 "AI 안전한 개발" 약속

구글, 아마존 등 세계 각국의 16개 주요 기술 기업이 인공지능(AI) 안전한 개발을 약속했다.

영국 과학혁신기술부는 21일(현지시간) 성명을 내 "영국과 한국이 블레츨리 선언을 기반으로 16개 글로벌 AI 기술 기업의 안전성 결과에 대한 약속을 확보했다"며 "기업들은 위험이 충분히 완화될 수 없다면 AI 모델을 개발하거나 사용하지 않기로 약속했다"고 밝혔다.

이번 합의에는 책임 있는 거버넌스 구조, 프런티어 AI 안전과 관련한 투명성을 보장하는 약속이 담긴 것으로 전해졌다.

이날 '프런티어 AI 안전 약속'에 이름을 올린 기업은 아마존과 앤트로픽, 코히어, 구글·딥마인드, G42, IBM, 인플렉션AI, 메타, MS, 미스트랄AI, 네이버, 오픈AI, 삼성전자, 테크놀로지 이노베이션 인스티튜트(TII), xAI, 지푸AI다.

이 가운데 TII는 아랍에미리트(UAE)의 기술 연구기관이고 지푸AI는 중국 알리바바, 텐센트, 샤오미 등의 지원을 받는 중국 기업이다.

이에 대해 영국 정부는 북미와 아시아, 유럽, 중동에 걸쳐 기업들이 AI 개발과 관련한 안전성에 대해 사상 처음으로 약속한 것이라고 강조했다.

리시 수낵 총리는 "전 세계 각국에서 이렇게 많은 AI 선두 기업이 AI 안전성을 위한 단일 약속에 합의한 것은 세계 최초"라며 "혁신적인 기술의 혜택을 열어줄 글로벌 AI 안전 기준의 선례를 세우는 것"이라고 말했다.

또 "영국의 블레츨리 정상회의는 대성공이었고 우리는 한국과 함께 AI 서울 정상회의에서 구체적인 진전을 이뤄내며 성공을 이어가고 있다"고 덧붙였다.

참여 기업은 프런티어 AI 모델 및 시스템을 책임감 있게 개발하고 배치하며 향후 프랑스에서 열릴 AI 정상회의까지 심각한 위험에 초점을 맞춘 안전 체계를 발표, 이를 어떻게 달성했는지 공표하기로 했다.

(사진=연합뉴스)