오늘 영화 <매트릭스> 오피셜 트레일러로 월렛 시작합니다. “The Matrix is everywhere” 1999년도에 나온 영화 ‘매트릭스’의 명대사죠. “매트릭스는 어디에나 있다”. 1999년에 상영된 영화인데, 벌써 현실이 됐습니다. AI는 현재 우리 주변 모든 곳에 있다고 해도 과언이 아니고요. 또 영화 ‘그녀’에는 스스로 생각하고 느끼는 인공지능 ‘사만다’가 나오는데, 이 또한 현실이 됐습니다. 감정까지는 아닐지 몰라도, 인간처럼 생각하고 스스로 학습하고, 나아가서는 인간보다 더 뛰어난 능력을 발휘하는 범용 인공지능, AGI까지 등장했는데요. 이렇게 AI 기술이 급속도로 성장하자, 우리 사회는 이 영화들처럼 AI 발전에 따른 오남용에 대해 우려해 왔습니다.
어제 유럽의회는 ‘AI법’ 최종안을 승인했습니다. EU 27개국 장관들의 내달 최종 승인을 거치면, 올해 연말부터 법안이 순차적으로 시행되고요. 2026년 이후는 전면적으로 시행될 예정입니다. 규정을 어길 시 기업은 세계 매출액의 1.5%~최대 7%에 달하는 벌금을 부과해야 하는데요.
‘AI법’ 최종안은 AI 활용 분야를 총 네 단계의 위험 등급으로 나눠 차등 규제할 방침입니다. 이렇게 허용할 수 없는 위험, 높은 위험, 제한된 위험, 최소 위험 등으로 분류했습니다. 먼저, 인종, 종교, 성적 지향 등을 기준으로 사용자를 분류하는 ‘생체 정보 스크랩’이 금지됩니다. 다양한 데이터를 수집해 개인을 평가하는 ‘소셜 스코어링’도 일절 금지되는데요. 하지만 강간, 테러 등 중대한 범죄 용의자를 수색할 때 등 예외적인 사항은 법원의 사전 허가를 받아 진행할 수 있습니다. 고위험 등급으로 여겨지는 AI 기술, 그러니까 자율주행, 의료장비, 선거, 그리고 법률 등과 관련된 AI 기술을 출시하려는 기업은 반드시 데이터를 공개하고, 사전 시험을 거쳐야 하는데, 이 AI 시스템을 사용할 때, 반드시 사람을 배치해야 하는 것을 강조했습니다. ‘제한된 위험,’ 이라고도 불리는 중간 위험 단계에서는 딥페이크가 포함됐다고 보시면 됩니다. 딥페이크 등 영상이나 이미지에 AI가 만든 콘텐츠라는 점을 표기해야 하고, 사용자가 AI 시스템과 상호작용하고 있음을 알리고, 선택권을 부여해야 합니다. 반면에 우리가 흔히 사용하고 있는 다양한 추천 시스템이나 스팸 필터에 대한 AI 서비스는 낮은 위험으로 규정되면서, 따로 규제되는 방침은 없습니다.
여기서 주목할 점은, 챗지피티 같은 생성형 AI 등장으로 추가된 사항이 있습니다. 바로 앞서 언급했던, 범용 인공지능, AGI와 관련된 내용인데요. 먼저 어제 공개된 휴머노이드 로봇이죠. 오픈AI와 스타트업 ‘피규어’가 공개한 ‘피규어01’, 영상으로 확인해 보시죠. (영상) 이렇게 EU는 사람과 유사한 수준 혹은 그 이상의 지능을 갖춘 AGI를 개발하는 기업에게도 ‘투명성 의무’를 부과하기로 했습니다. 이들은 EU의 저작권법을 준수해야 하고요. 사이버 공격이나 유해한 선입견을 표현하는 등 EU가 위험하다고 규정한 사항에 대해서는 이를 막기 위한 필수 조치도 마련해야 합니다. 또, AI를 학습시키는 데 이용한 콘텐츠를 명시해야 하는데, 이는 빅테크 기업들의 입장에서 기업의 기밀과 연관된 사항이라 이들에게 부담이 될 전망입니다.
AI법이 승인되자 외신들에서도 각각 반응을 내놓았는데요. 블룸버그에서는 “미국에서 아직 AI법이 마련되지 않은 상황에서 서방 세계를 향해 AI법에 관한 기준을 제시했다”고 평가했습니다. 하지만 미국과 중국에 비해 AI 기술 발전이 다소 늦은 유럽에서 이에 대해 우려하는 부분이 있다고도 언급했고요. CNBC에서는 “법률 전문가들에게 이 법안 국제 AI 규제의 중요한 이정표가 될 것”이라 전했습니다.
하지만 AI법 초안 작성에 참여했던 카이 제너 유엔 AI 정책 고문과 시민단체인 유럽기업관측소에서는 범용 인공지능에 대한 규제는 그저 투명성 의무 몇 가지만 준수하면 되는 수준이라며 비판하기도 했습니다.
그럼 다른 나라에서는 AI에 대해 어떠한 기조를 보이는지도 확인해 보겠습니다. 먼저 지난해 10월, 조 바이든 대통령이 AI 산업 발전 정책과 규제 방안을 동시에 담은 행정 명령에 서명했습니다. AI 시스템이 국가 안보, 경제, 보건 분야와 관련될 경우, AI 개발사가 정부에 개발과 훈련 단계를 포함해 안전 테스트 결과를 보고해야 하는데요. 정부에서 이를 검증할 전문가 팀인 ‘레드팀’을 신설하기도 했습니다. 자발적 시행 명령이지만, 당시만 해도 이는 세계에서 가장 강력한 AI 규제 방안이었기 때문에, 미국이 AI 규제 표준을 만들 수 있다는 관측이 나왔습니다.
얼마전 미국 국무부가 AI업체에 의뢰한 보고서에서는 “최악의 경우 AI 발전은 인류 멸종 수준의 위협이 될 수 있으며 미국 정부가 시급히 개입해야 한다”는 내용이 담겼습니다. 인간과 같은 사고와 문제 해결 능력을 갖춘 AGI 개발을 지적하며, 결국 AI에서 비롯된 군비 경쟁과 대량 살상무기가 성행할 것이라 내다 보고 있습니다. 이에 미국 정부와 의회에서 유럽의 기조에 맞춰 더욱 강력한 AI 규제 법안이 나올지 주목되고 있는데요. 하지만 얼마전 의회에 제출된 연방 예산안에서 AI 분야에 200억 달러를 웃도는 예산을 배정하기도 했습니다.
한편 오픈AI의 경쟁사로 떠오르고 있는 ‘미스트랄 AI’ 보유국 프랑스는 AI법에 반대했었는데요. 프랑스 AI위원회는 AI법이 승인된 날, 생성AI 기술 발달은 연간 경제 성장률을 두 배로 올릴 수 있다며, 앞으로 5년간 매년 50억 유로, 우리 돈으로 약 7조 원을 투자할 것을 정부에 권고했습니다. 전날에는 이탈리아 멜로니 총리가 AI 프로젝트를 촉진하기 위해 30억 유로 규모의 민관 투자펀드를 조성한다고 밝혔습니다. 이를 통해 아직 세계에서는 AI를 향한 규제보다는 지원에 힘을 쏟으면서 경제 성장을 이루는 데 집중하는 걸 알 수 있습니다.
빅테크 기업들도 각국 정부의 AI에 관한 우려를 의식하고 있습니다. 올해 전 세계 주요 40여개국에서 선거가 치러지는 만큼, AI의 가장 큰 악용 사례라 할 수 있는 가짜뉴스를 잡기 위한 정책을 마련하고 있는데요. 먼저 구글은 제미나이에 선거와 관련된 답변을 제한해, 가짜뉴스의 확산을 막겠다고 밝혔습니다. 메타에서도 오는 6월 치러지는 유럽 의회 선거를 앞두고 ‘AI 허위정보’ 대응 팀을 꾸리겠다고 지난 달 발표했고요. 우리 기업인 LG는 AI로 만든 딥페이크 확산 방지를 위해 글로벌 기업들이 구축한 ‘AI 선거 협정’에 참여하기로 했습니다. 이 협정에는 구글, 아마존, 어도비, 오픈AI 등이 참여할 예정인데요. 한편 엔비디아는 AI를 활용한 바이오 투자에 몰두하고 있습니다. 신약 개발을 위한 생성형 AI 플랫폼 ‘바이오네모’를 통해 신약 개발 시간을 줄이고 경우에 따라 실험까지 대체할 수 있는데요. AI 수요가 급증하고 있지만, 동시에 이에 따른 우려도 부각되고 있는 상황에서, 엔비디아의 바이오 관련 AI 투자는 빛을 발할 가능성이 높아 보입니다.
우리는 하루하루 인간을 대체하는 AI 기술에 매일 놀라고 있습니다. AI는 어느새 우리 일자리까지 위협하고 있고요. 영화에서 경고하는 것처럼, AI가 언젠가는 인간을 지배하고, 이를 넘어 인간이 AI를 섬길 수 있다는 우려까지 나오는데요. AI를 향한 우려가 향후 빅테크 기업에 대한 반발로 이어지는 ‘테크래시’로 발생하지 않도록 유심히 지켜봐야겠습니다. 지금까지 월가의 돈이 되는 트렌드, 월렛이었습니다.
김예림 외신캐스터
어제 유럽의회는 ‘AI법’ 최종안을 승인했습니다. EU 27개국 장관들의 내달 최종 승인을 거치면, 올해 연말부터 법안이 순차적으로 시행되고요. 2026년 이후는 전면적으로 시행될 예정입니다. 규정을 어길 시 기업은 세계 매출액의 1.5%~최대 7%에 달하는 벌금을 부과해야 하는데요.
‘AI법’ 최종안은 AI 활용 분야를 총 네 단계의 위험 등급으로 나눠 차등 규제할 방침입니다. 이렇게 허용할 수 없는 위험, 높은 위험, 제한된 위험, 최소 위험 등으로 분류했습니다. 먼저, 인종, 종교, 성적 지향 등을 기준으로 사용자를 분류하는 ‘생체 정보 스크랩’이 금지됩니다. 다양한 데이터를 수집해 개인을 평가하는 ‘소셜 스코어링’도 일절 금지되는데요. 하지만 강간, 테러 등 중대한 범죄 용의자를 수색할 때 등 예외적인 사항은 법원의 사전 허가를 받아 진행할 수 있습니다. 고위험 등급으로 여겨지는 AI 기술, 그러니까 자율주행, 의료장비, 선거, 그리고 법률 등과 관련된 AI 기술을 출시하려는 기업은 반드시 데이터를 공개하고, 사전 시험을 거쳐야 하는데, 이 AI 시스템을 사용할 때, 반드시 사람을 배치해야 하는 것을 강조했습니다. ‘제한된 위험,’ 이라고도 불리는 중간 위험 단계에서는 딥페이크가 포함됐다고 보시면 됩니다. 딥페이크 등 영상이나 이미지에 AI가 만든 콘텐츠라는 점을 표기해야 하고, 사용자가 AI 시스템과 상호작용하고 있음을 알리고, 선택권을 부여해야 합니다. 반면에 우리가 흔히 사용하고 있는 다양한 추천 시스템이나 스팸 필터에 대한 AI 서비스는 낮은 위험으로 규정되면서, 따로 규제되는 방침은 없습니다.
여기서 주목할 점은, 챗지피티 같은 생성형 AI 등장으로 추가된 사항이 있습니다. 바로 앞서 언급했던, 범용 인공지능, AGI와 관련된 내용인데요. 먼저 어제 공개된 휴머노이드 로봇이죠. 오픈AI와 스타트업 ‘피규어’가 공개한 ‘피규어01’, 영상으로 확인해 보시죠. (영상) 이렇게 EU는 사람과 유사한 수준 혹은 그 이상의 지능을 갖춘 AGI를 개발하는 기업에게도 ‘투명성 의무’를 부과하기로 했습니다. 이들은 EU의 저작권법을 준수해야 하고요. 사이버 공격이나 유해한 선입견을 표현하는 등 EU가 위험하다고 규정한 사항에 대해서는 이를 막기 위한 필수 조치도 마련해야 합니다. 또, AI를 학습시키는 데 이용한 콘텐츠를 명시해야 하는데, 이는 빅테크 기업들의 입장에서 기업의 기밀과 연관된 사항이라 이들에게 부담이 될 전망입니다.
AI법이 승인되자 외신들에서도 각각 반응을 내놓았는데요. 블룸버그에서는 “미국에서 아직 AI법이 마련되지 않은 상황에서 서방 세계를 향해 AI법에 관한 기준을 제시했다”고 평가했습니다. 하지만 미국과 중국에 비해 AI 기술 발전이 다소 늦은 유럽에서 이에 대해 우려하는 부분이 있다고도 언급했고요. CNBC에서는 “법률 전문가들에게 이 법안 국제 AI 규제의 중요한 이정표가 될 것”이라 전했습니다.
하지만 AI법 초안 작성에 참여했던 카이 제너 유엔 AI 정책 고문과 시민단체인 유럽기업관측소에서는 범용 인공지능에 대한 규제는 그저 투명성 의무 몇 가지만 준수하면 되는 수준이라며 비판하기도 했습니다.
그럼 다른 나라에서는 AI에 대해 어떠한 기조를 보이는지도 확인해 보겠습니다. 먼저 지난해 10월, 조 바이든 대통령이 AI 산업 발전 정책과 규제 방안을 동시에 담은 행정 명령에 서명했습니다. AI 시스템이 국가 안보, 경제, 보건 분야와 관련될 경우, AI 개발사가 정부에 개발과 훈련 단계를 포함해 안전 테스트 결과를 보고해야 하는데요. 정부에서 이를 검증할 전문가 팀인 ‘레드팀’을 신설하기도 했습니다. 자발적 시행 명령이지만, 당시만 해도 이는 세계에서 가장 강력한 AI 규제 방안이었기 때문에, 미국이 AI 규제 표준을 만들 수 있다는 관측이 나왔습니다.
얼마전 미국 국무부가 AI업체에 의뢰한 보고서에서는 “최악의 경우 AI 발전은 인류 멸종 수준의 위협이 될 수 있으며 미국 정부가 시급히 개입해야 한다”는 내용이 담겼습니다. 인간과 같은 사고와 문제 해결 능력을 갖춘 AGI 개발을 지적하며, 결국 AI에서 비롯된 군비 경쟁과 대량 살상무기가 성행할 것이라 내다 보고 있습니다. 이에 미국 정부와 의회에서 유럽의 기조에 맞춰 더욱 강력한 AI 규제 법안이 나올지 주목되고 있는데요. 하지만 얼마전 의회에 제출된 연방 예산안에서 AI 분야에 200억 달러를 웃도는 예산을 배정하기도 했습니다.
한편 오픈AI의 경쟁사로 떠오르고 있는 ‘미스트랄 AI’ 보유국 프랑스는 AI법에 반대했었는데요. 프랑스 AI위원회는 AI법이 승인된 날, 생성AI 기술 발달은 연간 경제 성장률을 두 배로 올릴 수 있다며, 앞으로 5년간 매년 50억 유로, 우리 돈으로 약 7조 원을 투자할 것을 정부에 권고했습니다. 전날에는 이탈리아 멜로니 총리가 AI 프로젝트를 촉진하기 위해 30억 유로 규모의 민관 투자펀드를 조성한다고 밝혔습니다. 이를 통해 아직 세계에서는 AI를 향한 규제보다는 지원에 힘을 쏟으면서 경제 성장을 이루는 데 집중하는 걸 알 수 있습니다.
빅테크 기업들도 각국 정부의 AI에 관한 우려를 의식하고 있습니다. 올해 전 세계 주요 40여개국에서 선거가 치러지는 만큼, AI의 가장 큰 악용 사례라 할 수 있는 가짜뉴스를 잡기 위한 정책을 마련하고 있는데요. 먼저 구글은 제미나이에 선거와 관련된 답변을 제한해, 가짜뉴스의 확산을 막겠다고 밝혔습니다. 메타에서도 오는 6월 치러지는 유럽 의회 선거를 앞두고 ‘AI 허위정보’ 대응 팀을 꾸리겠다고 지난 달 발표했고요. 우리 기업인 LG는 AI로 만든 딥페이크 확산 방지를 위해 글로벌 기업들이 구축한 ‘AI 선거 협정’에 참여하기로 했습니다. 이 협정에는 구글, 아마존, 어도비, 오픈AI 등이 참여할 예정인데요. 한편 엔비디아는 AI를 활용한 바이오 투자에 몰두하고 있습니다. 신약 개발을 위한 생성형 AI 플랫폼 ‘바이오네모’를 통해 신약 개발 시간을 줄이고 경우에 따라 실험까지 대체할 수 있는데요. AI 수요가 급증하고 있지만, 동시에 이에 따른 우려도 부각되고 있는 상황에서, 엔비디아의 바이오 관련 AI 투자는 빛을 발할 가능성이 높아 보입니다.
우리는 하루하루 인간을 대체하는 AI 기술에 매일 놀라고 있습니다. AI는 어느새 우리 일자리까지 위협하고 있고요. 영화에서 경고하는 것처럼, AI가 언젠가는 인간을 지배하고, 이를 넘어 인간이 AI를 섬길 수 있다는 우려까지 나오는데요. AI를 향한 우려가 향후 빅테크 기업에 대한 반발로 이어지는 ‘테크래시’로 발생하지 않도록 유심히 지켜봐야겠습니다. 지금까지 월가의 돈이 되는 트렌드, 월렛이었습니다.
김예림 외신캐스터
관련뉴스
