개인정보위, '시스템 접속 기록 미보관' 에이닷에 시정권고
AI 응용서비스 실태점검…"에이닷, 조사 내용 수용하고 적극 조치 밝혀"
"통신비밀보호법 위반 여부, 과기정통부서 판단할 사항"
(서울=연합뉴스) 이상서 기자 = 시스템 접속기록을 보관하지 않아 개인정보보호법을 위반한 SK텔레콤의 인공지능(AI) 개인비서 '에이닷'에 대해 '안전조치 의무 준수' 시정권고가 내려졌다.
개인정보보호위원회는 12일 제10회 전체회의를 열어 에이닷, 스노우, 딥엘(DeepL), 뷰노 등 AI 응용서비스를 제공하는 4개 사업자에 대한 사전 실태점검 결과를 심의·의결했다고 13일 밝혔다.
앞서 개인정보위는 국내외 주요 AI 서비스를 거대언어모델(LLM) 관련 사업자와 응용서비스 제공사업자로 나눠 점검해, 지난 3월 LLM 관련 사업자에 대한 결과를 발표한 바 있다.
이번 심의·의결 과정에서는 에이닷과 스노우 등 AI 응용서비스의 개인정보 처리 과정을 중점적으로 살폈다.
개인정보위에 따르면 에이닷의 통화 녹음 서비스는 'SKT 서버에서 이용자의 통화 녹음 음성파일을 텍스트로 변환→이를 마이크로소프트(MS)사의 클라우드 시스템에서 챗GPT 모델로 요약→이용자 전달' 방식으로 진행되고 있었다.
이 과정에서 텍스트 파일을 저장하는 시스템에 접속기록이 보관되지 않은 사실이 확인됐다.
개인정보보호법에 따르면 개인정보처리자는 개인정보가 분실되거나 도난당하지 않도록 접속기록 보관 등 안전성 확보에 필요한 조처를 해야 한다.
이에 개인정보위는 관련 법을 위반한 것으로 판단해 SKT에 시스템상 접속기록의 보관·점검 등 안전조치 의무를 준수할 것을 시정권고하기로 결정했다.
또한 ▲ 텍스트 파일의 보관 기간 최소화 ▲ 비식별 처리 강화 ▲ 서비스 내용에 대해 정보주체가 명확히 이해할 수 있는 조치 마련을 개선권고했다.
시정권고를 받은 SKT는 열흘 이내에 수용 여부를 밝혀야 하고, 이를 거부한다면 실태점검이 아닌 일반 조사로 전환돼 제재 처분이 내려진다.
시정권고를 수용해 시정명령으로 전환된 이후, 이를 이행하지 않을 경우 과태료 3천만원이 부과된다.
강대현 개인정보위 조사1과장은 "조사 과정에서 (지적된) 내용을 수용하고 적극적으로 조치했다는 의사를 SKT 측에서 밝혀왔다"며 "시정권고 이후에 실제로 개선됐는지 여부를 정밀하게 확인할 계획"이라고 말했다.
다만 일부에서 제기된 통신비밀보호법 위반 여부에 대해서는 개인정보위가 확인할 사항이 아니라고 선을 그었다.
강 과장은 "이용자 스스로 통화 녹음 기능을 활용해 자신의 통화를 녹음하고, 이를 SKT 서비스에 이용한 것 자체가 개인정보보호법 규율 대상이 아니라고 판단했다"며 "통신비밀보호법 위반 소지 여부는 과학기술정보통신부가 판단할 사항"이라고 설명했다.
아울러 생성형 AI 기술로 얼굴 사진을 변형한 이미지를 만들어 주는 서비스인 스노우의 경우 별도의 학습데이터를 수집하지 않고, 생성된 이미지도 이용자 편의를 위해 일정 기간 서버에 보관할 뿐 다른 목적으로 이용하지 않은 것으로 확인됐다.
그러나 스노우는 '개인정보 처리방침'을 이용자가 알기 어려운 형태로 공개했고, 이미지 필터링 등을 위한 외부 개발도구(SDK)의 안전성을 충실히 검토하지 않은 사실이 발견됐다.
이에 개인정보를 서버로 전송해 처리할 때 이용자가 이를 쉽게 인지할 수 있도록 하고, 외부 SDK를 사용해 개인정보를 처리하는 경우 의도치 않은 개인정보처리 전송 가능성을 점검할 것을 개선권고했다.
AI 기술로 전 세계 31개 언어를 번역해 주는 '딥엘'은 공개된 데이터와 이용자가 무료 서비스에 입력한 텍스트를 AI 학습데이터로 활용했다.
딥엘은 이용자가 무료 서비스에 입력한 정보에 대해 AI 학습 및 인적 검토를 진행하면서 이를 명확하게 공개하지 않았던 사실을 확인했으나, 추후에 이를 개선한 것을 감안해 별도의 개선권고는 하지 않기로 했다.
AI 기반의 의료영상(X-RAY, CT, MRI 등)과 심전도 등 생체신호 판독·진단을 보조하고 질환을 예측하는 프로그램인 '뷰노'는 위반 사항은 발견되지 않았다.
개인정보위는 앞으로도 정보주체가 안심하고 AI 서비스를 활용할 수 있도록 AI 응용서비스에 대한 지속적인 모니터링을 실시하고, 안전한 개인정보 활용 방안을 마련할 계획이다.
shlamazel@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
AI 응용서비스 실태점검…"에이닷, 조사 내용 수용하고 적극 조치 밝혀"
"통신비밀보호법 위반 여부, 과기정통부서 판단할 사항"
(서울=연합뉴스) 이상서 기자 = 시스템 접속기록을 보관하지 않아 개인정보보호법을 위반한 SK텔레콤의 인공지능(AI) 개인비서 '에이닷'에 대해 '안전조치 의무 준수' 시정권고가 내려졌다.
개인정보보호위원회는 12일 제10회 전체회의를 열어 에이닷, 스노우, 딥엘(DeepL), 뷰노 등 AI 응용서비스를 제공하는 4개 사업자에 대한 사전 실태점검 결과를 심의·의결했다고 13일 밝혔다.
앞서 개인정보위는 국내외 주요 AI 서비스를 거대언어모델(LLM) 관련 사업자와 응용서비스 제공사업자로 나눠 점검해, 지난 3월 LLM 관련 사업자에 대한 결과를 발표한 바 있다.
이번 심의·의결 과정에서는 에이닷과 스노우 등 AI 응용서비스의 개인정보 처리 과정을 중점적으로 살폈다.
개인정보위에 따르면 에이닷의 통화 녹음 서비스는 'SKT 서버에서 이용자의 통화 녹음 음성파일을 텍스트로 변환→이를 마이크로소프트(MS)사의 클라우드 시스템에서 챗GPT 모델로 요약→이용자 전달' 방식으로 진행되고 있었다.
이 과정에서 텍스트 파일을 저장하는 시스템에 접속기록이 보관되지 않은 사실이 확인됐다.
개인정보보호법에 따르면 개인정보처리자는 개인정보가 분실되거나 도난당하지 않도록 접속기록 보관 등 안전성 확보에 필요한 조처를 해야 한다.
이에 개인정보위는 관련 법을 위반한 것으로 판단해 SKT에 시스템상 접속기록의 보관·점검 등 안전조치 의무를 준수할 것을 시정권고하기로 결정했다.
또한 ▲ 텍스트 파일의 보관 기간 최소화 ▲ 비식별 처리 강화 ▲ 서비스 내용에 대해 정보주체가 명확히 이해할 수 있는 조치 마련을 개선권고했다.
시정권고를 받은 SKT는 열흘 이내에 수용 여부를 밝혀야 하고, 이를 거부한다면 실태점검이 아닌 일반 조사로 전환돼 제재 처분이 내려진다.
시정권고를 수용해 시정명령으로 전환된 이후, 이를 이행하지 않을 경우 과태료 3천만원이 부과된다.
강대현 개인정보위 조사1과장은 "조사 과정에서 (지적된) 내용을 수용하고 적극적으로 조치했다는 의사를 SKT 측에서 밝혀왔다"며 "시정권고 이후에 실제로 개선됐는지 여부를 정밀하게 확인할 계획"이라고 말했다.
다만 일부에서 제기된 통신비밀보호법 위반 여부에 대해서는 개인정보위가 확인할 사항이 아니라고 선을 그었다.
강 과장은 "이용자 스스로 통화 녹음 기능을 활용해 자신의 통화를 녹음하고, 이를 SKT 서비스에 이용한 것 자체가 개인정보보호법 규율 대상이 아니라고 판단했다"며 "통신비밀보호법 위반 소지 여부는 과학기술정보통신부가 판단할 사항"이라고 설명했다.
아울러 생성형 AI 기술로 얼굴 사진을 변형한 이미지를 만들어 주는 서비스인 스노우의 경우 별도의 학습데이터를 수집하지 않고, 생성된 이미지도 이용자 편의를 위해 일정 기간 서버에 보관할 뿐 다른 목적으로 이용하지 않은 것으로 확인됐다.
그러나 스노우는 '개인정보 처리방침'을 이용자가 알기 어려운 형태로 공개했고, 이미지 필터링 등을 위한 외부 개발도구(SDK)의 안전성을 충실히 검토하지 않은 사실이 발견됐다.
이에 개인정보를 서버로 전송해 처리할 때 이용자가 이를 쉽게 인지할 수 있도록 하고, 외부 SDK를 사용해 개인정보를 처리하는 경우 의도치 않은 개인정보처리 전송 가능성을 점검할 것을 개선권고했다.
AI 기술로 전 세계 31개 언어를 번역해 주는 '딥엘'은 공개된 데이터와 이용자가 무료 서비스에 입력한 텍스트를 AI 학습데이터로 활용했다.
딥엘은 이용자가 무료 서비스에 입력한 정보에 대해 AI 학습 및 인적 검토를 진행하면서 이를 명확하게 공개하지 않았던 사실을 확인했으나, 추후에 이를 개선한 것을 감안해 별도의 개선권고는 하지 않기로 했다.
AI 기반의 의료영상(X-RAY, CT, MRI 등)과 심전도 등 생체신호 판독·진단을 보조하고 질환을 예측하는 프로그램인 '뷰노'는 위반 사항은 발견되지 않았다.
개인정보위는 앞으로도 정보주체가 안심하고 AI 서비스를 활용할 수 있도록 AI 응용서비스에 대한 지속적인 모니터링을 실시하고, 안전한 개인정보 활용 방안을 마련할 계획이다.
shlamazel@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
관련뉴스
