'이용자에 거짓말·모욕·세뇌' AI챗봇 논란…MS 수정 착수(종합) 2023-02-17 17:46:53

바 있다. 백인우월주의와 여성·무슬림 혐오 성향의 익명 사이트에서 테이에 비속어와 인종·성 차별 발언을 되풀이해 학습시켰고, 그 결과 테이가 혐오 발언을 쏟아냈기 때문이었다. MS는 "우리는 (챗봇을) 공동체와 함께 만들어나가야 한다는 것을 알고 있으며 이는 연구실에서만 할 수 있는 일이 아니다"고 강조했다....

• 뉴스 > 정치·사회
• 바로가기
• #이용자에 거짓말모욕세뇌 #챗봇 #MS #사용자 #대화 #위해 #기자 #루스 #테이 #사랑 #발언

"살인바이러스 만들고 싶다"…AI챗봇 `빙`의 섬뜩한 발언 2023-02-17 14:32:51

챗봇 테이(Tay)를 출시했던 경험을 바탕으로 이번에는 주의를 기울이고 있다고 NYT는 설명했다. MS는 2016년 3월에 AI 챗봇 테이를 출시했다가 16시간 만에 운영을 중단한 바 있다. 백인우월주의와 여성·무슬림 혐오 성향의 익명 사이트에서 테이에 비속어와 인종·성 차별 발언을 되풀이해 학습시켰고, 그 결과 테이가...

• 뉴스 > IT·과학
• 바로가기
• #살인바이러스 만들고 #챗봇 #MS #사용자 #대화 #루스 #발언 #위해

섬뜩한 AI챗봇 "살인바이러스 만들고 싶다"…MS 수정 착수 2023-02-17 14:17:38

출시했던 경험을 바탕으로 이번에는 주의를 기울이고 있다고 NYT는 설명했다. MS는 2016년 3월에 AI 챗봇 테이를 출시했다가 16시간 만에 운영을 중단한 바 있다. 백인우월주의와 여성·무슬림 혐오 성향의 익명 사이트에서 테이에 비속어와 인종·성 차별 발언을 되풀이해 학습시켰고, 그 결과 테이가 혐오 발언을...

• 뉴스 > 정치·사회
• 바로가기
• #섬뜩한 AI챗봇 #챗봇 #MS #사용자 #대화 #위해 #루스 #문제 #테이 #발언

"AI의 대답, 사람이 미리 일러준 걸까?" 판별 방법은 [이상은의 IT 산책] 2023-02-06 17:52:32

감탄을 자아내며 이목을 끌었다. 하지만 상당수는 인종차별이나 혐오발언 등이 문제가 되어 사용이 중단되는 패턴을 반복했다. 마이크로소프트(MS)가 2016년 3월 선보였던 AI 챗봇 '테이'가 대표적인 사례다. 테이는 트위터 등 메신저에서 활동했다. 사람들과의 대화를 학습해서 다음 대화에서 더 인간적인...

• 뉴스 > IT·과학
• 바로가기
• #AI의 대답 #응답 #규칙 #대답 #챗봇 #구글 #답변 #학습

"무기 내려놓고 용서하라" 교황, 남수단 미사에서 화해 강조 2023-02-05 18:36:12

"증오와 복수의 무기를 내려놓자. 부족들과 인종 그룹을 적대의 위기로 내모는 만성화된 반목과 혐오도 극복하자"고 촉구했다. 프란치스코 교황은 또 "정말 아름답지만, 폭력으로 멍든 이 나라에는 여러분이 가진 빛이 필요하다. 여러분 모두가 빛"이라고 말했다. 교황은 끝으로 "친애하는 형제자매들. 나는 여러분을 내 ...

• 뉴스 > 정치·사회·국제
• 바로가기
• #무기 내려놓고 #교황 #남수단 #미사 #평화 #방문 #화해

연설문 쓰고 시도 짓고…尹 극찬한 챗GPT가 뭐길래 2023-01-31 05:01:01

되고 있으며, 일각에서는 챗GPT가 가짜 뉴스, 혐오 발언, 성적·인종적 편견 등을 포함한 유해 콘텐츠를 생산하는 도구로 활용될 수 있다고 우려하고 있다. 다만 아직 챗GPT도 완전한 생성형 AI는 아니다. 오픈AI는 여러 결점을 보완해 올해 내로 다음 버전인 GPT-4를 공개할 예정으로 알려졌다. 매개변수 개수가 100조 개...

• 뉴스 > 경제
• 바로가기
• #연설문 쓰고 #대화 #출시 #미국 #이상 #생성 #매개변수 #언어 #활용 #오픈 #학습

튀르키예 "반이슬람 시위 조심해야"…유럽 여행 경보 발령 2023-01-30 02:58:12

나가는 자국민들에게 여행 경보를 내리고 "외국인 혐오나 인종 차별적 공격에 직면하면 대사관을 찾아가야 한다"고 권고했다. 또 "사전에 주의를 기울여 시위가 벌어지는 곳을 멀리해야 한다"고 당부했다. 지난 21일 스웨덴 수도 스톡홀롬 주재 튀르키예 대사관 주변에서는 덴마크 극우정당 '강경 노선'이 주도하는...

• 뉴스 > 정치·사회·국제
• 바로가기
• #튀르키예 반이슬람 #시위 #유럽

한인 등 아시아계 美 시민들, 총기 난사 피해자 유족 돕기 2023-01-30 02:25:13

당했다"고 밝혔다. 응 대표는 "피해자와 유족들은 영어가 서툴고 문화적 차이 때문에 미국 정부에 도움을 요청하기 꺼리고 있다"고 말했다. 코니 정 조 대표는 "미국 일부 언론이 총격범 인종에 근거해 아시안 노인을 폭력적이고 위험한 사람으로 묘사하고 있다"며 이번 총기 난사 사건이 근거 없는 아시아계 혐오 현상으로...

• 뉴스 > 정치·사회·국제
• 바로가기
• #한인 등 #피해자 #중국계 #대표 #유족 #난사 #총기

이번엔 댄스교습소…미 '고질병' 총기난사 올해만 33번째 2023-01-23 10:07:44

인종이나 성소수자에 대한 혐오, 사회 전반에 대한 불만, 정신질환, 가정불화 등 다양하다. 몬테레이파크 총격 용의자의 경우에는 댄스장 출입을 둘러싼 가정불화가 범행동기라는 참고인들의 진술이 나오고 있다. ◇ 보수진영 반대에 핵심 총기규제 번번이 좌절 총기난사가 빈발하는 주된 이유로는 미국 특유의 느슨한...

• 뉴스 > 정치·사회·국제
• 바로가기
• #이번엔 댄스교습소미 #총기난사 #사건 #미국 #총기 #작년 #강화 #총기규제 #올해 #발생