un future forum 유엔미래포럼 > Megatrends > 인공 지능이 인터넷을 가짜 뉴스로부터 구해 줄 수 있을까? 앨런 인공 지능 연구소와 시애틀 워싱턴 대학교와 함께 최예진이 이끄는 그룹은 최근 인공 지능 플랫폼인 그로버(Grover)를 세상에 도입했다. 인공 지능 플랫폼은 자율적으로 생성 된 가짜 뉴스를 포착하는 데 특히

방문해 주셔서 감사합니다.

· Megatrends


	[] 인공 지능이 인터넷을 가짜 뉴스로부터 구해 줄 수 있을까? 앨런 인공 지능 연구소와 시애틀 워싱턴 대학교와 함께 최예진이 이끄는 그룹은 최근 인공 지능 플랫폼인 그로버(Grover)를 세상에 도입했다. 인공 지능 플랫폼은 자율적으로 생성 된 가짜 뉴스를 포착하는 데 특히

	write date : 2019-07-01 13:30:14

                
인공 지능이 인터넷을 가짜 뉴스로부터 구해 줄 수 있을까? 앨런 인공 지능 연구소와 시애틀 워싱턴 대학교와 함께 최예진이 이끄는 그룹은 최근 인공 지능 플랫폼인 그로버(Grover)를 세상에 도입했다. 인공 지능 플랫폼은 자율적으로 생성 된 가짜 뉴스를 포착하는 데 특히 뛰어나다.박영숙 블록체인혁명2030 저자   
입력 : 2019.07.01 08:58       

"보는 것이 믿는 것이다."라고 하는 오래된 속담이 있다. 그러나 인공 지능 시대에 말 그대로 무엇이든 가져가는 것이 점점 어려워지고 있다.
 
비디오 콘텐츠를 조작하기 위해 다양한 유형의 인공 지능 기반 기술이 사용되는 이른바 "딥페이크 (deepfakes)"의 부상은 의회가 지난달이 기술의 잠재적인 남용에 대한 첫 번째 청문회를 개최 한 시점에 이르렀다. 의회 조사는 페이스북 CEO 인 마크 주커버그 (Mark Zuckerberg)가 악의적 인 연설로 보이는 것을 전달한 바 있는 비디오의 공개와 일치 했다.

과학자들은 딥페이크 (deepfake) 퇴치 방법에 대한 해결책을 찾기 위해 노력하고 있으며, 동시에 다른 사람들은 영화 산업의 비디오 컨텐츠 자동화와 같이 사소한 목적을 위해 기술을 계속해서 개선하고 있다. 
 
예를 들어, 뉴욕 대학의 텐던공학학교(Tandon School of Engineering)의 연구자들은 스펙트럼의 한쪽 끝에서 조작 된 사진과 비디오를 발견 할 수 있는 신경망을 사용하여 일종의 디지털 워터 마크를 삽입 할 것을 제안했다. 
 
아이디어는 시스템을 디지털 카메라에 직접 내장하는 것이다. 많은 스마트 폰 카메라 및 기타 디지털 장치는 이미 인공 지능을 사용하여 이미지 품질을 높이고 다른 수정 작업을 수행한다. NYU 연구의 저자들은 프로토타입 플랫폼이 이미지 품질을 희생시키지 않으면서 조작을 감지 할 확률을 약 45 %에서 90 % 이상으로 높였다.
 
반면 카네기 멜론 대학교 (Carnegie Mellon University)의 연구원은 최근 자동으로 빠르게 대용량의 비디오 콘텐츠를 한 소스에서 다른 소스의 스타일로 변환하는 기술을 사용했다. 한 예로, 과학자들은 코미디언 존 올리버 (John Oliver)의 얼굴 표정을 심야 쇼 호스트인 스티븐 콜버트 (Stephen Colbert)의 얼굴로 옮겼다.
 
CMU 팀은 이 방법이 흑백 영화를 컬러로 변환하는 것과 같이 영화 산업에 이익이 될 수 있다고 말했지만 이 기술이 딥페이크를 개발하는 데 사용될 수 있음을 인정했다.
 
가짜 뉴스와 관련된 단어
현재 스포트라이트는 비디오 및 이미지 조작에 대처하는 방법에 관한 것이지만, 학계, 비영리 단체 및 기술 업계는 가짜 뉴스에 대한 장기간의 트렌드 전쟁을 벌이고 있다.
 
이것은 보고서의 주제에 아첨하지 않을 수도 있는 사실에 근거한 정보에 대한 무자비한 반응으로 사용하게 된 가짜 뉴스가 아니다. 오히려 가짜 뉴스는 인터넷을 통해 전파되는 고의로 생성 된 잘못된 정보이다.
 
최근 퓨 리서치 센터의 여론 조사에서 미국인들은 가짜 뉴스가 폭력 범죄, 인종 차별, 테러보다 더 큰 문제라고 말했다. 다행스럽게도 사람들이 의도적으로기만 당할 때를 결정하기 위해 적용된 많은 언어 도구는 가짜 뉴스를 발견하기 위한 알고리즘으로 구워 질 수 있다.
 
그것이 미시간 대학 (U-M)의 팀이 문법 구조, 단어 선택 및 구두점과 같은 언어적 신호에 초점을 맞춤으로써 가짜 뉴스를 식별하는 것보다 76 % 대 70 % 인 알고리즘을 개발하는 접근 방식이다.
 
예를 들어, 가짜 뉴스는 "압도적인"또는 "특별한"과 같은 용어를 사용하여 과장 및 과장된 표현으로 채워지는 경향이 있다. .
 
U-M의 컴퓨터 과학 및 공학 교수인 Rada Mihalcea는 싱귤래리티 허브(Singularity Hub)에 대해 "이것은 뉴스가 사실이 아니므로 사용되는 언어로 보완하려는 노력을 보완하는 방법이라고 생각한다. 
 
"가짜 뉴스의 자동 탐지"라는 논문은 가짜 뉴스를 퍼트릴 의도가 전혀 없는 일반 사람들의 거짓말에 대한 팀의 이전 연구를 기반으로 한 것이라고 그녀는 말했다.
 
"기만은 두뇌의 힘을 필요로 하는 복잡한 현상"이라고 Mihalcea는 지적했다. "문장이 짧아지거나 서류가 짧은 언어가 더 자주 나오는 경우가 많다."
 
인공 지능 대 인공 지능
Mihalcea에 따르면, 대부분의 가짜 뉴스가 여전히 거짓말의 패턴을 식별 할 수 있는 인간에 의해 대량 생산되지만, 다른 연구자들은 이미 기계가 제조한 잘못된 정보를 탐지하는 방법을 예상하고 있다. 
 
앨런 인공 지능 연구소와 시애틀 워싱턴 대학교와 함께 최예진이 이끄는 그룹은 그러한 팀 중 하나이다. 연구원은 최근 인공 지능 플랫폼인 그로버(Grover)를 세상에 도입했다. 인공 지능 플랫폼은 자율적으로 생성 된 가짜 뉴스를 포착하는 데 특히 뛰어나다.
 
"이것은 반 직관적인 발견 때문이다. 신경계 가짜 뉴스의 강력한 생성기는 그 자체로 강력한 탐지기이다."라고 중역 블로그 게시물에서 박사 학생이자 팀원인 로완 젤러 (Rowan Zellers)는 썼다. "가짜 뉴스의 생성자는 지나치게 일반적이거나 예견 할 수 있는 단어와 유사한 생성기의 특성을 사용하는 것과 같은 고유한 특징을 가장 잘 이해할 것이다."
 
연구팀은 현재의 가장 훌륭한 판별기가 73 %의 정확도로 실제 인간의 텍스트에서 신경의 가짜 뉴스를 분류 할 수 있음을 발견했다. Grover는 5,000 개의 신경망으로 생성 된 가짜 뉴스 샘플의 교육 세트를 기반으로 하여 92 %의 정확성을 제공한다. Zellers는 Grover가 80,000 건의 기사를 다룰 때 97.5 %의 보완 된 기계적 점보를 확인하면서 규모 면에서 더 낫다고 썼다.
 
엘런 머스크(Elon Musk)이 설립 한 비영리 연구 기관인 OpenAI가 작성한 GPT-2라는 강력한 새로운 텍스트 생성 시스템으로 작성된 가짜 뉴스와 거의 비슷한 결과를 얻었다. 이 시스템은 기계로 작성된 기사의 96.1 %를 분류한다.
 
OpenAI는 플랫폼이 악용되어 제한된 버전의 소프트웨어만 출시 할 수 있다고 두려워했다. 대중은 사용자가 짧은 프롬프트에서 타이핑하고 GPT-2는 텍스트 스니펫을 기초로 단편이나 시를 강타하는 Adam King이라는 머신 러닝 엔지니어가 게시한 축소 형 버전으로 게임을 즐길 수 있다.

은 총알이 없는 인공 지능 
진정한 진전이 가짜 뉴스에 대해 만들어지고 있지만 인공 지능을 사용하여 잘못된 정보를 발견하고 수정하는 데 따르는 어려움은 풍부하다고 Higgo Williams는 깊은 학습과 자연의 요소를 사용하여 다른 탐지기를 개발하는 영국 기반 신생 업체인 Logically의 아웃 리치 관리자에 따르면 언어 처리, 다른 사람 사이에서 그는 논리적 모델이 3 갈래의 접근법에 기반한 정보를 분석한다고 설명했다.
 
게시자 메타 데이터: 신빙성 있는 저널리즘의 역사를 가진 신뢰할 수 있고 신뢰할 수 있는 게시자의 기사인가?
네트워크 행동: 기사가 일반적으로 잘못된 정보와 관련된 방식으로 소셜 플랫폼 및 네트워크를 통해 확산되고 있는가?
내용 : 인공지능은 일반적으로 잘못된 정보에서 발견되는 수백 개의 알려진 표시기에 대한 기사를 스캔한다.
윌리엄스는 싱귤래리티 허브(Singularity Hub)에 이메일을 보내 "이것을 수행 할 수 있는 알고리즘은 하나도 없다"고 밝혔다. "서로 다른 알고리즘을 모아 놓은 경우에도 신뢰할 수 없거나 틀린 것을 상대적으로 적절하게 나타낼 수 있다. 항상 파이프 라인에 인간 계층이 있어야 한다."
 
이 회사는 2 월에 인도에서 선거 주기가 있기 바로 전에 인도에서 소비자 용 앱을 출시했는데 이는 올해 말에 예정된 차기 앱 출시를 위한 기술을 개선하기 위한 "훌륭한 시험장"이었다. 사용자는 실제 사람이 더 자세히 조사 할 수 있도록 기사를 제출할 수 있다.
 
윌리엄스 대변인은 "우리의 기술이 전통적인 검증 작업을 대체하는 것이 아니라 매우 수동적인 프로세스를 간소화하고 능률화하는 방법이라고 생각한다. "이렇게 함으로써 우리는 다른 조직보다 훨씬 빠른 속도로 더 많은 사실 확인을 게시 할 수 있게 되었다."
 
"분석이 강화되고 사용자가 읽는 이야기 주변에 상황에 맞는 정보가 추가됨에 따라 우리는 사용자에게 무엇을 믿어야 하는지 안 해야 하는지를 말하지 않고 신뢰할 수 있고 신뢰할 수 있는 검증 된 내용을 바탕으로 비판적인 사고를 장려한다."라고 덧붙였다.
 
인공 지능은 가짜 뉴스를 완전히 탐지하지 못할 수도 있지만 인터넷에서 읽은 뉴스에 대해 더 똑똑해질 수 있다.
 
이미지 출처 : Dennis Lytyagin / Shutterstock.com