@유튜브, '현실적' AI 제작 콘텐츠 레이블 출시

유튜브는 곧 인공지능에 의해 생성된 콘텐츠를 포함하고 시청자들을 오도할 수 있는 비디오에 대한 공개를 요구할 것입니다. 구글이 소유한 플랫폼은 오랫동안 시청자들을 오도하고 "엄청난 위해를 가할 수 있는" 기술적으로 조작된 콘텐츠를 금지해 왔습니다. 그러나 화요일에 발표된 새로운 정책 업데이트로, 유튜브는 이제 창작자들이 "AI 도구를 사용하는 것을 포함하여 현실적인 조작되거나 합성된 콘텐츠"를 포함하는 콘텐츠를 업로드할 때 라벨을 추가하도록 요구할 것입니다. 

 

이 정책은 종종 실제 것과 구별하기 어려울 수 있는 매력적인 텍스트, 이미지, 비디오 및 오디오를 빠르고 쉽게 만들 수 있도록 하는 새로운 소비자용 생성 AI 도구가 확산되는 가운데 사용자가 합성 콘텐츠로 혼란을 겪는 것을 방지하도록 돕기 위한 것입니다. 새로운 라벨은 인공지능이 생성하거나 "현실적"인 합성 콘텐츠에만 필요할 것입니다. 

 

예를 들어, 유튜브 제품 관리 부사장 제니퍼 플래너리 오코너와 에밀리 목슬리는 블로그에 올린 글에서 이것은 "한 번도 일어나지 않은 사건을 현실적으로 묘사하거나, 누군가가 실제로 하지 않은 말을 하거나 행동하는 것을 보여주는 내용"을 포함한다고 말했습니다. "이것은 특히 선거, 지속적인 갈등 및 공중 보건 위기와 같은 민감한 주제에 대해 내용이 토론하는 경우에 중요합니다." Flannery O'Connor and Moxley는 말했습니다.

 

디지털 정보 무결성 전문가들은 생성형 AI 도구의 성장으로 인해 소셜 미디어와 인터넷에서 설득력 있지만 오해의 소지가 있는 콘텐츠가 공유되는 붐을 일으킬 수 있다고 우려했습니다. 이 기술은 2024년 미국과 다른 지역의 선거를 앞두고 특정한 위협이 될 수 있습니다.

 

유튜브는 인공지능이 만든 콘텐츠를 더 투명하게 만들기 위한 규칙을 도입하는 최신 플랫폼일 뿐입니다. 틱톡(TikTok)은 올해 초 AI가 만든 콘텐츠에 대한 새로운 레이블을 추가했으며 사용자들은 "현실적인 장면"을 묘사하는 콘텐츠가 언제 만들어지거나 AI로 편집되는지를 공개해야 한다고 말했습니다. 그리고 페이스북(Facebook)과 인스타그램(Instagram)의 모회사인 메타(Meta)는 지난주 정치 광고주들이 광고에서 AI의 모든 사용을 공개해야 한다고 말했습니다.

 

유튜브의 새로운 공개 정책은 지난 9월 플랫폼이 크리에이터들이 동영상을 제작하고 플랫폼의 더 많은 시청자들에게 다가가는 것을 돕기 위해 인공지능 기반의 새로운 도구들을 출시한 이후에 나온 것이기도 합니다. 예를 들어, 유튜브는 창작자들이 AI가 만든 비디오 또는 이미지 배경을 수직 비디오 및 도구에 추가하여 창작자들이 비디오의 개요를 작성할 수 있도록 도와주는 기능을 소개했습니다.

 

플랫폼의 대변인에 따르면, 인공지능이 만든 폭로 라벨을 부착하는 옵션이 유튜브의 동영상 업로드 흐름에 추가될 것이고 내년 초에 출시되기 시작할 것입니다. 라벨은 일반적으로 비디오의 설명 패널에 표시되지만, "민감한 주제에 대한 특정 유형의 컨텐츠"의 경우 비디오 플레이어 내에 라벨이 더 눈에 띄게 배치됩니다. 유튜브만의 생성형 AI 툴로 만든 콘텐츠도 선명하게 라벨이 붙습니다. 유튜브는 새로운 요구사항을 준수하지 않는 사용자들은 책임을 물을 것이라고 말합니다.

 

새 정책에 따라 공개해야 할 합성 콘텐츠에 지속적으로 새 라벨을 사용하지 못하는 창작자는 콘텐츠를 수익화할 수 있는 유튜브 파트너 프로그램에서 콘텐츠 삭제 또는 정지 등의 처벌을 받을 수 있습니다. 플랫폼은 또한 자사의 커뮤니티 지침을 위반한 인공지능 또는 인공지능이 생성한 콘텐츠가 다른 동영상과 동일한 제한 또는 제거 대상이 될 것이라고 언급했습니다.

 

화요일 발표의 일환으로, 유튜브는 또한 사람들이 그들의 개인정보 보호 요청 절차에 따라 그들의 얼굴이나 목소리를 포함하여 식별할 수 있는 개인을 모방하는 인공지능 또는 기타 조작된 콘텐츠의 제거를 요청할 수 있게 할 것이라고 말했습니다. 이러한 변화는 인공지능이 만들어내는 비동의적인 성적 이미지와 사람들의 얼굴과 목소리를 조작하는 다른 콘텐츠의 증가에 대한 우려 속에 이루어졌습니다.

 

유튜브는 이용자의 삭제 요청에 응할지 여부를 결정할 때 해당 내용이 풍자적인지 공인인지 등 '다양한 요소'를 고려할 것이라고 밝혔습니다. 플랫폼의 음악 파트너들은 또한 특정 아티스트들의 목소리를 모방한 인공지능이 만든 음악의 제거를 요청할 수 있을 것입니다.

 

@ IBM, 엘론 머스크 X에 대한 광고 중단 친나치 콘텐츠 옆에 광고 등장

IBM은 목요일 이전에 트위터로 알려졌던 엘론 머스크의 X 플랫폼에 대한 광고가 친나치 콘텐츠와 함께 등장하자 광고를 중단했다고 발표했습니다.

회사 대변인은 성명에서 "IBM은 혐오 발언과 차별에 대한 무관용을 가지고 있으며 이 완전히 용납할 수 없는 상황을 조사하는 동안 X에 대한 모든 광고를 즉시 중단했습니다."라고 말했습니다.

이는 진보적인 미디어 감시 단체인 미디어 매터스가 머스크 소유의 플랫폼이 아돌프 히틀러와 나치 이데올로기를 옹호하는 여러 계정의 페이지에 IBM, 애플, NBC유니버설의 브라보, 오라클, 컴캐스트의 엑스피니티 광고를 게재했다는 분석을 발표한 후에 나온 것입니다. 보고서가 발표된 지 몇 시간이 지난 목요일 오후에도 계정은 활성화 상태를 유지했습니다.

애플, 컴캐스트, NBCU, 오라클 대변인은 논평 요청에 즉각 응하지 않았습니다.

 

미디어 매터스 보고서에 대해 X 대변인은 CNN에 플랫폼이 언급된 계정을 검토한 결과 더 이상 수익을 낼 수 없다고 결정했다고 밝혔습니다. 이는 더 이상 페이지에 광고를 실행할 수 없다는 것을 의미합니다. 대변인은 IBM의 광고가 옆에 달려있던 보고서에 포함된 게시물 중 하나에 대해 "우리는 그것이 어떤 광고에도 이상적인 배치가 아니라는 것을 이해하지만, 게시물 자체는 약 8,000개의 인상을 받았습니다."라고 말했습니다.

 

어떤 브랜드도 목요일 보고서에서 확인된 친나치 계정을 광고에 특별히 겨냥하지 않았으며 회사가 의도적으로 광고를 게재하지도 않았다고 대변인은 말했습니다. X의 CEO 린다 야카리노(Linda Yaccarino)는 목요일 오후 게시물에서 회사의 입장은 "모든 사람에 의한 차별은 전면적으로 중단되어야 한다. 나는 그것이 우리 모두가 동의할 수 있고 동의해야 할 부분이라고 생각한다"고 말했습니다.

 

"이 플랫폼에 관한 한 X는 반유대주의와 차별에 맞서기 위한 우리의 노력에 대해서도 매우 분명했습니다. 이 세상 어디에도 그런 일을 할 곳은 없습니다. 추하고 잘못된 일입니다. 완전히 멈추세요." 혐오스러운 콘텐츠 옆에 광고가 등장한 이후 X와 결별한 회사는 IBM이 처음이 아닙니다. 그리고 길리어드 사이언스는 미디어 매터스의 초기 보도에 따르면 자사의 광고가 친나치 계정 페이지에 게재된 것으로 나타나자 플랫폼에 대한 지출을 중단했습니다.

 

어도비, 뉴욕대 랭고네 병원, 메릴랜드대 미식축구팀 광고도 이 계정에 실렸다고 같은 보도가 나왔습니다. 당시 메릴랜드의 부 운동 감독은 2021년 이후 X에게 광고를 하는 데 돈을 쓰지 않았다고 말했는데, 이는 X가 유료 광고가 아님에도 불구하고 그 게시물을 홍보했을 수 있다는 것을 의미합니다. CNN의 신뢰할 만한 소식통들의 10월 리뷰에서도 공개적으로 인종차별적이고 백인 우월주의적인 매체인 VDARE의 검증된 계정에 주요 기업과 단체에 대한 광고가 등장한 것으로 나타났습니다.