AI가 생성한 펜타곤 인근 '폭발' 사진 Twitter

최근에 Twitter 설명에서 알 수 있듯이 펜타곤 근처에서 발생한 폭발을 묘사 한 사진이 나타났습니다. 이로 인해 단기적인 시장 하락도있었습니다. S & P 500 지수는 0,29 % 하락했지만 사진이 가짜라는 사실이 밝혀진 후 지수는 회복되었습니다. 이 이미지는 확인된 Bloomberg Feed 계정에 의해 게시되었으며 파란색 체크 표시에도 불구하고 Bloomberg 미디어 회사와 관련이 없습니다.

사진은 가짜로 빠르게 인식되었습니다. 인공 지능의 도움으로 생성된 것으로 보입니다. 그러나 이러한 세부 사항이 나타나기 전에 쓰레기 Russia Today(음, 누가 의심하겠습니까)를 포함하여 이미 다양한 계정에 의해 잘못된 정보가 퍼졌습니다.

가짜 이미지는 펜타곤과 어렴풋이 닮은 건물 옆에 텍스트와 함께 검은 연기의 큰 기둥을 보여줍니다. 현지 당국은 자세히 조사한 결과 이미지가 펜타곤을 정확하게 표현하지 않았으며 흐릿한 울타리 기둥과 건물 기둥이 Stable Diffusion과 같은 AI 모델을 사용하여 생성된 다소 엉성한 이미지처럼 보였다고 확인했습니다.

전에 블룸버그 가짜 계정 Twitter 차단했고, 수만 개의 트윗이 있었지만 총 팔로워는 1명 미만이었고, 누가 그것을 실행했는지 또는 가짜 이미지의 동기가 무엇인지는 불분명합니다. Bloomberg Feed 외에도 허위 메시지를 퍼뜨리는 다른 계정으로는 Walter Bloomberg 및 Breaking Market News가 있으며 이들은 실제 Bloomberg 회사와 관련이 없습니다.

이번 사건은 검증되지 않은 정보가 성급하게 공유되는 소셜미디어에서 인공지능이 생성한 이미지가 가할 수 있는 잠재적인 위협과 Twitter. 월에 Midjourney를 사용하여 만든 Donald Trump의 체포에 대한 가짜 이미지가 입소문을 냈고 즉시 가짜라고 불렸지만 매우 사실적으로 보였습니다. 또한 많은 사람들이 흰색 다운 재킷을 입은 프란치스코 교황의 AI 생성 이미지에 속았습니다.

이제 "BloombergFeed" 계정이 금지되었습니다.

그러나 이것은 두더지 잡기 게임으로 바뀔 것입니다.

가짜 AI 이미지 + 확인된 가짜 뉴스 Twitter 계정 + 주류 미디어는 신맛을 확인하지 않습니다ces = 디지털 사회의 재난에 대한 비결.

속도가 느려지지 않습니다. 사진.twitter.com/ZeboVgVm4Z

— 로렌조 그린〰️(@mrgreen) 2023 년 5 월 23 일

다운 재킷을 입은 교황은 한 가지이지만 미 국방부 본부에서 폭발하는 것은 완전히 다른 것입니다. 동일한 주식 시장이 증명하듯 그 결과는 심각할 수 있습니다. 다우존스 산업평균지수는 트윗이 입소문이 난 지 85분 만에 포인트 하락했지만 금세 회복됐다.

가짜 트윗을 둘러싼 혼란의 대부분은 Twitter 엘론 머스크 시절. 그는 많은 콘텐츠 관리자를 해고하고 계정 확인 프로세스를 대부분 자동화하여 누구나 파란색 수표를 지불할 수 있는 시스템으로 옮겼습니다. 비평가들은 이러한 관행이 플랫폼을 잘못된 정보에 더욱 취약하게 만든다고 말합니다.

당국은 비교적 신속하게 폭발 사진을 가짜로 인식했지만 Midjourney 및 Stable Diffusion과 같은 이미지 합성 모델을 사용할 수 있다는 것은 설득력 있는 가짜에 더 이상 예술성이 필요하지 않아 허위 정보의 여지가 있음을 의미합니다. 다음과 같은 플랫폼의 바이럴 특성과 결합된 가짜 생성의 용이성 Twitter, 거짓 정보가 확인될 수 있는 것보다 더 빨리 퍼질 수 있음을 의미합니다.

이 경우 부정적인 영향을 미치기 위해 이미지가 반드시 고품질일 필요는 없습니다. 전문가들은 사람들이 무언가를 믿고 싶을 때 경계심을 잃고 정보의 진실성을 확인하지 않는다고 말합니다.

또한 읽기:

• Meta의 언어 AI는 4개 이상의 언어를 인식합니다.
• Adobe, AI 기반 Generative Fill 편집 기능을 Photoshop에 추가