Протягом кількох місяців компанія OpenAI боролася з поширенням дезінформації, створеної за допомогою її інструментів такими країнами, як росія, Іран та іншими. Компанія виявила, що може відстежувати певний доступ до своїх генеруючих АІ-систем, які використовувалися для створення цих шахрайських кампаній, що не набули поширення в Інтернеті.
OpenAI опублікувала новий пост у блозі, в якому детально описала свій останній звіт про те, як вона запобігла поширенню масованої дезінформаційної кампанії за допомогою штучного інтелекту з таких країн, як росія, Іран, Ізраїль та Китай. У дописі йдеться про виявлення OpenAI “операцій прихованого впливу” (CIO) з цих країн, які мають на меті переконати громадськість і маніпулювати нею різними способами. Ці CIO могли бути мотивовані впливом на політичні суперечки або громадську думку, проте, OpenAI зробила все можливе, щоб запобігти успіху цих кампаній.
За даними OpenAI, чотири вищезгадані країни запустили п’ять CIO, а саме: Bad Grammar і Doppelganger з росії, китайський Spamouflage, Міжнародний союз віртуальних медіа (IUVM) з Ірану та операцію Zero Zeno, спрямовану проти ізраїльської компанії STOEIC.
Протягом трьох місяців OpenAI уважно стежила за ситуацією, в якій ці зловмисники використовували інструменти штучного інтелекту для створення своїх шахрайських повідомлень. Компанія стверджує, що вони вивели з ладу п’ять CIO. Згідно з моніторингом, проведеним на початку цього місяця, завдяки зусиллям OpenAI ці кампанії не отримали належного розголосу та не досягли своєї цільової аудиторії.
Міжнародні супротивники та суб’єкти загроз запускають масовані дезінформаційні кампанії проти своїх ворогів. Нещодавно OpеnAI представила свою політику протидії дезінформації на виборах, яка спрямована на боротьбу з використанням її ШІ для глибоких підробок, видавання себе за іншу особу та генерування дезінформації, а також на захист недоторканності голосу користувача. У рамках різних заходів компанія взяла на себе зобов’язання вдосконалити генерацію даних та інформації й уникати поширення фейкових новин серед користувачів, які шукають відповіді.
Читайте також:
Leave a Reply