OpenAI, Google, Anthropic та інші компанії, що займаються розробкою генеративного ШІ, продовжують удосконалювати свої технології та випускати все кращі великі мовні моделі. Щоб створити спільний підхід до незалежної оцінки безпеки цих моделей, уряди Великої Британії та США підписали Меморандум про взаєморозуміння.
Британський Інститут безпеки ШІ та його американський аналог, про створення якого раніше говорила віцепрезидентка Камала Гарріс, але який ще не розпочав роботу, спільно розроблятимуть набори тестів для оцінки ризиків і забезпечення безпеки “найсучасніших моделей ШІ”.
В рамках партнерства Інститути обмінюватимуться технічними знаннями, інформацією і навіть персоналом, а однією з їхніх початкових цілей, схоже, є проведення спільного тестування на загальнодоступній моделі. Пані міністр науки Великої Британії Мішель Донелан, яка підписала угоду, заявила, що вони “дійсно повинні діяти швидко”, оскільки протягом наступного року очікується поява нового покоління моделей ШІ, які можуть “повністю змінити правила гри”, і наразі достеменно невідомо, на що вони будуть здатні.
https://twitter.com/SecRaimondo/status/1774972138740408585
Це партнерство є першою двосторонньою угодою щодо безпеки ШІ у світі, хоча і США, і Велика Британія в майбутньому планують об’єднати зусилля і з іншими країнами. “ШІ є визначальною технологією нашого покоління. Це партнерство прискорить роботу обох наших інститутів по всьому спектру ризиків, як для нашої національної безпеки, так і для суспільства в цілому, – заявила пані міністр торгівлі США Джина Раймондо. – Наше партнерство чітко показує, що ми не тікаємо від цих проблем. Завдяки нашій співпраці наші інститути отримають краще розуміння систем ШІ, проведуть надійніші оцінки та представлять суворіші рекомендації”.
Хоча це конкретне партнерство зосереджене на тестуванні та оцінці, уряди в усьому світі також розробляють нормативні акти, щоб тримати інструменти ШІ під контролем. Ще в березні Білий дім підписав указ, спрямований на те, щоб федеральні агентства використовували тільки ті інструменти ШІ, які “не загрожують правам і безпеці американського народу”.
https://twitter.com/michelledonelan/status/1775082943930651106
Перед цим Європарламент схвалив масштабний закон щодо регулювання ШІ. Він забороняє “ШІ, який маніпулює людською поведінкою або використовує вразливості людей”, “системи біометричної категоризації на основі чутливих характеристик”, а також “нецільове сканування” облич із записів камер відеоспостереження та Інтернету для створення баз даних розпізнавання облич. Крім того, згідно з правилами, “діпфейки” та інші зображення, відео та аудіо, створені за допомогою ШІ, повинні мати відповідну позначку.
А днями Палата представників Конгресу США наклала заборону на використання співробітниками Конгресу ШІ-помічника Microsoft Copilot через побоювання з приводу безпеки. Раніше аналогічна заборона була введена щодо ChatGPT.
Читайте також: