Стартап DeepMind був піонером в області досліджень штучного інтелекту (ШІ) протягом останнього десятиліття і був придбаний Google дев’ять років тому. Однак, після того, як ChatGPT потрапив на перші шпальти газет, генеральний директор DeepMind Деміс Хассабіс повідомив Time, що компанія розглядає можливість випуску власного чат-бота під назвою Sparrow як «приватної бета-версії» десь у 2023 році.
Sparrow був представлений світу торік як підтвердження концепції в дослідницькій роботі, яка описувала його як «корисного діалогового агента, який знижує ризик небезпечних і невідповідних відповідей».
Попри деякі побоювання щодо потенційної небезпеки чат-ботів, яка, за словами DeepMind, містить «неточну або вигадану інформацію», здається, що Sparrow може бути готовий до швидкого запуску в бета-версії. З огляду на тісні відносини DeepMind з Google, він може фактично стати відповіддю пошукового гіганта на ChatGPT.
За словами Деміса Хассабіса, невелика затримка із запуском Sparrow пов’язана з тим, що DeepMind прагне переконатися, що в ньому є важливі функції, яких не вистачає ChatGPT, зокрема, посилання на конкретні джерела. Як сказав Хассабіс в інтерв’ю Time, «правильно бути обережними на цьому фронті».
З дослідницької роботи DeepMind також випливає, що Sparrow спочатку буде більш обмеженим і консервативним, ніж ChatGPT. Останній став вірусним завдяки своїй вражаючій здатності допомагати всім, від кодерів до диванних поетів, але він також викликав тривогу через свою здатність до дискримінаційних коментарів і навичок написання шкідливого програмного забезпечення.
DeepMind розповіла про правила, що обмежують поведінку, на яких побудований Sparrow, а також про його готовність відмовлятися відповідати на питання в «контекстах, де доречно звернутися до людей». У перших тестах Sparrow, очевидно, давав правдоподібні відповіді і, що дуже важливо, підкріплював їх доказами «у 78% випадків, коли йому ставили фактичні запитання». Але його справжні здібності стануть зрозумілішими, коли ця публічна бета-версія буде запущена.
Будь-хто, хто використовував ChatGPT, знає, що він здатний робити досить хорошу імітацію інтелекту з цілого ряду питань. Але хоча це, безумовно, весела розвага, чат-боти зі штучним інтелектом також потребують морального інтелекту і здатності посилатися на джерела – і саме в цьому, за словами DeepMind, їхній «діалоговий агент» Sparrow є сильнішим.
Для переходу на наступний рівень знадобиться багато зовнішніх даних, саме тому публічна бета-версія Sparrow неминуча. DeepMind заявляє, що розробка кращих правил для свого ШІ-помічника «зажадає як експертного вкладу з багатьох питань (включаючи політиків, соціологів і етиків), так і спільного вкладу з боку широкого кола користувачів і зацікавлених груп».
Сем Альтман, генеральний директор компанії OpenAI (яка створила ChatGPT), аналогічно говорив про труднощі у відкритті чат-ботів зі штучним інтелектом без заподіяння супутньої шкоди. У Twitter він визнав, що «з часом виникнуть значні проблеми з використанням технології OpenAI, ми зробимо все можливе, але не зможемо успішно передбачити кожну проблему».
Іншими словами, розробники як ChatGPT, так і DeepMind Sparrow схожі на батьків з допитливими малюками, що приносить задоволення і небезпеку в рівній мірі – особливо, коли їх вихователем в дитячому садку фактично є весь Інтернет.
Теж цікаво: