Попри те що OpenAI позиціює GPT-5.2 як “найсучаснішу передову модель для професійної роботи”, нові тести викликали занепокоєння щодо її надійності. Як повідомляє The Guardian, під час перевірок з’ясувалося, що GPT-5.2 посилався на Grokipedia, коли відповідав на конкретні, але водночас чутливі та суперечливі теми, пов’язані з Іраном або Голокостом.
Щоб дізнатись останні новини, слідкуйте за нашим каналом Google News онлайн або через застосунок.
Grokipedia – це онлайн-енциклопедія, створена з використанням технологій xAI. І, згідно з матеріалом The Guardian, ChatGPT використовував Grokipedia як джерело інформації для тверджень про зв’язки іранського уряду з телекомунікаційною компанією MTN-Irancell, а також у відповідях на запити щодо британського історика Річарда Еванса, який виступав експертом-свідком у справі про наклеп за участі Девіда Ірвінга, що заперечував Голокост. Водночас видання зазначає, що в інших запитах, зокрема про можливу упередженість медіа щодо Дональда Трампа та низку інших контроверсійних тем, ChatGPT уже не звертався до Grokipedia як до джерела.
OpenAI випустила модель GPT-5.2 у грудні та позиціювала її як інструмент для більш ефективної професійної роботи, від створення складних таблиць до виконання багатокрокових завдань. Grokipedia з’явилася раніше, однак майже одразу опинилася в центрі скандалів після того, як у її матеріалах виявили посилання на неонацистські форуми. Окреме дослідження американських науковців також показало, що ця AI-енциклопедія посилалася на “сумнівні” та “проблемні” джерела.
При цьому GPT-5.2 – не єдина велика мовна модель, яка, схоже, використовує Grokipedia. За неофіційними спостереженнями, модель Claude від Anthropic також інколи зверталася до цієї енциклопедії у відповідях на теми від видобутку нафти до шотландських сортів елю.
Представник OpenAI у коментарі заявив, що вебпошук моделі “орієнтований на використання широкого спектра загальнодоступних джерел і думок”. “Ми застосовуємо фільтри безпеки, щоб зменшити ризик появи посилань, пов’язаних із серйозною шкодою, і ChatGPT чітко показує, які джерела вплинули на відповідь, через цитування”, – сказали вони, додавши, що мають постійні програми для фільтрування інформації з низькою надійністю та кампаній впливу.
Втім, сам факт того, що інформація з Grokipedia поступово й часом майже непомітно проникає у відповіді великих мовних моделей, викликає занепокоєння у дослідників дезінформації. Ще минулого року експерти з безпеки попереджали, що деякі суб’єкти, зокрема російські пропагандистські мережі, масово поширюють дезінформацію, намагаючись наповнити моделі AI брехнею. Цей процес отримав назву LLM grooming. А, на жаль, якщо недостовірна інформація вже потрапила в чат-бот, її не так просто видалити.
Читайте також:
- AI полює на екзопланети: що вдалося виявити в даних телескопа NASA TESS
- GPT-5.2 за $8: ChatGPT Go став найдешевшим квитком у новий AI