Дослідники з Facebook представили новий метод зберігання інформації штучним інтелектом (ШІ). Кожному шматку даних автоматично присвоюють термін придатності в залежності від його ваги.
Дослідники пояснили, що моделі ефективно запам’ятовують будь-яку інформацію. Зазвичай це добре, але в деяких випадках – шкідливо, адже штучний інтелект не поділяє важливі і другорядні дані і обробляє їх з однаковою ефективністю, витрачаючи приблизно таку ж кількість даних. Але в міру збільшення обсягу доступної інформації, системи змушені витрачати все більше і більше обмежених обчислювальних ресурсів на її обробку. Дослідники Facebook сподіваються допомогти майбутнім ШІ бути уважнішими, наділивши дані терміном придатності.
Цей метод називається Expire-Span і допоможе нейронним мережам ефективно сортувати і зберігати інформацію, найбільш підходящу для виконання поставлених перед ними завдань. Expire-Span працює, спочатку передбачаючи, яка інформація буде найкориснішою для мережі в даному контексті, а потім привласнюючи їй термін придатності. Чим важливіша, на думку Expire-Span, та чи інша інформація, тим віддаленіший термін придатності буде у даних. Нейронні мережі зможуть довше зберігати актуальну інформацію, постійно звільняючи пам’ять, забуваючи неактуальні дані.
Теж цікаво: IBM розробляє штучний інтелект, щоб винайти нові антибіотики
«Expire-Span розраховує значення терміну придатності інформації для всіх видів даних і робить це кожен раз, коли їй надають новий фрагмент інформації. Цей тег визначає, як довго інформація зберігається в пам’яті, – пояснили дослідники. – Поступовий розпад частини даних є ключем до збереження важливої інформації без її розмивання».
Хоча дослідження ще знаходяться на ранній стадії, вчені впевнені, що для удосконалення нейронної мережі потрібно не так багато кроків. В майбутньому команда сподівається розробити ще більш наближену до людської пам’яті, але здатну засвоювати нову інформацію набагато швидше мережу, ніж дозволяють нинішні технології.
Читайте також: