© ROOT-NATION.com - Використання контенту дозволено за наявністю зворотнього посилання.
У свіжому науковому дослідженні фахівці Apple презентували SimpleDesign – оптимізовану AI-модель, здатну одночасно створювати білкові послідовності та їхні структури.
Торік у вересні дослідники з Apple опублікували наукову працю під назвою «SimpleFold: Folding Proteins is Simpler than You Think», де описали спрощений підхід до прогнозування тривимірної будови білка на основі його амінокислотного ланцюжка.
Коротко кажучи, SimpleFold використовує модель зі зіставленням потоків для генерації тривимірної архітектури білка безпосередньо з амінокислотної послідовності. Технологія зіставлення потоків починає роботу з випадкової шумної бази та вибудовує відносно пряму траєкторію до остаточного результату. Це відрізняється від дифузійних моделей, які зазвичай функціонують шляхом поступового видалення шуму до досягнення фінального стану. Обидва методи найчастіше асоціюються з генерацією зображень, хоча науковці також вивчали дифузійні моделі для створення тексту та коду. Повертаючись до SimpleFold, розробники з Apple поєднали зіставлення потоків із універсальними блоками Transformer, що дозволило моделі уникнути деяких обчислювально складних прийомів, характерних для традиційних моделей згортання білків, таких як відома AlphaFold від DeepMind.
Тепер дослідники Apple презентували SimpleDesign, який переносить ідею простих універсальних архітектур на ширшу задачу білкового проєктування, а не лише на прогнозування просторової структури білка.
Як зазначають дослідники Apple у новому дослідженні «SimpleDesign: A Joint Model for Protein Sequence and Structure Codesign», наявні моделі часто спираються на багатоетапний процес навчання. На першому етапі спеціальні алгоритми спершу перетворюють складні дані на простіші внутрішні коди, а вже на другому етапі головна модель вчиться створювати на основі цих кодів нові результати. Автори припустили, що таке багатоетапне навчання не є обов’язковим для створення ефективних моделей спільного проєктування, і запропонували SimpleDesign – результативну мультимодальну модель білкового дизайну, навчену безпосередньо у просторі даних.
Іншими словами, на відміну від багатьох наявних рішень, що спираються на складні процедури, SimpleDesign навчається генерувати амінокислотні послідовності та безперервні тривимірні структури за допомогою єдиного наскрізного процесу. Багато сучасних аналогів спершу тренують окремий компонент для перетворення білкових структур на дискретні представлення або «токени», а вже потім запускають генеративну модель.
SimpleDesign оминає цей проміжний крок, навчаючись безпосередньо на зв’язаних амінокислотних послідовностях і тривимірних координатах, замість попереднього стиснення структур у токенізований формат.
Метод тренування SimpleDesign виявився доволі неординарним. Команда залучила понад 2 млн пар білкових послідовностей та структур, переважно з набору даних AFESM, що об’єднує прогнозовані структури з бази даних AlphaFold та додаткові зразки. Під час тренування обидві складові кожної пари штучно спотворювалися: амінокислоти в послідовності приховувалися за замаскованими токенами, а до тривимірної структури додавався шум.
Дослідники варіювали ступінь пошкодження кожного елемента. Якщо послідовність залишалася майже недоторканою, а структура зазнавала значних спотворень, завдання нагадувало згортання білка, де модель відновлювала архітектуру за відомим ланцюжком. Коли ж структура зберігалася чітко, а послідовність маскувалася, сценарій нагадував зворотне згортання: тоді модель мала створити послідовність, здатну сформувати задану конфігурацію. За часткового пошкодження обох сторін система одночасно опрацьовувала обидві проблеми, тренуючись для спільного проєктування білків.
Згідно з дослідженням, SimpleDesign продемонструвала конкурентні результати у бенчмарках зі спільного дизайну, генерації структур і створення послідовностей, попри набагато простіший пайплайн навчання. Автори також з’ясували, що розроблена модель здатна створювати правдоподібні білкові структури, а отримані амінокислотні послідовності не поступаються або навіть перевершують результати більшості конкуруючих мультимодальних аналогів.
Насамкінець дослідники зауважили, що досягнення SimpleDesign наразі обмежені комп’ютерними оцінками, оскільки створені білки не тестувалися експериментально на предмет реального згортання, функціонування чи безпеки в живих біологічних системах. Проте отримані результати виглядають надзвичайно обнадійливо, а повна наукова робота містить набагато глибший аналіз архітектури, процесу навчання, бенчмарків і результатів.
Читайте також: Купертіно знову “здивувало”: Як Apple продала той самий телефон учетверте, але тепер він гнеться