У пресслужбі AMD повідомили, що компанія випустила нову версію програмного забезпечення з відкритим вихідним кодом ROCm 6.3. Цей софт отримав додаткові передові інструменти, що дозволяють спростити процес розробки та забезпечити ще ліпшу продуктивність і масштабованість для робочих навантажень AI та високопродуктивних обчислень (HPC).
Щоб дізнатись останні новини, слідкуйте за нашим каналом Google News онлайн або через застосунок.
Серед основних особливостей AMD ROCm 6.3 у компанії виділили такі:
- Інструмент SGLang, спеціально розроблений для оптимізації інференції найсучасніших генеративних моделей, таких як великі мовні моделі та візуально-мовні моделі, на графічних процесорах AMD Instinct. З ним можна досягти до шести разів вищої пропускної здатності при інференції на великих мовних моделях
- Оптимізація трансформерів нового рівня. FlashAttention-2, оптимізований для ROCm 6.3, прискорює навчання моделей трансформерів та інференції у 3 рази. Завдяки цьому можна значно скоротити час виведення на ринок корпоративних систем штучного інтелекту
- Компілятор AMD Fortra, який спрощує прискорення графічного процесора для застарілих HPC-застосунків та пропонує пряме вивантаження, зворотну сумісність і легку інтеграцію без значних змін коду
- Нове багатовузлове ШПФ (швидкий алгоритм обчислення дискретного перетворення Фур’є). Підтримка багатовузлового ШПФ забезпечує високопродуктивні обчислення ШПФ на великих наборах даних. Це дозволяє підвищити ефективність і швидкість ухвалення рішень у таких галузях, як нафтогазова промисловість та наукові дослідження.
Також у новій версії програмного забезпечення були розширені бібліотеки комп’ютерного зору. Розширені бібліотеки зору, включно з AV1 і rocJPEG, дозволяють розробникам створювати передові AI-рішення для різноманітних робочих навантажень на кшталт відеоаналітики чи доповнення наборів даних. Цей інструмент буде корисним у цілому спектрі галузей, від масмедіа та розваг до автономних систем.
Завдяки відкритому вихідному коду та постійному розвитку для задоволення потреб розробників, AMD продовжує надавати компаніям можливість швидше впроваджувати інновації, розумніше масштабуватися та залишатися попереду в їхніх конкурентних галузях.
Якщо вам цікаві статті та новини про авіацію та космічну техніку — запрошуємо вас на наш новий проєкт AERONAUT.media.
Читайте також: