Комп'ютерні новини
Всі розділи
NVIDIA анонсувала CUDA Tile: спрощення програмування для тензорних ядер у CUDA 13.1
NVIDIA представила важливе оновлення своєї платформи CUDA 13.1 — запуск NVIDIA CUDA Tile. Це нововведення вважається найбільшим прогресом з моменту винаходу CUDA у 2006 році та має на меті значно спростити паралельне програмування на графічних процесорах, особливо для завдань, пов'язаних зі штучним інтелектом.
Традиційно програмування на CUDA (модель SIMT) вимагало від розробників детального контролю над кожним елементом, що ускладнювало написання ефективного коду. CUDA Tile пропонує програмування на вищому рівні, абстрагуючи складне спеціалізоване обладнання, таке як тензорні ядра.
Як це працює:
Замість того щоб вказувати комп'ютеру, як обробляти дані поелементно, розробник тепер може працювати з великими блоками даних, або «тайлами» (плитками). Розробник вказує, які обчислення потрібно виконати над цими блоками, а компілятор та програмне забезпечення CUDA Tile автоматично визначають, як це найкраще зробити на апаратному рівні, включаючи тензорні ядра.
Це схоже на роботу з бібліотеками типу NumPy у Python, де ви оперуєте матрицями, не турбуючись про внутрішні деталі.
NVIDIA зазначає, що CUDA Tile не замінює традиційний підхід SIMT, а доповнює його: розробники можуть вибирати між ними залежно від завдання. Для більшості програмістів взаємодія з цією функцією відбуватиметься через високорівневі інструменти, такі як NVIDIA cuTile Python.
