Intel та Інститут Вейцмана: прорив у ШІ-декодуванні прискорить роботу великих мовних моделей

На Міжнародній конференції з машинного навчання (ICML) дослідники з Intel Labs та Інституту наук Вейцмана представили значний прогрес у спекулятивному декодуванні. Нова техніка дозволяє будь-якій невеликій "чернетковій" моделі прискорювати будь-яку велику мовну модель (LLM) незалежно від відмінностей у словниковому запасі. 

"Ми вирішили основну неефективність генеративного ШІ. Наше дослідження показує, як перетворити спекулятивне прискорення на універсальний інструмент," — зазначив Орен Перег, старший науковий співробітник Групи обробки природної мови Intel Labs.

Що таке спекулятивне декодування та чому це важливо?

Спекулятивне декодування — це метод оптимізації логічного висновку, що робить LLM швидшими та ефективнішими без втрати точності. Він працює шляхом поєднання невеликої, швидкої моделі з більшою, точнішою.

Принцип роботи:

1. Мала модель (асистентна) швидко генерує "чернетку" повної фрази.
2. Велика модель потім перевіряє цю послідовність.

Це значно скорочує кількість циклів обчислення на вихідний токен. Наприклад, якщо традиційний LLM обчислює кожне слово фрази "Париж, відоме місто..." окремо, то зі спекулятивним декодуванням мала модель пропонує всю фразу одразу, а велика лише перевіряє її.

Універсальність та переваги прориву

Метод, розроблений Intel та Інститутом Вейцмана, усуває попередні обмеження, такі як необхідність спільних словників або спільно навчених сімейств моделей. Це робить спекулятивне декодування практичним для гетерогенних моделей (від різних розробників та екосистем).

Ключові переваги:

• Прискорення: До 2,8 раза швидший вивід без втрати якості.
• Універсальність: Працює з будь-якою невеликою чернетковою моделлю та будь-якою великою моделлю.
• Незалежність від постачальника: Сумісність з моделями від різних розробників.
• Відкритий код: Алгоритми вже інтегровані в бібліотеку Hugging Face Transformers, що дозволяє мільйонам розробників використовувати їх "з коробки" без написання власного коду.

Цей прорив сприяє відкритості, взаємодії та економічно ефективному розгортанню генеративного ШІ від хмари до периферії, дозволяючи розробникам та підприємствам оптимізувати свої рішення залежно від потреб у продуктивності та апаратних обмежень.

techpowerup.com
Павлик Олександр

ASRock анонсувала нову лінійку материнських плат AMD X870/X870E

ASRock оголосила про розширення свого портфоліо новими материнськими платами на чипсетах AMD X870 та X870E.

Серед представлених моделей – перша OC Formula для платформи AMD, оновлені серії Taichi та Phantom Gaming, а також доступна Pro-A.

X870E Taichi OCF: Для екстремального розгону

Флагманська X870E Taichi OCF – це перша материнська плата OC Formula на платформі AMD, створена для екстремального розгону. Вона оснащена:

• Друкованою платою серверного класу з наднизькими втратами.
• Надпотужною 22+2+1 фазною системою живлення SPS 110 А.
• Інноваційним компонуванням пам'яті (один DIMM на канал) для максимального розгону.
• Широкими можливостями підключення: два фронтальні USB Type-C, два задні USB4 Type-C, шість слотів M.2 для SSD (два з підтримкою PCIe 5.0 x4).

X870 Taichi Creator: Для творців контенту

X870 Taichi Creator розроблена для професійних творців контенту та пропонує:

• Подвійну мережу: 10GbE та 5GbE для швидкого доступу до локальних мереж.
• Два слоти PCIe Gen 5 x4 M.2 та USB 4.0 Type-C для високошвидкісних накопичувачів.
• Два фізичні слоти PCIe 5.0 x16 (з додатковим інтервалом) для двох відеокарт.
• Чотири порти Ultra USB Power зі стабільним живленням (12В на 5В перетворювач) для чутливих USB-пристроїв (наприклад, аудіообладнання).

Phantom Gaming X870 NOVA WiFi: Вибір геймерів

X870 NOVA WiFi орієнтована на геймерів, забезпечуючи безкомпромісну продуктивність:

• Потужний 18+2+1-фазний VRM 80 А та 8-шарова друкована плата 2Oz.
• Два слоти PCIe Gen 5 x4 NVMe M.2 для швидкого доступу до ігор.
• Порт USB Type-C на передній панелі з підтримкою PD 3.0 (36 Вт) для швидкої зарядки пристроїв.

X870 LiveMixer WiFi: Для стрімерів та контентмейкерів

X870 LiveMixer WiFi відзначається широкими можливостями підключення та розширення для стрімінгу та створення контенту:

• 25 портів USB, включаючи два USB 4.0 Type-C.
• Два слоти PCI-Express x4 для периферійних пристроїв, таких як карти захоплення.
• Мережевий порт 5GbE та ігрові порти Lightning для швидкого та стабільного з'єднання.
• Ultra USB Power для надійного живлення USB-аудіо та портативних пристроїв.

X870 Pro-A WiFi: Потужність за доступною ціною

• X870 Pro-A WiFi пропонує потужність та функціональність за бюджетною ціною:
• 16+2+1-фазне живлення та збільшений радіатор для стабільної продуктивності.
• Слот PCIe Gen 5 x4 M.2 з верхнім та нижнім радіаторами для ефективного розсіювання тепла.
• Підтримка 802.11be WiFi 7 та два порти USB4 Type-C.

Детальніші характеристики та інформацію про новинки ASRock можна знайти за посиланням тут.

techpowerup.com
Павлик Олександр

MSI оновлює BIOS для материнських плат AM5: підтримка нових процесорів та покращена стабільність

MSI розпочала розповсюдження нових оновлень прошивки UEFI (BIOS) для своїх материнських плат на сокеті AM5.

Ці оновлення включають мікрокод AMD AGESA 1.2.0.3F, який додає підтримку для кількох майбутніх процесорів AMD.

Ключові зміни та підтримка:

• Нові процесори: Оновлення забезпечує сумісність з майбутніми процесорами:
• Ryzen 9000F-серії: Чіпи на базі "Granite Ridge" без інтегрованої графіки.
• Настільні APU Ryzen 9000G-серії: Очікується, що вони базуватимуться на 4-нм монолітному кристалі "Krackan Point". Ці APU матимуть 12-ядерний процесор (4x "Zen 5" + 8x "Zen 5c"), потужну вбудовану графіку на архітектурі RDNA 3.5 (до 16 обчислювальних блоків) та нейронний процесор Ryzen AI XDNA 2 з продуктивністю 50 AI TOPS, що відповідає вимогам Microsoft Copilot+.
• Підтримка пам'яті: AGESA 1.2.0.3F також розширює підтримку максимального обсягу оперативної пам'яті до 256 ГБ (використовуючи чотири модулі DIMM по 64 ГБ).
• Безпека та стабільність: Прошивка містить численні виправлення для усунення вразливостей безпеки fTPM, запроваджених у попередній версії AGESA 1.2.0.3. MSI також реалізувала кілька покращень стабільності розгону.

MSI рекомендує це оновлення всім користувачам. Завантажити його можна у розділі "Підтримка" на сторінці вашої моделі материнської плати на офіційному сайті MSI.

techpowerup.com
videocardz.com
Павлик Олександр

ASUS ProArt Display PA32QCV: 6K-монітор для творців контенту з підтримкою Mac

ASUS анонсувала ProArt Display PA32QCV – професійний 32-дюймовий дисплей з роздільною здатністю 6K (6016 x 3384), розроблений спеціально для творців контенту.

Новинка надійде у продаж наприкінці серпня за ціною 1299 доларів США.

Виняткова якість зображення

PA32QCV пропонує приголомшливу якість зображення завдяки:

• Роздільній здатності 6K та щільності пікселів 218 ppi, що забезпечує неймовірну чіткість тексту та деталей.
• Точності кольору Delta E<2 та охопленню DCI-P3 98% (100% sRGB).
• Індивідуальному заводському калібруванню та сертифікації Calman Verified для стабільної та виняткової точності кольору.
• Підтримці HDR10 та VESA DisplayHDR 600 для глибокого контрасту та реалістичних кольорів.
• 10-бітній глибині кольору (понад 1,07 мільярда відтінків).
• Технології LuxPixel (AGLR покриття з низьким відбиттям) для "паперового" ефекту екрана без втрати чіткості кольорів.
• 145% більше робочого простору, ніж у 4K-монітора того ж розміру.

Ідеальний для користувачів Mac

• Монітор розроблений з урахуванням потреб користувачів Mac:
• Новий колірний пресет M Model-P3 забезпечує стабільну передачу кольорів між ProArt Display та пристроями macOS.
• Доступність ASUS DisplayWidget Center для macOS дозволяє легко керувати налаштуваннями монітора за допомогою миші.
• Можливість використовувати кнопку яскравості MacBook для регулювання яскравості монітора.
• Підвищена продуктивність та підключення

PA32QCV також оснащений функціями, що покращують робочий процес:

• Вбудований автоматичний KVM для зручного перемикання між двома підключеними ПК/ноутбуками за допомогою однієї клавіатури та миші.
• Два порти Thunderbolt 4 зі швидкою передачею даних, підтримкою DisplayPort та 96 Вт Power Delivery для заряджання пристроїв через один кабель.
• Функція USB-хаба, що дозволяє підключати периферійні пристрої до монітора.
• Широкі можливості підключення, включаючи HDMI 2.1, DisplayPort 1.4 DSC, USB Type-A та додатковий USB-C порт, а також наскрізний порт для навушників.
• Технологія ASUS Light Sync (два датчики) для автоматичного налаштування яскравості та колірної температури залежно від навколишнього освітлення.

Визнання та бонуси

Попередня модель, ProArt 5K PA27JCV, вже отримала світове визнання, вигравши нагороди TIPA World Award 2025 та EHA за найкращий професійний монітор. На додаток, у вибраних регіонах, покупці можуть отримати безкоштовну підписку на Adobe Creative Cloud (3 або 1 місяць) при купівлі відповідних продуктів ASUS.

techpowerup.com
Павлик Олександр

З'явилися попередні специфікації процесорів Intel Nova Lake-AX

Один із найнадійніших інсайдерів, Raichu, поділився ймовірними специфікаціями майбутніх процесорів Intel Nova Lake-AX.

Ці моделі отримають унікальну конфігурацію, зосереджену на потужній вбудованій графіці.

Ключові особливості Nova Lake-AX:

• Процесорна частина: Nova Lake-AX матиме один процесорний кластер, що включатиме 8 продуктивних ядер "Coyote Cove" (P-cores) та 16 ефективних ядер "Arctic Wolf" (E-cores). Додатково буде чотири ядра LPE. Загалом це 28 ядер CPU. На відміну від очікуваних Nova Lake-S, які матимуть дві такі плитки CPU, варіант AX використовує лише одну, щоб звільнити місце.
• Потужна інтегрована графіка (iGPU): Саме iGPU є головною родзинкою Nova Lake-AX. Воно матиме 384 виконавчі блоки (EU). Це приблизно відповідає 48 ядрам Xe3 (за умови стандартної конфігурації), що робить його одним з найбільших інтегрованих графічних процесорів, які Intel коли-небудь встановлювала у свої однокристальні системи.
• Пам'ять: SoC поєднуватиметься з пам'яттю LPDDR5X, що працює на швидкостях 9600 або 10 667 МТ/с. Це забезпечить достатню пропускну здатність для 28 ядер CPU та 384 EU через 256-бітну шину.

Raichu також зазначає, що запуск Nova Lake-AX поки що не визначений. Це означає, що Intel, ймовірно, оцінює рентабельність та потенційний попит на цю платформу перед тим, як запускати її у масове виробництво. Як і у випадку з APU від AMD, до таких рішень може бути значний інтерес, тому залишається чекати на офіційне рішення Intel.

videocardz.com
Павлик Олександр

Samsung і SK Hynix відкладають відмову від DDR4 через високий попит

Наприкінці минулого місяця на ринку пам'яті спостерігалося неочікуване зростання спотових цін на мікросхеми DDR4 DRAM. Це сталося саме тоді, коли провідні виробники, включаючи тайванські та південнокорейські компанії, вже оголосили про плани поступової відмови від цього стандарту, залишаючи лише мінімальні запаси для задоволення залишкового попиту. 

Виявилося, що майже десятирічна присутність стандарту DDR4 на ринку, починаючи з процесорів Intel Core 6-го покоління "Skylake" (2013 рік) і до поточного Core 14-го покоління "Raptor Lake Refresh", а також сумісність з платформою AMD Ryzen Socket AM4, створили величезну базу пристроїв. Це означає, що існує значно більше користувачів, які все ще шукають оновлення для своїх систем на базі DDR4, ніж очікувалося.

За інформацією Digitimes, південнокорейські гіганти SK Hynix та Samsung Electronics призупинили свої плани щодо згортання виробництва мікросхем DDR4. Вони можуть продовжувати постачання, доки спотові ціни на DDR4 не почнуть суттєво відставати від DDR5. Водночас обидві компанії будуть діяти обережно, щоб уникнути надмірного накопичення запасів.

techpowerup.com
Павлик Олександр

ASUS ExpertCenter P500 SFF: компактний, потужний та тихий ПК для бізнесу

ASUS анонсувала ExpertCenter P500 SFF (P500SV) – компактний настільний ПК (8,6 л) для малого бізнесу.

Він оснащений процесором до Intel Core i7 та інноваційною системою повітряного охолодження, що забезпечує TDP до 45 Вт та надзвичайно тиху роботу (до 30,8 дБ, або менше 22 дБ з Core i3). Це робить його ідеальним для професійних середовищ.

Продуктивність та ефективність

Завдяки новому дизайну охолодження, P500 SFF здатний забезпечити до 28% кращу продуктивність у своєму ціновому діапазоні з процесором Intel Core i7. Опціонально доступна відеокарта NVIDIA RTX A400 для графічно вимогливих завдань. ПК також енергоефективний, знижуючи загальне споживання енергії до 37%.

Надійна безпека

ASUS ExpertGuardian забезпечує всебічний захист комерційного рівня. Це включає BIOS, сумісний з NIST SP 800-155, 5 років оновлень BIOS/драйверів, захист TPM 2.0, слот Kensington та річну підписку McAfee+ Premium. ПК має довговічність військового рівня та підтримку ASUS Business Support.

Розумні зустрічі з ШІ

ASUS AI ExpertMeet з інструментами на базі ШІ революціонізує віртуальні зустрічі. Функції, такі як автоматичні протоколи зустрічей, переклад субтитрів у реальному часі та автоматичні резюме, спрощують співпрацю та підвищують ефективність.

ExpertCenter P500 SFF встановлює новий стандарт для настільних ПК малого бізнесу, поєднуючи потужність, безпеку та ефективність у компактному рішенні.

techpowerup.com
Павлик Олександр

Intel представила інструмент CGVQM: ШІ, що бачить якість ігор очима людини

Intel зробила значний крок уперед для ігрової індустрії, представивши Computer Graphics Visual Quality Metric (CGVQM) – перший відкритий інструмент для вимірювання якості зображення у відеоіграх у реальному часі. Його головна перевага в тому, що він оцінює візуальну якість майже з такою ж точністю, як і людське око.

CGVQM був створений на базі унікального набору даних CG-VQD, що включає 80 трисекундних відео з 15 різних 3D-сцен. Ці сцени, від відомих демо до спеціально створених середовищ, були оброблені шістьма сучасними методами рендерингу, такими як нейронний суперсемплінг (DLSS, XeSS), трасування шляху чи гауссове сплайтування.

Спочатку технологія замислювалася для аналізу артефактів стиснення у потоковому відео (як YouTube чи Netflix), але згодом еволюціонувала. Дослідники Intel використали попередньо навчену нейромережу 3D ResNet-18, "доналаштувавши" її, щоб її оцінки якості максимально відповідали суб'єктивним оцінкам добровольців. У результаті версія CGVQM-5 перевершує всі існуючі метрики та майже збігається з людським сприйняттям.

Як це працює? CGVQM розбиває відео на дрібні фрагменти, витягує ключові візуальні особливості за допомогою нейромережі, а потім коригує внутрішні параметри, щоб прогнозовані бали відповідали оцінкам, даним людьми. Інструмент видає не лише загальну оцінку якості, а й попіксельні карти помилок, які чітко показують такі артефакти, як "привиди" (ghosting) або мерехтіння. Це дозволяє розробникам швидко виявляти та виправляти проблеми без необхідності проводити повноцінні тести з користувачами.

Для ще швидшого використання в процесі розробки, команда Intel також створила легшу версію – CGVQM-2. Вона працює значно швидше, використовуючи лише перші два блоки ResNet, але все одно перевершує конкурентів.

Розробники ігор можуть інтегрувати CGVQM безпосередньо у свої робочі процеси, клонувавши GitHub-репозиторій та додавши відповідні розширення для Vulkan або Unreal Engine. Це дає змогу проводити оцінки якості "на ходу" та обирати оптимальний баланс між якістю та продуктивністю.

Це важливий крок до більш інтелектуального та точного методу оцінки якості графіки в іграх.

techpowerup.com
Павлик Олександр