Комп'ютерні новини

AnythingLLM: ШІ-додаток працює найефективніше на ПК з NVIDIA RTX завдяки прискоренню NIM

Настільний додаток AnythingLLM, що дозволяє локально використовувати великі мовні моделі (LLM) для конфіденційної роботи зі штучним інтелектом, тепер демонструє значно вищу продуктивність на ПК з відеокартами NVIDIA RTX завдяки інтеграції мікросервісів NVIDIA NIM.

Великі мовні моделі (LLM), навчені на величезних обсягах даних, генерують високоякісний контент і є основою для багатьох популярних ШІ-додатків. Один з найдоступніших способів роботи з LLM – це AnythingLLM, настільний додаток, створений для ентузіастів, які хочуть мати універсального помічника ШІ, орієнтованого на конфіденційність, безпосередньо на своєму ПК. Завдяки новій підтримці мікросервісів NVIDIA NIM на графічних процесорах NVIDIA GeForce RTX та NVIDIA RTX PRO, користувачі AnythingLLM тепер можуть отримати ще швидшу продуктивність для більш чуйних локальних робочих процесів штучного інтелекту.

Що таке AnythingLLM?

AnythingLLM – це універсальний ШІ-додаток, який дозволяє користувачам запускати локальні LLM, системи генерації з доповненим пошуком (RAG) та агентні інструменти. 

Він діє як міст між LLM та даними користувача, а також надає доступ до "навичок", що спрощує та підвищує ефективність використання LLM для конкретних завдань, зокрема:

• Відповіді на запитання: Отримання відповідей від LLM (наприклад, Llama та DeepSeek R1).
• Запити персональних даних: Конфіденційна робота з контентом, включаючи PDF, файли Word, бази коду тощо, за допомогою RAG.
• Резюмування документів: Створення коротких витягів з довгих текстів.
• Аналіз даних: Вилучення аналітичних даних шляхом завантаження файлів та запитів.
• Агентні дії: Динамічне дослідження контенту, запуск генеративних інструментів та дій на основі підказок користувача.

AnythingLLM може підключатися до широкого спектра локальних LLM з відкритим кодом, а також до більших хмарних LLM (OpenAI, Microsoft, Anthropic). Додаток також надає доступ до навичок для розширення можливостей агентного ШІ через свій центр спільноти.

Завдяки встановленню одним клацанням миші та інтуїтивно зрозумілому інтерфейсу, AnythingLLM є чудовим варіантом для ентузіастів ШІ, особливо тих, хто має системи з графічними процесорами GeForce RTX та NVIDIA RTX PRO.

RTX забезпечує прискорення AnythingLLM

Графічні процесори GeForce RTX та NVIDIA RTX PRO пропонують значне підвищення продуктивності для запуску LLM та агентів в AnythingLLM. Вони прискорюють логічний висновок завдяки тензорним ядрам, розробленим для ШІ.

 

AnythingLLM запускає LLM з Ollama для виконання на пристрої, прискореного завдяки тензорним бібліотекам Llama.cpp та ggml. Ollama, Llama.cpp та GGML оптимізовані для графічних процесорів NVIDIA RTX та тензорних ядер п'ятого покоління. 

Для прикладу, продуктивність на GeForce RTX 5090 у 2,4 раза вища, ніж в Apple M3 Ultra (на Llama 3.1 8B та DeepSeek R1 8B).

AnythingLLM — тепер з NVIDIA NIM

AnythingLLM нещодавно додала підтримку мікросервісів NVIDIA NIM — оптимізованих для продуктивності, попередньо упакованих генеративних моделей штучного інтелекту, які спрощують початок роботи з ШІ на ПК з RTX AI через оптимізований API. 

NVIDIA NIM чудово підходять для розробників, які шукають швидкий спосіб тестування моделей генеративного ШІ. Замість того, щоб шукати потрібну модель, завантажувати всі файли та вирішувати, як їх підключити, NIM надають єдиний контейнер, який містить усе необхідне. Вони можуть працювати як у хмарі, так і на ПК, що спрощує створення прототипів локально, а потім розгортання в хмарі.

Пропонуючи NIM у зручному інтерфейсі AnythingLLM, користувачі отримують швидкий спосіб тестувати та експериментувати з ними, а потім інтегрувати їх у свої робочі процеси або використовувати з кресленнями NVIDIA AI, документацією та зразками коду NIM для безпосереднього підключення до своїх програм чи проєктів.

techpowerup.com
Павлик Олександр

Apple готує великі зміни: ОС перейдуть на річне маркування та оновлять інтерфейс

Apple оновить систему найменування всіх своїх операційних систем, переходячи на річне маркування, що відображатиме наступний рік випуску, та представить новий уніфікований дизайн інтерфейсу під кодовою назвою "Solarium".

На конференції WWDC 2025 Apple внесе значні зміни в назву свого програмного забезпечення. Компанія замінить послідовні номери версій назвами, заснованими на році, наступному за кожним випуском. Це коригування стосуватиметься всіх операційних систем Apple, включаючи iOS, iPadOS, macOS, watchOS, tvOS та visionOS.

Згідно з новим планом, iOS 18 буде перейменовано на «iOS 26», iPadOS 19 стане «iPadOS 26», macOS 16 прийме «macOS 26», а watchOS 13 зміниться на «watchOS 26». Операційна система Apple TV відображатиметься як «tvOS 26», а гарнітура Vision Pro працюватиме під управлінням «visionOS 26». Вибравши наступний рік замість поточного, Apple має намір узгодити свою систему найменування зі своїм звичайним осіннім графіком випусків. Apple сподівається, що ця зміна спростить її екосистему та допоможе користувачам і розробникам розпізнати зв'язок між оновленнями на різних пристроях.

"Solarium": Новий дизайн та функції

Водночас Apple планує представити оновлений дизайн інтерфейсу користувача під внутрішньою назвою «Solarium». Усі платформи матимуть яскравішу палітру та більш узгоджені елементи макета, що зробить переходи між iPhone, iPad, Mac та іншими пристроями більш природними.

Серед нових функцій, які очікуються цієї осені, заявлені:

• Режим оптимізації батареї на базі штучного інтелекту.
• Інтелектуальний помічник зі здоров'я.
• Можливості перекладу в реальному часі для AirPods.
• Інноваційні параметри введення, такі як двонаправлена арабсько-англійська клавіатура та інструмент цифрової каліграфії для Apple Pencil.

Ця стратегія найменування перегукується з попереднім вибором Samsung та Microsoft. У 2020 році Samsung назвала свою лінійку Galaxy S роком випуску, тоді як у 1990-х роках Microsoft використовувала календарні роки для Windows 95 та Windows 98. Підхід Apple відрізняється тим, що вона називає програмне забезпечення на наступний рік, подібно до того, як автовиробники рекламують свої майбутні моделі, і може переноситися в майбутні релізи як «27» і далі.

techpowerup.com
Павлик Олександр

Intel випустила бета-драйвер Arc GPU 32.0.101.6795: підтримка нових ігор та покращення продуктивності

Intel випустила новий бета-драйвер Arc Graphics 32.0.101.6795, який забезпечує підтримку нових ігор та містить оптимізації продуктивності для відеокарт серій Intel Arc B-series, A-series та інтегрованих графічних процесорів Intel Arc у процесорах Intel Core Ultra.

Основні ігрові оновлення:

Підтримка Intel Game On Driver для:

• Dune: Awakening
• Elden Ring Nightreign
• F1 25

Покращення ігрової продуктивності на графічних процесорах Intel Arc B-series (порівняно з драйвером 32.0.101.6793):

• Monster Hunter Wilds (DX12):
• До 9% середнього приросту FPS при роздільній здатності 1080p
• До 6% середнього приросту FPS при роздільній здатності 1440p

Відомі проблеми:

Графічні продукти Intel Arc B-Series – Відомі проблеми:

• Call of Duty: Black Ops 6 (DX12): Можливе мерехтіння зображення в певних сценах під час ігрового процесу.
• Returnal (DX12): Можливий збій програми під час ігрового процесу з увімкненим трасуванням променів.
• Call of Duty: Warzone 2.0 (DX12): Можливі спотворення на водних ділянках у певних сценаріях.
• MLPerf: Можливі періодичні помилки на системах з кількома GPU; тимчасовим рішенням є відключення інтегрованого GPU.
• SPECapc for Maya 2024: Можливе періодичне зависання програми під час бенчмаркінгу.
• PugetBench for DaVinci Resolve Studio V19: Можливий збій під час запуску бенчмарку.

Графічні продукти Intel Arc A-Series – Відомі проблеми:

• Overwatch 2 (DX12): Можливий збій при запуску з високими або ультра графічними налаштуваннями.
• Returnal (DX12): Можливий збій під час ігрового процесу з увімкненим трасуванням променів.
• Marvel’s Spider-Man 2 (DX12): Можливий збій з увімкненими трасуванням променів та XeSS.
• PugetBench for DaVinci Resolve Studio V19: Можливий збій під час запуску бенчмарку.

Intel Core Ultra Series 1 (з вбудованими Intel Arc GPUs) – Відомі проблеми:

• PugetBench for DaVinci Resolve Studio V19: Можливі періодичні помилки з розширеним набором бенчмарків.

Intel Core Ultra Series 2 (з вбудованими Intel Arc GPUs) – Відомі проблеми:

• Blender 4.4: Може не завершити рендеринг за допомогою рушія Cycles.
• Adobe Premiere Pro: Можливий періодичний збій програми.
• PugetBench for DaVinci Resolve Studio V19: Можливі періодичні помилки з розширеним набором бенчмарків.

Програмне забезпечення Intel Graphics – Відомі проблеми:

• Програмне забезпечення Intel Graphics може періодично збиватися при навігації між сторінками або діалоговими вікнами (очікується оновлення WinAppSDK 1.7).
• Може збиватися при використанні "Скинути всі налаштування" в Windows 10.
• Перше перестановлення метрик у вікні "Вибрати метрики" може спричинити одноразовий збій.
• Обмежувач FPS може не працювати з увімкненим VSync та режимом низької затримки.
• Елементи керування профілем можуть не завжди перевизначати глобальні елементи керування.
• Масштабування дисплея при невласних роздільних здатностях може призвести до небажаного масштабування.
• Може збиватися при навігації між профілями додатків на сторінці профілів.

Отримати додаткову інформацію та завантажити драйвер можна за посиланням з офіційної сторінки сайту Intel.

videocardz.com
Павлик Олександр

Intel розробляє ШІ-тренера для геймерів: допомога у проходженні ігор

Раніше компанія NVIDIA представила Project G-Assist — компактну ШІ-модель, що працює локально на ПК і покликана допомагати гравцям у різних ігрових ситуаціях. Ця модель здатна підказувати, як пройти квест, оптимізувати налаштування гри та конфігурацію обладнання, взаємодіючи з користувачем через оверлей у додатку NVIDIA App. Як виявилося, Intel також працює над аналогічним цифровим помічником, хоча й з більш вузькою спеціалізацією. 

Наразі AI Gaming Coach від Intel підтримує лише обмежену кількість ігор. У рамках презентації компанія продемонструвала його роботу у проєкті Black Myth: Wukong. Суттєвою відмінністю рішення Intel є те, що для функціонування ШІ-асистента необхідна інтеграція з боку розробників ігор, що означає, що підтримка буде доступна далеко не у всіх проєктах.

Технологія розроблена з урахуванням того, щоб не заважати безпосередньому ігровому процесу. Наприклад, ігровий ШІ-тренер дасть поради про те, як пройти той чи інший квест або перемогти боса у грі до того, як гравець розпочне виконання цих завдань. Він також підказує, що на тій чи іншій локації знаходяться предмети, на які варто звернути увагу перед походом до боса. Перед битвою з певним босом ШІ-тренер може запустити коротке відео, що показує особливості атак противника та підказати потрібну стратегію для перемоги над ним. У випадку поразки ШІ-тренер підбадьорить гравця та скаже, що у нього все вийде наступного разу.

Цікаво, що для роботи AI Gaming Coach не потрібна дискретна відеокарта. Демонстрація велася на ноутбуці з GeForce RTX 5060, але технологія використовувала вбудовані NPU та iGPU центрального процесора — ймовірно, через недостатню потужність лише одного NPU. Таким чином, Intel запропонувала практичне застосування для ноутбуків, оснащених як дискретною графікою, так і процесорами з iGPU та NPU. Однак компанія поки не розкриває ні розмір використовуваної ШІ-моделі, ні додаткові функції асистента.

 

На цьому етапі Project G-Assist від NVIDIA виглядає як більш просунутий продукт — він не тільки допомагає в ігровому процесі, а й пропонує кроки з оптимізації апаратного забезпечення та налаштувань. Рішення Intel, як випливає з назви, зосереджено саме на тренерській ролі. Поки невідомо, які платформи отримають підтримку AI Gaming Coach, і якими будуть його мінімальні системні вимоги. Також Intel не називає терміни появи технології у відкритому доступі.

videocardz.com
Павлик Олександр

AMD оновила ROCm для розширеної підтримки Ryzen AI Max та Radeon RX 9000 Series

На виставці Computex 2025 компанія AMD представила оновлення своєї платформи Radeon Open Compute (ROCm), розширивши підтримку апаратного прискорення для клієнтських процесорів Ryzen AI Max 300 "Strix Halo" та ігрових графічних процесорів серії Radeon RX 9000.

Для процесорів Ryzen AI Max 300 "Strix Halo" це оновлення розблокує обчислювальну потужність 40 обчислювальних блоків RDNA 3.5 з їхніми 80 прискорювачами штучного інтелекту та 2560 потоковими процесорами. Крім того, буде залучена спеціалізована для штучного інтелекту архітектура ISA з 16 ядрами процесора "Zen 5", включаючи їх повноцінний 512-бітний FPU для виконання інструкцій AVX512. Для серії Radeon RX 9000 оновлення ROCm означатиме використання до 64 обчислювальних блоків RDNA 4 зі 128 прискорювачами штучного інтелекту та 4096 потоковими процесорами.

AMD також оголосила про оновлення продуктового стека ROCm, додавши підтримку для різних основних дистрибутивів Linux, включаючи OpenSuSE (який вже доступний). Підтримка для Ubuntu та Red Hat EPEL з'явиться у другій половині 2025 року. Нарешті, ROCm отримує повну підтримку Windows, включаючи Pytorch та ONNX-EP. Попередній перегляд підтримки Pytorch очікується у третьому кварталі 2025 року, тоді як попередній перегляд ONNX-EP може з'явитися вже у липні 2025 року.

techpowerup.com
Павлик Олександр

Випущено драйвери NVIDIA GeForce 576.52 WHQL

NVIDIA випустила останню версію своїх драйверів GeForce Game Ready – GeForce 576.52 WHQL. Вони додають підтримку графічних процесорів GeForce RTX 5060 для настільних комп'ютерів та ноутбуків.

Вони забезпечують найкращий ігровий досвід для найновіших ігор, що підтримують технологію DLSS 4, включаючи F1 25 та Dune: Awakening, а також повне оновлення трасування променів для NARAKA: BLADEPOINT.

Виправлені ігрові помилки:

• [F1 23/F1 24] Гра зависає в кінці перегонів.
• [Diablo II Resurrected] У грі відображається чорний екран з пошкодженням під час використання DLSS.
• [SCUM] Гра може аварійно завершити роботу після оновлення драйверів до R575.
• Кеш шейдерного диска не буде створено в деяких іграх, якщо ім'я користувача ОС містить символи Юнікоду.

Виправлені загальні помилки:

• [Lumion 12] Відсутні певні компоненти інтерфейсу користувача.
• [Varjo XR3] Шолом Varjo XR3 не працює на відеокартах серії RTX 50.

Відомі проблеми

• Мерехтіння/пошкодження навколо джерел світла у Ghost of Tsushima Directors Cut.
• Cyberpunk 2077 аварійно завершить роботу під час використання фоторежиму для створення знімка екрана з увімкненим трасуванням шляху.
• EA Sports FC 25 може зависати під час гри.
• [Forza Horizon 5] Гра може зависати після тривалого ігрового процесу.

Отримати додаткову інформацію та звантажити драйвер можна за посиланням з офіційної сторінки сайту NVIDIA.

techpowerup.com
Павлик Олександр

Intel випустила бета-драйвери Arc GPU 101.6793

Intel випустила нову бета-версію драйверів графіки Arc GPU — версія 101.6793 Beta. Ці драйвери призначені для відеокарт Intel Arc та інтегрованої графіки процесорів Intel Core Ultra серій 1 та 2. Оновлення включає оптимізації для ігор "DOOM: The Dark Ages" та "Japanese Drift Master".

У новому випуску виправлено кілька проблем. Зокрема, усунуто спотворення кольорів у "The Last of Us Part I" (DX12) на серії Arc B, мерехтіння синіх артефактів у "Doom Eternal" (VK) з трасуванням променів на серії Arc A, та мерехтіння чорних квадратів у "The Last of Us Part II" (DX12) на серії Arc A та Core Ultra 2. Також зазначається наявність списку відомих відкритих проблем з цим драйвером.

Ігри з оптимізацією:

• DOOM: The Dark Ages
• Japanese Drift Master

Виправлені проблеми:

• Спотворення кольорів у The Last of Us Part I (DX12) на Arc B-Series.
• Мерехтіння синіх артефактів у Doom Eternal (VK) з трасуванням променів на Arc A-Series.
• Мерехтіння чорних квадратів у The Last of Us Part II (DX12) на Arc A-Series та Core Ultra Series 2.

Відомі відкриті проблеми:

Intel Arc B-Series Graphics Products:

• Call of Duty: Black Ops 6 (DX12) може демонструвати мерехтіння/пошкодження в певних сценах під час ігрового процесу.
• Returnal (DX12) може призводити до збою програми під час ігрового процесу з увімкненими налаштуваннями трасування променів.
• Call of Duty: Warzone 2.0 (DX12) може демонструвати пошкодження на водних ділянках у певних сценаріях.
• MLPerf може демонструвати періодичні помилки при роботі на багатопроцесорних системних конфігураціях. В якості тимчасового рішення рекомендовано вимкнути інтегрований GPU.
• SPECapc for Maya 2024 може відчувати періодичне зависання програми під час бенчмарку.
• PugetBench for Davinci Resolve Studio V19 може призводити до збою програми під час виконання бенчмарку.

Intel Arc A-Series Graphics Products:

• Returnal (DX12) може призводити до збою програми під час ігрового процесу з увімкненими налаштуваннями трасування променів.
• Marvel's Spider-Man 2 (DX12) може призводити до збою програми з увімкненими трасуванням променів та XeSS.
• PugetBench for Davinci Resolve Studio V19 може призводити до збою програми під час виконання бенчмарку.

Intel Core Ultra Series 1 with built-in Intel Arc GPUs:

• PugetBench for Davinci Resolve Studio V19 може демонструвати помилки періодично з пресетом бенчмарку, встановленим на Extended.

Intel Core Ultra Series 2 with built-in Intel Arc GPUs:

• Adobe Premiere Pro може відчувати періодичний збій програми.
• PugetBench for Davinci Resolve Studio V19 може демонструвати помилки періодично з пресетом бенчмарку, встановленим на Extended.

Intel Graphics Software:

• Intel Graphics Software може відчувати дуже періодичний збій програми при навігації сторінками або діалоговими вікнами через проблему базового фреймворку. Виправлення буде доступне в IGS, як тільки WinAppSDK 1.7 стане доступним для оновлення. В якості тимчасового рішення програму можна перезапустити без проблем.
• При використанні опції settings, preferences, reset all settings у Windows 10 програма може відчувати періодичний збій.
• Налаштування можна скинути з окремих сторінок без проблем.
• Intel Graphics Software іноді може відчувати одиничний збій програми при першому перевпорядкуванні метрик у вікні вибору метрик. Подальше використання не буде впливати цим збоєм.
• Обмежувач FPS може не обмежувати FPS з увімкненими VSync та Low Latency Mode.
• Контролі профілів не завжди можуть заміняти глобальні контролі.
• Масштабування відображення при невласних роздільних здатностях панелі може призвести до ненавмисного масштабування.
• Intel Graphics Software може відчувати збій програми при навігації між профілями програм на сторінці профілів.

Отримати додаткову інформацію та завантажити драйвер можна за посиланням з офіційної сторінки сайту Intel.

techpowerup.com
Павлик Олександр

NVIDIA випустила драйвери GeForce 576.40 WHQL Game Ready

NVIDIA випустила останню версію своїх драйверів GeForce Game Ready — версія 576.40 WHQL. Ці драйвери містять оптимізації для ігор "DOOM: The Dark Ages" та "New World: Aeternum".

Оновлення також додає підтримку G-SYNC для майже десятка нових моделей моніторів. Було виправлено низку ігрових помилок, включаючи випадкові проблеми стабільності у грі "Monster Hunter Wilds". Також вирішено проблему мерехтіння тіней у "Dead Space Remake" на відеокартах серії RTX 50.

Серед виправлених загальних помилок – неправильна насиченість кольорів на відеокартах серії RTX 50 при грі у роздільній здатності нижче власної роздільної здатності монітора. Розв'язано проблему чорного екрана при завантаженні на деяких моніторах ASUS у поєднанні з RTX 50-ї серії. Також виправлено заїкання на певних телевізорах LG на низьких частотах оновлення при увімкненому G-SYNC. Нижче наведені списки нових підтримуваних моніторів, виправлених та відомих проблем.

Підтримка G-SYNC для моніторів:

• Acer X32 V5
• AOC 25G42E
• AOC 24G42HE
• AOC 25G4SRE
• AOC Q27G40SE
• I-O DATA GDQ271JAQ
• Dell AW2725D

Виправлені ігрові помилки:

• [Monster Hunter Wilds] Випадкові проблеми стабільності
• [RTX 50 series] Мерехтіння тіней у Dead Space Remake

Виправлені загальні помилки:

• [RTX 50 series] Неправильна насиченість кольорів у іграх при роздільній здатності нижче власної
• [RTX 50 series] Монітори ASUS PG32UQXR/ASUS ROG PG248QP/ASUS ROG PG32UCDM можуть завантажуватися з чорним екраном
• Незначне заїкання на певних телевізорах LG на низьких частотах оновлення при увімкненому G-SYNC

Відомі відкриті проблеми:

• Мерехтіння/пошкодження навколо джерел світла у Ghost of Tsushima Directors Cut
• Cyberpunk 2077 вилітає при використанні режиму фото для знімка екрана з увімкненим трасуванням шляху
• F1 23/F1 24 вилітає наприкінці перегонів
• EA Sports FC 25 може вилітати під час ігрового процесу

Отримати додаткову інформацію та звантажити драйвер можна за посиланням з офіційної сторінки сайту NVIDIA.

techpowerup.com
Павлик Олександр