Комп'ютерні новини
Всі розділи
Anthropic наблизилася до самовдосконалюваного ШІ та попередила про нові ризики
Anthropic опублікувала звіт про досягнення у сфері безпеки, де повідомила про наближення до створення моделей, здатних самостійно покращувати свої алгоритми.
Фахівці зазначають, що майбутні системи зможуть брати участь у власній розробці, що різко прискорить темпи еволюції нейромереж. Водночас розробники наголошують на серйозних загрозах подібного прориву. ШІ здатний вийти з-під контролю людини у процесі оптимізації коду, створювати непередбачувані вразливості або використовуватися для кібератак нового рівня.
У зв'язку з цим компанія закликає запровадити суворіші міжнародні протоколи контролю та нові стандарти безпеки до появи комерційних зразків.
