Microsoft предупреждает о рисках ИИ в Windows 11
Microsoft уведомила пользователей тестовых сборок Windows 11 о возможных «галлюцинациях» и угрозах безопасности при использовании нового ИИ-агента.
Что известно
- Функция появилась в Build 26220.7262 и включается вручную в разделе «Компоненты ИИ».
- При активации система выводит предупреждение: технология экспериментальная, ответы могут быть неверными, возможны сбои в работе устройства.
- Языковая модель, лежащая в основе ИИ, ещё дорабатывается, поэтому способна выдавать правдоподобные, но неверные ответы.
Опасности
- Безопасность: злоумышленники могут пытаться внедрять скрытые подсказки, которые агент выполнит автоматически.
- В худшем случае ИИ-агент теоретически способен установить вредоносное ПО или передать конфиденциальные данные.
- По умолчанию агент получает доступ на чтение и запись в ключевых папках: «Документы», «Рабочий стол», «Загрузки» и других.
Microsoft обещает усилить защиту с помощью точных разрешений и барьеров против атак через подсказки, но пока рекомендует использовать ИИ-агента только опытным пользователям, понимающим риски.
