Ваш агент может читать письма, работать с файлами и действовать от вашего имени. Вот как он устроен, чтобы делать только то, что вы задумали.
Уровни разрешений
Вы задаёте уровень для каждого агента, и от него зависит, сколько агент делает сам: «Работает самостоятельно» (уровень по умолчанию в новой установке) действует сам, но платёж, развёртывание или исходящее письмо ждут вашего согласия; «Спрашивает при сомнениях» сначала отправляет новую команду модели-проверяющему и спрашивает вас, только если проверяющий её не одобрит; при уровне «Сначала спрашивает» каждая новая команда ждёт вас; а «Только читает» вообще не может выполнять команды или записывать файлы. При уровне «Сначала спрашивает» вы видите, что именно агент собирается сделать, и решаете, продолжать ли. Подробнее в разделе Согласования и подтверждения.
Проверка навыков
Каждая возможность вашего агента (мы называем их «навыками») тестируется и проверяется, прежде чем мы её откроем, и получает узкие разрешения, ограниченные тем, что ей нужно. Навык для поиска информации может искать в интернете, не трогая ваши файлы; почтовый навык может читать ваш ящик без доступа к вашему банку. Навыки сторонних издателей в маркетплейсе проходят автоматические проверки, но ответственность за них несёт издатель, поэтому изучите описание перед установкой.
Изоляция в песочнице
Там, где это поддерживает ваша операционная система, агент работает в изолированной среде (песочнице) на вашем компьютер, которая ограничивает, до чего могут дотянуться навыки. Песочница снижает риск, но не гарантирует, что действие невозможно, поэтому ставьте агенту уровень «Сначала спрашивает» для работы, которую вы не хотели бы запускать без проверки.
Чего ваш агент по замыслу не делает
По замыслу и с учётом настроек песочницы и разрешений, которые вы зададите, ваш агент не должен:
- работать с файлами или папками за пределами одобренных вами областей;
- подключаться к сервисам, которые вы не разрешили;
- выполнять команды без вашего подтверждения, если вы поставили ему уровень «Сначала спрашивает»; или
- отправлять ваши данные куда-либо, кроме сервисов ИИ, нужных для обработки ваших запросов.
Никакая автоматическая защита не идеальна. Проверяйте результаты, прежде чем на них полагаться, ставьте «Сначала спрашивает» агентам, которые выполняют важную работу, и делайте резервные копии.
Как сохранить защиту
Обновляйте свой компьютер и приложение Maxiful: обновления безопасности входят в подписку. Maxiful проверяет обновления при запуске и каждые шесть часов, а готовое обновление устанавливается, когда вы выбираете Обновить сейчас или закрываете Maxiful. Если вы заметите что-то подозрительное, сразу напишите в поддержку: [email protected].