Модель авторизации для приложений на основе больших языковых моделей
Компания Oso представила новую методику управления правами доступа в LLM-приложениях, основанную на принципе наименьших привилегий и вычислении «эффективных» разрешений.
В основе предлагаемой модели лежит пересечение трёх наборов прав: разрешений самой LLM, прав пользователя и специфических прав, необходимых для выполнения конкретной задачи. Такой подход позволяет ограничить возможности модели, предотвращая непредсказуемые или нежелательные действия.
Для иллюстрации эксперты Oso рассмотрели сценарий интеграции чат-бота Bridgit в систему управления кодом GitClub. При использовании RAG (Retrieval-Augmented Generation) с данными GitClub — как первичными, так и сторонними — авторизация выполняется на уровне приложения в момент связывания векторных представлений (эмбеддингов) с исходными ресурсами.
Пошаговый алгоритм RAG с авторизацией включает конвертацию данных в эмбеддинги, поиск наиболее релевантного контекста, проверку прав доступа к исходным файлам и передачу только тех фрагментов, на которые у пользователя и бота имеются необходимые разрешения.
Эксперты подчёркивают, что такой механизм позволяет снизить риски утечки конфиденциальной информации и сохранить контроль над тем, какие данные попадают в запросы модели, особенно при работе с внешними системами через API.
