Как отказ от секретности данных защитил распределенное обучение искусственного интеллекта
В федеративном обучении (FL) поставщики данных совместно обучают модель машинного обучения, не обмениваясь данными обучения. Это затрудняет предоставление проверяемых заявлений об обученной модели, например, касающихся используемых данных обучения, очистки данных или алгоритма обучения — поставщик вредоносных данных может просто отклониться от правильного протокола обучения, не будучи обнаруженным. Предыдущие системы обучения FL использовали доверенные среды выполнения (TEE) для защиты обучающих вычислений, полагаясь на конфиденциальность и целостность TEE. Однако было показано, что конфиденциальность TEE уязвима для различных атак, например, через побочные каналы. Мы описываем ExclaveFL, систему для обучения моделей FL, которая устанавливает проверяемые утверждения о моделях посредством детальных доказательств аттестации во время выполнения. Поскольку такие доказательства требуют только целостности, ExclaveFL генерирует их с использованием exclaves, которые представляют собой среды выполнения только целостности без секретов, управляемых программным обеспечением, что делает их невосприимчивыми к атакам утечки данных. ExclaveFL использует эксклавы для подтверждения преобразований данных во время обучения FL, а доказательства аттестации во время выполнения затем формируют аттестованный граф потока данных для всех вычислений обучения. График проверяется аудитором, чтобы убедиться, что обученная модель удовлетворяет требованиям, например, об использовании очистки данных поставщиками данных или агрегации поставщиком модели. Поскольку эксклавы требуют незначительных, но проприетарных изменений прошивки, мы оцениваем вариант с аналогичной производительностью, но немного более слабыми гарантиями безопасности на существующем оборудовании AMD SEV-SNP. Мы показываем, что ExclaveFL требует меньше накладных расходов, чем 12%, по сравнению с незащищенным обучением модели FL.
## В чем суть открытия Себе, что вы подписываете каждый шаг рецепта в стеклянной посуде: любой может убедиться, что ингредиенты были продезинфицированы и правильно смешаны, но нет скрытых сейфов, которые воры могли бы взломать. ## Как это устроено: принцип работы ExclaveFL устраняет секретность аппаратных анклавов, образуя эксклавы, которые строго гарантируют целостность во время выполнения. Во время федеративного обучения каждый этап локальной предварительной обработки, очистки и агрегирования градиента выдает детальные доказательства аттестации во время выполнения. Эти криптографические доказательства собираются в заверенный граф потока данных, который проверяет внешний аудитор, не раскрывая необработанные данные клиента. ## Результаты и доказательства - **Комплексный скор значимости:** 9.5 / 10.0 - **Уровень доказательности:** code_benchmark - **Бенчмарки и прирост:** Execution overhead < 12% vs. unprotected training baseline - **Размер выборки / валидация:** N = Federated training workloads evaluated on AMD SEV-SNP hardware ## Что это меняет на практике Обеспечивает проверенное соответствие нормативным требованиям, очистку медицинских данных в соответствии с требованиями HIPAA и проверенное межведомственное обучение модели без уязвимых криптографических секретов по побочным каналам. ## Границы метода и риски Требуются специализированные или проприетарные модификации встроенного ПО для развертывания настоящих эксклавов, обеспечивающих только целостность, и полагается на внешний аудитор для оценки накопленного графа потока данных.