Авторы: Алекс Саблайроллес , Ашкан Юсефпур , Картик Прасад , Петр Ромов , Давиде Тестуджин , Игорь Шилов , Илья Миронов . Введение В предыдущем сообщении в блоге мы рассказали, как в Opacus выполняются векторизованные вычисления для повышения производительности и почему Opacus может вычислять градиенты для каждой выборки намного быстрее, чем микропакетная обработка . Мы также ввели векторизованные вычисления для nn.linear слоев. В этом сообщении блога мы подробнее..

Конфиденциальность пользователей является растущей проблемой в современном мире, управляемом данными. мы изучим влияние использования методов анонимизации на общедоступные наборы данных, связанные с медициной, где присутствует некоторая личная информация пациентов, которая может позволить проводить атаки с повторной идентификацией. Мы оценим нейронную сеть с прямой связью, используя локальную дифференциальную конфиденциальность с шумом Лапласа и k-анонимностью, чтобы анонимизировать..

Методы анонимизации, революционизирующие способ обмена данными Важность конфиденциальности данных Мы живем в поколении, управляемом данными, когда большие данные, интеллектуальный анализ данных и искусственный интеллект (и другие модные слова) революционизируют способы получения ценности из данных. Проблема заключается в том, что как частные компании, так и государственные организации не имеют возможности легко обмениваться этими данными внутри или снаружи. Основными препятствиями..

Федеративное обучение Представленное Google в 2017 году Федеративное обучение (FL) — это способ обучения модели без ущерба для конфиденциальности информации клиента и потенциально конфиденциальных данных. Довольно круто! Это достигается за счет того, что клиенты обучают модели локально на своих устройствах и отправляют свои обновления на центральный сервер. Модель будет находиться прямо на устройстве клиента. Затем центральный сервер может агрегировать обновления для создания новой..

Что следует учитывать при построении корпоративной федеративной системы обучения? Вступление Такие компании, как Google и Apple, первыми внедрили федеративное обучение как способ построения более эффективных моделей машинного обучения на распределенных наборах данных без ущерба для конфиденциальности. Сегодня Google использует федеративное обучение для прогнозирования клавиатуры в Gboard, а Apple использует его для повышения точности Face ID и Siri. Но с чего начать? Хотя..