Науковці з Університету Північної Кароліни зробили відкриття, яке може змінити підхід до безпеки штучного інтелекту. Вони знайшли спосіб викрадення моделей ШІ без класичного зламу чи витоку даних. Дослідники виявили, що електромагнітний «підпис» моделей може бути використаний для отримання їх параметрів.
Про це розповідає News IO
Інноваційний підхід до крадіжки ШІ
Для реалізації цього методу використовували електромагнітний зонд разом з моделями з відкритим вихідним кодом, а також блок обробки тензорів Google Edge TPU. Аналізуючи електромагнітне випромінювання, яке випускається під час роботи TPU, науковці змогли визначити архітектуру моделей та їх специфічні параметри. Вражаюче, але точність копії моделі досягнула 99,91%.
Варто зазначити, що даний метод потребує фізичного доступу до чипа для проведення зондування і запуску моделей. Вчені співпрацювали з компанією Google, щоб вивчити уразливість її чипів до такої атаки.
Небезпека для інфраструктури штучного інтелекту
Цей метод бічного каналу не є новинкою, але привертає увагу до апаратного забезпечення ШІ, яке виконує операції у відкритому тексті. Моделі ШІ, розгорнуті на фізично незахищених серверах, стають вразливими. Дослідники не виключають можливості викрадення моделей зі смартфонів та інших малих пристроїв, хоча це є більш складним через їх компактний дизайн.
У майбутньому такі дослідження можуть значно вплинути на питання безпеки штучного інтелекту та потребують уваги від розробників і компаній, що займаються ШІ.
Це відкриття ставить нові виклики перед розробниками штучного інтелекту, закликаючи їх до удосконалення заходів безпеки для захисту моделей від несанкціонованого доступу.