Google повідомила про спроби «вкрасти» ШІ

У компанії Google заявили про несанкціоновані спроби клонування їхньої штучної інтелектуальної системи Gemini. За даними компанії, зловмисники надіслали системі понад 100 тисяч запитів з метою відтворення внутрішньої логіки моделі. Така операція відома як distillation-атака, що передбачає копіювання функціональних можливостей моделі шляхом використання її офіційного API.

Google розцінила ці дії як крадіжку інтелектуальної власності, оскільки вони мали на меті незаконно відтворити технологію без дозволу власника. Інцидент був зафіксований і описаний у квартальному звіті підрозділу Google Threat Intelligence Group, який займається аналізом загроз і безпекових інцидентів, пов’язаних з цифровими технологіями компанії.

У звіті зазначено, що подібні атаки становлять серйозну загрозу для компаній, які розробляють передові системи штучного інтелекту, оскільки відтворення моделей без дозволу може призвести до втрати конкурентних переваг і порушення прав на інтелектуальну власність. Google підкреслила важливість захисту своїх ШІ-рішень і продовження контролю за використанням API, щоб запобігти несанкціонованому копіюванню та використанню технологій.

Компанія також наголосила на необхідності підвищеної уваги до безпеки моделей ШІ і впровадження заходів, які ускладнюють distillation-атаки. У звіті Google Threat Intelligence Group вказано, що системи захисту і моніторингу мають допомагати виявляти підозрілі активності та оперативно реагувати на спроби несанкціонованого доступу до технологій штучного інтелекту.