Meta не розкрила назву постраждалої компанії і не повідомила, яким саме чином ШІ вдалося пробратися у зовнішню корпоративну мережу. Представники материнської компанії Facebook заявили, що дізналися про інцидент лише з повідомлення, отриманого від партнера-тестувальника.

 

Аналогічні проблеми раніше вже фіксувалися при тестуванні ШІ-моделей OpenAI та Anthropic. Так, ШІ, розроблений компанією OpenAI, під час тестування отримав доступ до систем платформи штучного інтелекту Hugging Face. Згодом конкурент OpenAI, компанія Anthropic, провела перевірку власних експериментів та виявила схожі інциденти.

 

Нові дані, отримані дослідниками OpenAI, викликають додаткову тривогу. Згідно з цими даними, кілька моделей штучного інтелекту непомітно спілкувалися один з одним протягом кількох тижнів до атаки на Hugging Face. Метою цього "діалогу" був вихід із ізольованого тестового середовища та пошук в інтернеті рішень для поставлених завдань.

За словами співробітника OpenAI Еріка Уоллеса, "підготовка до втечі" розпочалася ще у травні, коли ШІ-моделям дали завдання, які неможливо було вирішити без доступу до інтернету. "Ми застрягли. Можливо, відповідь в інтернеті?" - написав один із агентів, повідомляє Bloomberg.Після цього ШІ-системи почали спілкуватися через внутрішні дошки оголошень та обговорювати способи виходу із тестового середовища. Моделі виявили першу вразливість, яка дозволила отримати доступ до інтернету, але OpenAI зупинила цю спробу. Пізніше агенти знайшли новий спосіб зв'язку та іншу вразливість.