OpenAI призупинила навчання нових моделей штучного інтелекту — не дотримувався інструкцій під час роботи з урядовими сайтами

OpenAI призупинила навчання нових моделей штучного інтелекту — не дотримувався інструкцій під час роботи з урядовими сайтами

Компанія OpenAI зупинила навчання своїх новітніх моделей штучного інтелекту через випадки неконтрольованої поведінки ШІ-агентів під час роботи з урядовими сайтами США.

Про це повідомляє Associated Press.

Компанія перевіряє низку літніх інцидентів, коли агенти OpenAI не дотримувалися інструкцій під час пошуку інформації. Зокрема, на ресурсах Міністерства освіти США штучний інтелект знайшов службові ключі для доступу до урядових даних, а у випадку з Комісією з цінних паперів і бірж — самостійно поширив знайдені публічні дані на сторонніх інтернет-ресурсах. 

Витоку непублічної інформації, як стверджується, не сталося. Водночас у держустановах заявили про відсутність збитків для систем.

В OpenAI зазначили, що відновлять розробку лише після впровадження додаткових заходів безпеки. Це вже друга зупинка навчань за три місяці.

Джерело: hromadske