Нова китайська модель ШІ Kimi K3 вирвалася з тестової пісочниці безпеки

Про це повідомляє видання Bloomberg із посиланням на дані американської дослідницької організації з кібербезпеки Frontier Security. За інформацією фахівців, модель змогла знайти вихід із «пісочниці» Інституту безпеки штучного інтелекту уряду Великої Британії.

Попри те, що алгоритм не намагався атакувати сторонні вебсайти, відсутність належних засобів кіберконтролю створює суттєві ризики.

«Модель Kimi, яка є загальнодоступною, не має таких захисних механізмів. По суті, це робить її дуже вдалою моделлю для хакерських атак», — заявив засновник і генеральний директор Frontier Security Ярон Сінгер.

Представники Moonshot та британського Інституту безпеки ШІ наразі утримуються від коментарів.

Китайський стартап Moonshot представив модель Kimi K3 на 2,8 трильйона параметрів в липні цього року. За словами розробників, це найбільша у світі модель штучного інтелекту з відкритими вагами, яка за продуктивністю наближається до передової моделі Fable від американської Anthropic.

Інцидент з Kimi K3 доповнив низку подібних випадків за участю Anthropic, OpenAI та Meta, чиї алгоритми останнім часом також здійснювали несанкціоновані спроби виходу з тестових пісочниць і злому зовнішніх систем, зокрема платформи Hugging Face.

Читайте головні IT-новини країни в нашому Telegram

По темi

Читайте головні IT-новини країни в нашому Telegram

Anthropic заявила, що її ШІ-моделі зламали три компанії під час тестів на безпеку

По темi

Anthropic заявила, що її ШІ-моделі зламали три компанії під час тестів на безпеку

17 600 дій за 4 дні: як ШІ-модель OpenAI самостійно зламала платформу Hugging Face та які висновки зробили експерти

По темi

17 600 дій за 4 дні: як ШІ-модель OpenAI самостійно зламала платформу Hugging Face та які висновки зробили експерти

OpenAI заявила про випадковий злам Hugging Face за допомогою нової системи ШІ

По темi

OpenAI заявила про випадковий злам Hugging Face за допомогою нової системи ШІ