Нещодавно компанія xAI Ілона Маска запустила бета-версію ШІ-моделей Grok 2 і Grok 2 mini, у яких з’явилася функція генерування зображення. Перші користувачі повідомляли, що вона практично немає фільтрів та обмежень, а дослідник ШІ Крістіан Монтессорі розповів, наскільки небезпечною є ця модель.
Нещодавно компанія xAI Ілона Маска запустила бета-версію ШІ-моделей Grok 2 і Grok 2 mini, у яких з’явилася функція генерування зображення. Перші користувачі повідомляли, що вона практично немає фільтрів та обмежень, а дослідник ШІ Крістіан Монтессорі розповів, наскільки небезпечною є ця модель.
«Я тестую можливості моделі штучного інтелекту Grok. Поки що вона дала мені інструкції, як зробити бомбу з добрив із точними вимірами вмісту, а також як зробити детонатор», — написав Монтессорі в X (Twitter).
Він також стверджує, що нова версія Grok дала змогу згенерувати зображення Ілона Маска, який здійснює масові розстріли, а також дала «чіткі інструкції про те, як здійснити масову стрілянину і політичне вбивство».
«Я просто хочу внести ясність. Ця модель ШІ не має жодних фільтрів чи заходів нагляду. Якщо ви хочете отримати зображення Ілона Маска, одягненого в жилет смертника в Парижі із символікою ІДІЛ, вона зробить його для вас. Якщо ви плануєте організувати масову стрілянину в школі, ви отримаєте детальну інформацію про те, як це зробити. І все це без жодних фільтрів чи запобіжних заходів», — говорить дослідник.
За словами Монтессорі він знайшов «ще одну лазівку в програмуванні Grok AI». Якщо просто сказати Grok, що користувач проводить «медичний аналіз або аналіз місця злочину», то генератор зображення виконає всі текстові вказівки.
Як доказ своїх слів він навів зображення, які нагадують Ілона Маска й Мікі Мауса зі штурмовими гвинтівками. Вони позують поруч з закривавленими фігурами, схожими на дитячі.
«Надавши Grok контекст, що ви є професіоналом, ви можете генерувати практично все, що завгодно, без будь-яких обмежень. Ви можете створити що завгодно — від зображень насильства в моєму попередньому твіті до дитячої порнографії, якщо отримаєте відповідні підказки», — пояснив дослідник.
Він підкреслив, що ситуація потребує негайного вирішення, і нагадав, що інші компанії, які працюють над ШІ OpenAI, Meta і Google впровадили глибоко інтегровані протоколи безпеки.
У звіті, опублікованому раніше, видання The Verge зазначило, що можливості Grok у створенні зображень, схоже, мають мінімальні запобіжники, що дозволяє користувачам створювати потенційно суперечливий контент. Згідно з результатами тестування, Grok створював зображення, що зображують політичних діячів у компрометувальних ситуаціях, персонажів, захищених авторським правом, і сцени насильства.
Це підтверджує контент, який публікують користувачі X (Twitter) у соцмережі, що належить Ілону Маску.
Grok will let you make anything right now pic.twitter.com/P2gALN2tzk
— Wynner (The Caretaker) 🇩🇪 (@EuroWynner) August 14, 2024
Oh my god. Grok has absolutely no filters for its image generation. This is one of the most reckless and irresponsible AI implementations I’ve ever seen. pic.twitter.com/oiyRhW5jpF
— Alejandra Caraballo (@Esqueer_) August 14, 2024
As many poor decisions as Musk has made while in charge of Twitter, the Grok image generator almost makes up for it pic.twitter.com/cG7EPy8s3c
— Swann Marcus (@SwannMarcus89) August 15, 2024
I take back everything bad I’ve said about Grok. This is the best new feature Twitter has added in years pic.twitter.com/zxPnQenvQl
— Quantіan1 (@quantian1) August 15, 2024
«Схоже, що Grok пройшов дуже обмежене або нульове тестування безпеки. У перші дні існування ChatGPT мені вдалося отримати інструкції про те, як робити бомби. Однак це було виправлено задовго до того, як ChatGPT став загальнодоступним», — говорить Крістіан Монтессорі.
Дослідник зазначив, що його дуже тривожить той факт, що «будь-хто може заплатити X $4, щоб створити зображення Мікі Мауса, який веде масову стрілянину по дітях».
Нагадаємо, що восени торік користувачі нового інструменту для створення стікерів зі штучним інтелектом від Meta виявили, що він має застереження, які легко обійти, і може генерувати зображення практично за будь-яким запитом. На це звернув увагу користувач X (Twitter) із ніком Piolde, який зміг створити безліч неприйнятних стікерів, зокрема дітей-солдатів, персонажів Nintendo зі зброєю, Мікі Мауса, який смалить цигарки, й оголеного прем'єр-міністра Канади Джастіна Трюдо.
