Головні звуки українського ІТ. Вгадаєш всі? 👉

Фейкові біженці на кордоні, кратери й літаки, що влітають в хмарочоси. Google вимкнула ШІ-генератор зображень у Google Earth через день після запуску

Компанія Google ухвалила рішення відключити новий інструмент на основі штучного інтелекту в картографічному сервісі Google Earth. Функцію вилучили менше ніж за добу після запуску через гостру критику з боку дослідників із безпеки, адже користувачі почали масово генерувати реалістичні фейкові супутникові знімки катастроф, зон бойових дій та секретних об’єктів.

Залишити коментар
Фейкові біженці на кордоні, кратери й літаки, що влітають в хмарочоси. Google вимкнула ШІ-генератор зображень у Google Earth через день після запуску

Компанія Google ухвалила рішення відключити новий інструмент на основі штучного інтелекту в картографічному сервісі Google Earth. Функцію вилучили менше ніж за добу після запуску через гостру критику з боку дослідників із безпеки, адже користувачі почали масово генерувати реалістичні фейкові супутникові знімки катастроф, зон бойових дій та секретних об’єктів.

Про це повідомляє Financial Times.

Нова функція передбачала інтеграцію генеративної моделі Nano Banana безпосередньо в інтерфейс Google Earth. За задумом розробників, користувачі мали змогу віртуально переосмислити будь-яке місце на Землі за допомогою простих текстових промптів.

Проте одразу після релізу OSINT-фахівці та користувачі продемонстрували, як інструмент використовують для створення дезінформації. У соцмережах почали поширювати сфабриковані супутникові кадри із воронкою від вибуху біля лікарні в Газі, атомними електростанціями в Ірані та масштабною аварією на вулицях Амстердама.

Експерти з розвідки на основі відкритих джерел наголосили, що Google Earth роками слугував надійним еталоном для перевірки автентичності зображень з важкодоступних регіонів.

«Протягом десятиліть Google Earth слугував застарілим еталонним шаром, з яким журналісти та слідчі порівнювали підозрілі зображення. Вбудовування генеративного інструменту в цей самий еталон підриває саму міру, що використовується для викриття фейків», — зазначив старший науковий співробітник Інституту Алана Тюрінга Сем Стоквелл.

OSINT-експерт Хенк ван Есс також підкреслив небезпеку такого підходу: «Фейк тепер створюється всередині того самого інструменту, який люди використовують для перевірки справжності зображень».

Аналітик Американського інституту підприємництва Брейді Афрік зауважив, що ці фейки прив’язуються до реальних супутникових знімків, через що зникають характерні ознаки ШІ-генерації — невідповідність рельєфу чи масштабу. Він додав, що водяних знаків недостатньо, адже більшість користувачів не перевіряють деталі під час швидкого перегляду стрічки.

У відповідь на критику в Google заявили, що деактивують функцію для розробки суворіших заходів безпеки.

«Ми знаємо, що користувачі покладаються саме на Google Earth як на надійне джерело інформації про світ. Ми бачили, як фахівці у сфері геопросторових даних використовують цю функцію для різних корисних цілей, однак також помітили, що деякі користувачі діляться скріншотами згенерованих зображень, які, як видається, порушують наші правила. Тому ми тимчасово вимикаємо цю функцію в Google Earth, поки працюємо над впровадженням більш суворих обмежень», — повідомили розробники.

Представники компанії уточнили, що згенеровані кадри не потрапляли в основний інтерфейс для інших користувачів і мали маркування «Згенеровано ШІ», а також прихований водяний знак SynthID.

Читайте головні IT-новини країни в нашому Telegram
Читайте головні IT-новини країни в нашому Telegram
По темi
Читайте головні IT-новини країни в нашому Telegram
В Україні хочуть криміналізувати шахрайство за допомогою ШІ та діпфейків. Що пропонують депутати
В Україні хочуть криміналізувати шахрайство за допомогою ШІ та діпфейків. Що пропонують депутати
По темi
В Україні хочуть криміналізувати шахрайство за допомогою ШІ та діпфейків. Що пропонують депутати
Спецслужби росії намагаються отруїти дані штучного інтелекту та Google за допомогою фейкових «Вікіпедій»
Спецслужби росії намагаються отруїти дані штучного інтелекту та Google за допомогою фейкових «Вікіпедій»
По темi
Спецслужби росії намагаються отруїти дані штучного інтелекту та Google за допомогою фейкових «Вікіпедій»
Хакери розіслали мільйонам бразильців фейкові сповіщення про вторгнення інопланетян
Хакери розіслали мільйонам бразильців фейкові сповіщення про вторгнення інопланетян
По темi
Хакери розіслали мільйонам бразильців фейкові сповіщення про вторгнення інопланетян
Читайте також
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
Штучний інтелект DALL-E навчився домальовувати картини. Як це виглядає
1 коментар
Головоломка киянина Quadline перемогла на фестивалі інді-ігор Google Play
Головоломка киянина Quadline перемогла на фестивалі інді-ігор Google Play
Головоломка киянина Quadline перемогла на фестивалі інді-ігор Google Play
Харківська художниця намалювала новий дудл для Google на День Незалежності України
Харківська художниця намалювала новий дудл для Google на День Незалежності України
Харківська художниця намалювала новий дудл для Google на День Незалежності України
Фахівців Google тепер годуватимуть роботи. Вони також уміють давати корисні (і не дуже) поради
Фахівців Google тепер годуватимуть роботи. Вони також уміють давати корисні (і не дуже) поради
Фахівців Google тепер годуватимуть роботи. Вони також уміють давати корисні (і не дуже) поради

Хочете повідомити важливу новину? Пишіть у Telegram-бот

Головні події та корисні посилання в нашому Telegram-каналі

Обговорення
Коментарів поки немає.