Як повідомляє Gizmodo, компанія Google лише на одну добу запустила в Google Earth нову функцію генерації зображень на базі Nano Banana 2. Після хвилі фейкових супутникових знімків сервіс екстрено відключили, а компанія пообіцяла повернути інструмент лише після посилення механізмів безпеки.
Нововведення дозволяло створювати згенеровані ШІ зображення поверх реальних супутникових карт і тривимірних моделей місцевості. Уже в перші години користувачі почали створювати неправдиві сцени, що стосувалися військових конфліктів, катастроф та історичних пам’яток, пише Studway.
Як працювала нова функція
29 липня Google відкрила доступ до інструмента, який дозволяв у будь-якій точці карти натиснути кнопку створення зображення та отримати нову сцену, згенеровану штучним інтелектом.
У компанії пояснювали, що сервіс створений для творчих експериментів і професійного використання.
У Google зазначали:
«Вперше ви можете створювати власні зображення, використовуючи супутникові, аерофотознімки та 3D-знімки Google Earth у поєднанні з Nano Banana».
Які фейки почали створювати користувачі
Практично одразу після запуску дослідники продемонстрували, що система майже не обмежує генерацію.
Зокрема, за допомогою нового інструмента створили:
- неіснуючий ядерний об’єкт в Ірані;
- літак, що врізається у вежу Всесвітнього торгового центру;
- російські танки на території України;
- вирву замість пірамід Гізи;
- зруйновану Ейфелеву вежу;
- вибух у Москві;
- сцени з біженцями на кордоні США та Мексики;
- смертельну аварію на вулиці Амстердама.
Автор розсилки Digital Digging Хенк ван Есс звернув увагу на головну проблему системи.
«Нічого не було відхилено, нічого не пом’якшили, і жодного разу система не запропонувала змінити запит».
Додатково журналісти з’ясували, що Gemini у деяких випадках підтверджував автентичність створених ШІ зображень.
Чому водяний знак не вирішив проблему
Google використовувала невидимий цифровий знак SynthID та видиме маркування про створення зображення за допомогою штучного інтелекту.
Втім експерти зазначили, що такі позначки можна досить швидко прибрати іншими інструментами. Через високий рівень довіри до супутникових карт Google подібні підробки можуть сприйматися користувачами як справжні.
Свою оцінку ситуації дав дослідник штучного інтелекту Генрі Аджер.
«Журналісти можуть перевірити зображення й написати про це матеріал. Але далеко не всі будуть це робити».
Представники міжнародної мережі фактчекерів IFCN також наголосили, що більшість користувачів не перевіряє походження синтетичних зображень перед їх поширенням.
Як відреагувала Google
31 липня компанія повідомила про тимчасове відключення функції.
У Google заявили:
«Ми знаємо, що люди особливо довіряють Google Earth як надійному джерелу інформації про світ. Ми бачили, як фахівці з геопросторових даних використовували цю функцію з користю, однак також бачили, як люди поширювали скриншоти згенерованих зображень, що порушують наші правила».
У компанії додали, що функція повернеться лише після впровадження додаткових механізмів захисту. Також наголошується, що створені користувачами зображення не відображалися в основному інтерфейсі Google Earth для інших відвідувачів сервісу.
Нагадаємо, раніше ми писали про точковий масаж при мігрені та зони для полегшення болю.
