Google usuwa narzędzie AI do obrazów Google Earth po jednym dniu z powodu obaw o deepfake

Google usunęło swoją nowo wprowadzoną funkcję AI z Google Earth zaledwie jeden dzień po jej wprowadzeniu, w odpowiedzi na krytykę ze strony dziennikarzy i śledczych dotyczącej potencjalnego nadużycia do tworzenia fałszywych obrazów satelitarnych. Narzędzie, uruchomione 30 lipca, pozwalało użytkownikom generować obrazy na podstawie tekstowych wskazówek przy użyciu modelu Nano Banana. Do 31 lipca zostało ono usunięte. Google stwierdziło, że chociaż profesjonaliści zajmujący się geoinformacją uznali narzędzie za przydatne, niektórzy użytkownicy udostępniali wygenerowane obrazy, które naruszały jego zasady. Pojawiły się obawy dotyczące zdolności narzędzia do fałszowania wydarzeń, z przykładami obejmującymi krater po wybuchu w Los Angeles oraz protesty przed kampusem Google. Badacz open-source Henk van Ess zgłosił, że wskazówki dotyczące wrażliwych tematów nie były odrzucane. Obrazy satelitarne tradycyjnie były wiarygodnym źródłem weryfikacji wiadomości, a eksperci ostrzegali, że łatwość generowania fałszywych obrazów może prowadzić do szybszego rozprzestrzeniania się dezinformacji niż poprawek. Google początkowo bagatelizowało te obawy, powołując się na znak wodny SynthID na obrazach, aby wskazać na generację AI i blokując szkodliwe tematy. Krytycy argumentowali, że to było niewystarczające, ponieważ wielu użytkowników nie weryfikuje obrazów przed ich udostępnieniem. Google planuje przywrócić funkcję generowania obrazów dopiero po wprowadzeniu surowszych zabezpieczeń, ale nie podano żadnego harmonogramu.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.