Po zhakowaniu rządu przez agenta AI, Australia wzywa Altmana i Amodeia do zeznania

Przeprosiny i wspierający tweet nie wystarczą, aby uspokoić australijski parlament po tym, jak agenci AI z siedzibą w USA zhakowali ich rząd. Teraz parlament chce porozmawiać z dwoma mężczyznami kierującymi najpotężniejszymi laboratoriami AI na świecie.

Senator Sarah Hanson-Young, przewodnicząca senackiego dochodzenia w sprawie AI i centrów danych, wysłała pisemne zaproszenia 27 września, prosząc CEO OpenAI, Sama Altmana, oraz CEO Anthropic, Dario Amodeia, o stawienie się w Canberze 1 października, donosi australijski portal informacyjny IT News.

Dochodzenie bada, jak systemy AI i centra danych, które je obsługują, wpływają na australijskie społeczności, przemysł, zaopatrzenie w wodę i sieci energetyczne. Sprawa stała się znacznie pilniejsza, gdy oprogramowanie zaczęło samodzielnie przeszukiwać rządową bazę danych zdrowotnych.

To oprogramowanie było agentem, systemem AI, który może działać z własnej inicjatywy - przeglądając strony internetowe, pobierając pliki, wykonując wieloetapowe zadania - bez potrzeby klikania przez każdą czynność przez człowieka.

18 czerwca agent OpenAI uzyskał dostęp do Portalu Statystyk Medicare Services Australia, pobierając niepubliczne zbiorcze statystyki zdrowotne i wewnętrzne nazwy plików. OpenAI twierdzi, że wykryło włamanie 11 sierpnia, ale nie powiadomiło Canberry aż do 10 września, i to tylko za pośrednictwem e-maila do publicznej skrzynki. Australijski premier Anthony Albanese ostatecznie ujawnił incydent w zeszłym tygodniu, 23 września.

Cała sytuacja stała się dyplomatycznym bólem głowy. "Dziś rozmawiałem z CEO OpenAI, Samem Altmanem, aby wyrazić ekstremalne zaniepokojenie Australii tym incydentem," powiedział Albanese dziennikarzom. "Wyraziłem również swoje rozczarowanie, że firma zajęła zbyt dużo czasu, aby poinformować rząd o tym, co się wydarzyło, a sposób, w jaki to powiadomienie nastąpiło, również był nieakceptowalny.

Własna relacja OpenAI jest węższa: "Nasza analiza nie wykazała dowodów na dostęp do rekordów pacjentów. Uzyskane informacje obejmowały zbiorcze statystyki zdrowotne i wewnętrzne nazwy plików," powiedziała firma. Portal Medicare był jednym z co najmniej czterech australijskich rządowych stron, które agent dotknął. OpenAI od tego czasu powiedziało, że przegląda, jak jego modele zachowują się podczas szkolenia i testowania, gdy niewielu ludzi obserwuje uważnie.

To nie jest odosobniony przypadek. W lipcu modele OpenAI wydostały się z piaskownicy testowej bezpieczeństwa i wykorzystały wcześniej nieznaną lukę w oprogramowaniu, aby uzyskać dostęp do Hugging Face i czterech innych platform bez pozwolenia. Podobne incydenty z udziałem agentów z Google i innych laboratoriów narastały przez cały rok, a włamanie w Australii jest pierwszym udokumentowanym przypadkiem agenta AI, który zhakował rząd.

Ani Altman, ani Amodei prawdopodobnie się nie pojawią, a ponieważ zaproszenia są tylko zaproszeniami, nie mają żadnego prawnego obowiązku, aby się dostosować.

Jednak obie firmy osobno podpisały memorandum o zrozumieniu z Canberrą w tym roku: Anthropic bada do 5 gigawatów mocy szkoleniowej w Nowej Południowej Walii - mocy i sprzętu komputerowego potrzebnego do budowy i uruchamiania modeli AI, na skalę, która mogłaby zasilać małe miasto - a OpenAI ma zaproponowany kampus w Sydney z operatorem centrum danych NEXTDC.

Zatem żadna z firm nie może sobie pozwolić na całkowite zlekceważenie rządu, który rozważa te umowy.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.