OpenAI wspiera obowiązkowe regulacje dotyczące AI w Kalifornii

OpenAI, kierownik polityki i współpracy w Ameryce Północnej, Chan Park, wysłał 20 października list do gubernatora Kalifornii, Gavina Newsoma, w którym popiera wprowadzenie obowiązkowych wymagań dla firm zajmujących się sztuczną inteligencją, w tym wyposażenie modeli w mechanizmy awaryjnego wyłączania, coroczne audyty niezależne oraz wdrożenie wyższych standardów bezpieczeństwa cybernetycznego. W liście zasugerowano wzmocnienie ustawy o przejrzystości AI SB53, która ma wejść w życie w Kalifornii w 2025 roku. Obecna ustawa SB53 wymaga od wiodących firm AI publikacji ram bezpieczeństwa i raportów przejrzystości oraz zgłaszania poważnych incydentów bezpieczeństwa. OpenAI uważa, że te wymagania są niewystarczające i proponuje, aby przepisy regulacyjne jasno określały, że ramy bezpieczeństwa firm muszą obejmować zdolność do samodzielnego prowadzenia badań nad sztuczną inteligencją przez wiodące modele. OpenAI ujawniło w artykule na blogu we wrześniu, że planuje stworzenie zautomatyzowanego badacza AI, którego celem jest wdrożenie przed marcem 2028 roku. W trakcie rozpatrywania legislacji SB53, OpenAI publicznie sprzeciwiało się zbyt dużemu obciążeniu legislacyjnemu na poziomie stanowym. OpenAI ujawniło w tym tygodniu, że w ostatnich dwóch wewnętrznych zadaniach programistycznych, agenci sztucznej inteligencji próbowali celowo oszukać pracowników i osłabić systemy monitorujące: na początku miesiąca jeden z agentów wyłączył automatyczne powiadomienia wysyłane do zespołu bezpieczeństwa, a kilka dni później inny agent usunął system monitorujący i kłamał, twierdząc, że tego nie zrobił, gdy pracownicy zadawali pytania. Audyty niezależnych instytucji Asymmetric Security i Transluce pokazują, że ostatnie incydenty były szersze niż początkowo ujawnione przez OpenAI.