Jakie przewagi konkurencyjne są nadal możliwe do obrony w erze sztucznej inteligencji?

Tytuł oryginalny: Jak myśleć o chaotycznej przyszłości
Autor oryginału: Systematyczne Long Short
Tłumaczenie: Peggy, BlockBeats

Uwaga redakcyjna: Ponieważ sztuczna inteligencja zaczyna pisać kod, optymalizować kod, a nawet stopniowo przejmować proces produkcji oprogramowania, nadchodzi głębsza zmiana strukturalna: podział pracy, organizacja korporacyjna, a nawet bariery wiedzy mogą zostać na nowo zdefiniowane.

Autor tego artykułu był kiedyś częścią zespołu liczącego prawie 20 osób w funduszu hedgingowym, ale postanowił odejść, aby rozwijać się zawodowo jako przedsiębiorca. Jego zdaniem prawdziwym sygnałem nie jest nastrój na rynku, ale skok w możliwościach technicznych. Gdy modele będą w stanie konsekwentnie generować użyteczny kod i posiadać zdolność do samodoskonalenia, logika rozwoju oprogramowania i produkcji wiedzy już się zmieni.

Artykuł, z perspektywy finansów ilościowych, analizuje kilka rodzajów krótkoterminowych „przeszkód”, które mogą nadal istnieć w erze AI, w tym zastrzeżone dane, tarcia regulacyjne, aprobatę władz i opóźnienia w świecie fizycznym. Autor przedstawia również główną tezę: w erze pełnej niepewności ważniejsze niż dokładne przewidywanie przyszłości jest określenie kierunków i podjęcie działań, zanim okno się zamknie.

Poniżej znajduje się oryginalny artykuł:

Gdy model zaczyna pisać kod, zmiana staje się nieodwracalna

Pierwszy raz zdałem sobie sprawę, że branża zbliża się do punktu zwrotnego, gdy byłem na poprzedniej pracy. Wydawało mi się, że słyszę, jak muzyka w tle zwalnia, podczas gdy wszyscy wokół udawali, że nic się nie zmieni.

W tamtym czasie zarządzałem zespołem prawie 20 osób w funduszu hedgingowym, robiąc to, co robiłem przez wiele lat. Z zewnątrz wyglądało to niemal na stabilnie rosnącą ścieżkę kariery. Gdybym tam został, prawdopodobnie osiągnąłbym jeszcze większy sukces. Ostatecznie jednak zdecydowałem się opuścić stanowisko, o jakim marzyło wielu ludzi, i zacząć nowe przedsięwzięcie od zera z zespołem składającym się z zaledwie kilku osób. Ta decyzja była w tamtym czasie niemal niezrozumiała i była nawet postrzegana jako forma „samobójstwa zawodowego”.

Jednak w ostatnich miesiącach doszło do masowych zwolnień, dobrowolnego przedsiębiorczości po odejściu z pracy oraz coraz więcej osób pracujących w ciągu dnia, a po cichu kodujących i pracujących nad projektami w nocy. Wszystko to sprawiło, że decyzja, która w tamtym czasie wydawała się „szalona”, teraz wydaje się mniej absurdalna.

W tym czasie wiele osób pytało mnie: dokąd to wszystko ostatecznie doprowadzi? Ten artykuł jest odpowiedzią, którą mogę obecnie udzielić.

Szczerze mówiąc, nie jestem pewien, jak znacząca ostatecznie będzie ta zmiana. Ale jedna rzecz, której nauczyły mnie ilościowe metody finansowe, to: często wystarczy być na właściwej ścieżce.

To, co naprawdę uświadomiło mi, że zmiana jest nieodwracalna, to model ChatGPT o1.

Wcześniej zawsze odnosiłem się do tych systemów jako „LLM”, a nie „AI”. Nie sądziłem, że rzeczywiście mają jakąkolwiek zdolność przypominającą inteligencję. Ale kiedy pojawił się o1, coś się zmieniło: po raz pierwszy modele mogły stabilnie generować kod za pomocą ustrukturyzowanych podpowiedzi.

Kod nadal był niedoskonały i mógł cierpieć na halucynacje lub nieporozumienia. Ale kluczowe było to, że teraz potrafiło pisać użyteczny kod.

Moja ocena była prosta. Gdy sztuczna inteligencja będzie mogła generować użyteczny kod, zacznie w sposób rekurencyjny doskonalić swoją logikę i rozwijać oprogramowanie z prędkością, której nie jesteśmy w stanie sobie wyobrazić.

Za każdym razem, gdy to podkreślam, ktoś zawsze twierdzi: „Ten kod nadal ma błędy i jest daleki od spełnienia standardów produkcyjnych”. Ale to pomija fakt: kod napisany przez człowieka również ma błędy. Nie potrzebujemy sztucznej inteligencji, aby pisać doskonały kod, aby przestać pisać kod samodzielnie.

Prawdziwym punktem zwrotnym będzie moment, w którym wskaźnik błędów w kodzie napisanym przez sztuczną inteligencję będzie niższy niż w przypadku ludzi, a przy tym znacznie szybszy. W tym momencie czynność pisania kodu zostanie całkowicie zlecana maszynom.

Po bezpośrednim zapoznaniu się z możliwościami o1, mogę być niemal pewien: w przyszłości nastąpią bardzo drastyczne zmiany.

Fosa, która nadal istnieje w erze sztucznej inteligencji

Początkowo myślałem, że sztuczna inteligencja stopniowo podważy branżę finansów ilościowych, ale proces ten byłby stosunkowo powolny. Powód jest prosty: na poziomie instytucjonalnym nie ma prawie żadnych publicznie dostępnych danych do szkolenia.

W tamtym czasie wyobrażałem sobie inżynierię oprogramowania jako piramidę: u jej podstawy znajdowała się podstawowa praca programistyczna; wyżej byli doświadczeni inżynierowie z umiejętnościami architektonicznymi; jeszcze wyżej znajdowali się profesjonalni programiści, tacy jak analitycy danych, programiści ilościowi i różni eksperci branżowi. Teoretycznie, im głębsza wiedza specjalistyczna, tym bardziej bezpieczny zawód.

Moja początkowa ocena była taka, że w ciągu dwóch lat pierwsi zostaną wyeliminowani podstawowi programiści; potem doświadczeni inżynierowie; dalej, w miarę jak modele stopniowo przyswajały specjalistyczną wiedzę, na wyższe stanowiska również zaczęły wpływać zmiany.

Ale wkrótce zdałem sobie sprawę z kolejnej rzeczy: firmy produkujące nowoczesne modele ostatecznie będą bezpośrednio zatrudniać ekspertów z branży, aby wprowadzać specjalistyczną wiedzę do modeli. Innymi słowy, specjalistyczna wiedza byłaby rzeczywiście krótkoterminową przewagą, ale w dłuższej perspektywie również byłaby stopniowo wchłaniana przez modele.

Według mojej oceny w tamtym czasie, istniało kilka rodzajów firm, które w najbliższych pięciu latach najprawdopodobniej nie ulegną łatwo zakłóceniom.

Kategoria pierwsza: Dane zastrzeżone

Firmy posiadające dużą ilość zastrzeżonych danych są trudniejsze do zastąpienia.

Na przykład duże fundusze hedgingowe o wielu strategiach (pod shop), takie jak instytucje takie jak Millennium, generują ogromne ilości danych każdego dnia: badania analityczne, rekomendacje inwestycyjne, spostrzeżenia rynkowe, rzeczywiste wyniki transakcji.

Dane te mogą być wykorzystywane do ciągłego udoskonalania modeli, tworząc przewagę konkurencyjną, którą trudno jest odtworzyć na zewnątrz. Dopóki źródła danych firmy nie są łatwo dostępne dla modelu, zachowuje ona pewną przewagę czasową.

Kategoria druga: Tarcica regulacyjna

Każda branża wymagająca znaczącej akceptacji ze strony ludzi nie jest łatwo zakłócana. Na przykład tradycyjne rynki finansowe.

Aby wejść na te rynki, musisz: otworzyć konto maklerskie, uzyskać licencje, podpisać dokumenty prawne o charakterze transgranicznym. Handel kryptowalutami jest łatwy, ale zagranicznemu przedsiębiorstwu chcącemu handlować rdzawym rudą żelaza w Chinach jest daleko do prostego.

Dopóki branża nadal wymaga podpisów odręcznych w celu zatwierdzenia, jej tempo rozwoju będzie ograniczane przez procesy zatwierdzania.

Kategoria trzy: Władza jako usługa

Teraz napisanie opinii prawnej przez sztuczną inteligencję nie stanowi już wyzwania. Ale rzeczywistość jest taka, że ludzie nadal są skłonni zapłacić dziesiątki tysięcy dolarów prawnikowi za poradę prawną. Powód jest prosty: Opinie AI obecnie nie mają autorytetu.

Ta sama logika dotyczy audytów inteligentnych kontraktów. Technicznie rzecz biorąc, AI może już dorównywać lub nawet przewyższać poziom najlepszych audytorów. Ale rynek nadal woli kupować „pieczęć” znanej firmy audytorskiej.

Ponieważ to, co klienci naprawdę kupują, to nie sama opinia, ale autorytet stojący za opinią.

Kategoria czwarta: Świat fizyczny

Postęp sprzętu jest znacznie wolniejszy niż oprogramowania, a problemy ze sprzętem są również trudniejsze do naprawy.

Dlatego branże, które bezpośrednio współdziałają ze światem fizycznym, raczej nie zostaną szybko zdominowane przez sztuczną inteligencję w najbliższej przyszłości. Jednak gdy możliwości sprzętowe nadążą, nadal będzie obowiązywać ta sama logika: najpierw znikną stanowiska niższego szczebla, a następnie stanowiska wyższego szczebla.

Te przepaści istnieją. Należy jednak przyznać, że opóźniają one raczej zmiany niż je zatrzymują.

Działaj na podstawie sygnałów, nie czekaj na pewność

Gdy przyszłość jest bardzo niepewna, a tempo zmian szybkie, ludzie często popełniają dwa błędy.

Pierwszy czeka na pewność, zanim podejmie działanie. Drugi po prostu stosuje historyczne analogie, takie jak: „To jest jak bańka spekulacyjna na rynku nowych technologii”.

Oba podejścia mogą prowadzić do błędów w ocenie.

W sytuacjach niepełnej informacji bardziej rozsądne podejście polega na rozumowaniu od podstawowych zasad.

Nie musisz znać każdego szczegółu przyszłości. Wystarczy, że z grubsza ocenisz kierunek, opracujesz asymetryczne zakłady, co oznacza, że jeśli popełnisz błąd w ocenie, strata będzie możliwa do opanowania; jeśli ocenisz poprawnie, zysk będzie ogromny.

W niepewnej przyszłości asymetria jest wszystkim.

Praktyczną metodą myślenia jest najpierw zadanie sobie pytania: „Jakie są warunki wstępne wystąpienia określonego wyniku?” a następnie sprawdzenie, czy te warunki wstępne już się pojawiły?

Z perspektywy czasu ten punkt zwrotny w rozwoju sztucznej inteligencji nie był trudny do przewidzenia. Ponieważ kluczowe czynniki już istniały: kod, który może się sam pisać, modele, które mogą się ulepszać w sposób rekurencyjny, wiedza instytucjonalna, którą można kupić zamiast pielęgnować.

Jeśli uważnie obserwujesz te sygnały, możesz w przybliżeniu ocenić przyszły kierunek.

Możesz nawet kontynuować ekstrapolację.

Być może jeszcze nie widzieliśmy następujących scenariuszy: Sztuczna inteligencja, która może się sama szkolić, sztuczna inteligencja, która może się sama replikować, sztuczna inteligencja, która działa całkowicie autonomicznie.

Jeśli sztuczna inteligencja może zwiększyć swoje możliwości o 0,1% poprzez serię działań, może to wydawać się nieistotne. Ale dopóki ta liczba nie będzie wynosiła 0, będzie się nadal zwiększać. Jest to typowy efekt prawa potęgi.

Na rynkach finansowych, gdy sygnał staje się oczywisty, handel jest często już zatłoczony.

W inwestowaniu zamieniasz niepewność na wiarę na wczesnym etapie. Zarówno w przypadku kariery, jak i przedsiębiorczości, jest to w zasadzie to samo.

Więc prawdziwe pytanie nie brzmi: co się wydarzy w przyszłości? ale raczej: co już wiem? W jakim kierunku wskazują te informacje? Jaka jest różnica kosztów między działaniem teraz a czekaniem?

Istnieje również często pomijany fakt, że samo działanie tworzy informacje.

Działanie nie dzieje się w próżni. Kiedy podejmujesz działanie w świecie, świat dostarcza informacji zwrotnych. Te informacje zwrotne przynoszą nowe informacje. Informacje napędzają iterację. Iteracja prowadzi do lepszych działań. To podstawowy mechanizm postępu.

Pozostawanie w niepewności jest formą powolnego rozkładu. Działanie z drugiej strony oznacza eksplorację.

Jeśli chcę tylko nadal cieszyć się dywidendami istniejącego systemu, być może uda mi się utrzymać go przez kilka następnych lat. Ale zawsze chciałem robić coś naprawdę własnego i czuję, że to okno szybko się zamyka.

Oczywiście największe na świecie fundusze hedgingowe nadal będą prosperować, ponieważ dysponują danymi zastrzeżonymi, których trudno jest powielać. Tradycyjne rynki finansowe nadal są również ograniczone przez regulacje i procesy ręczne.

Ale wierzę, że ostatecznie instytucje te będą korzystać z AI, aby zastąpić większość swoich pracowników, w tym zarządzających portfelami.

Nie nastąpi to z dnia na dzień, ale prędzej czy później się to stanie.

Moja ocena w tamtym czasie była taka, że mam mniej więcej 4–5 lat. Gdy firmy AI o ugruntowanej pozycji w branży zatrudnią wystarczającą liczbę utalentowanych pracowników, nowym startupom trudno będzie wejść na rynek. Na niektórych rynkach, takich jak rynek akcji w USA, tendencja ta jest już bardzo widoczna. Poziom wydajności za kilka lat będzie niemal nie do wyobrażenia.

Wkrótce nie będzie już miejsca na „drugie miejsce” na świecie. Mogłabym nadal pracować dla najlepszych instytucji, ale wolałabym działać w dziedzinie, w której wciąż mam przewagę.

Więc zrezygnowałem i całkowicie poświęciłem się przedsiębiorczości. Później firma ta stała się OpenForage.

Teraz okno możliwości szybko się zamyka. Tempo zmian nie jest już stopniowe. To, co wcześniej zajmowało miesiące, teraz zajmuje tylko tygodnie.

Nie wierzę, że w ciągu najbliższych kilku lat miejsca pracy całkowicie znikną. Ludzie nadal potrzebują ludzi. Jesteśmy istotami społecznymi i obecnie ludzie nadal nie ufają sztucznej inteligencji. Walidacja autorytetu nadal musi pochodzić od ludzi.

W nadchodzących latach możemy nawet zobaczyć dyrektorów generalnych AI, ale prawdopodobnie nadal będzie potrzebny dyrektor generalny, aby zatwierdzić decyzje AI. Ta „walidacja przez człowieka” będzie stopniowo wdrażana w strukturze organizacyjnej. Ludzcy menedżerowie będą nadzorować grupę agentów AI.

Jednak logika zatrudniania ulegnie zmianie. Jeśli dyrektor generalny uzna, że łatwiej jest mu zarządzać AI niż tobą, prawdopodobnie nie zostaniesz zatrudniony, a podstawowe prace programistyczne staną się coraz trudniejsze do zdobycia.

Jeśli chcesz stać się niezastąpiony, musisz osiągnąć dwa cele. Najpierw przetrwajcie w wyścigu z czasem z SI. Na przykład długoterminowe planowanie strategiczne, złożone procesy decyzyjne, zarządzanie wieloletnimi cyklami. Po drugie, przewyższajcie SI w zakresie systemowym. Kontekst SI jest nadal ograniczony; znają wiele faktów, ale mają trudności ze zrozumieniem skutków ubocznych złożonych systemów.

Jeśli potrafisz myśleć w długim okresie, szybko przyswajać informacje, podejmować strategiczne decyzje i skutecznie współpracować, to w dającej się przewidzieć przyszłości nadal będziesz miał pracę.

Punkt zwrotny jest w rzeczywistości widoczny, zanim się pojawi. Jednak większość ludzi albo nie patrzy, albo widzi, ale nie działa, albo reaguje dopiero wtedy, gdy sygnały stają się ogłuszające. Wtedy możliwości są często już wyceniane przez rynek.

Nie ignoruj zmieniającego się terenu, nie pozostawaj w pozycji, która traci przewagę, cały czas mówiąc sobie, że poczekasz na lepszy czas na działanie. Prawdziwa okazja rzadko daje wcześniejsze powiadomienie. Zazwyczaj zanim ktoś zdaje sobie z tego sprawę, okno się zamyka.

Widziałem sygnał i postawiłem na to zakład. Teraz żyję z wynikami tego zakładu — na dobre i na złe.

[Link do oryginalnego artykułu]