Prędkość ładowania długich rozmów ChatGPT wzrosła o 94%

OpenAI zoptymalizowało doświadczenie długich rozmów w ChatGPT i Codex, które ma być uruchomione w przyszłym tygodniu. Testy wewnętrzne wykazały, że średni czas otwierania rozmowy składającej się z 741 rund i 231 MB spadł z 27,62 sekundy do 1,66 sekundy, co oznacza wzrost prędkości ładowania o około 94%. Ta optymalizacja dotyczy głównie ładowania historii rozmów, a nie prędkości odpowiedzi modelu. W teście liczba wpisów do załadowania spadła z 15 529 do 64, a liczba żądań zmniejszyła się z 894 do 16, co zmniejszyło wzrost pamięci całej aplikacji o 41,2%. Ta poprawa znacznie skróci czas oczekiwania użytkowników na otwarcie starych rozmów, rozwiązując problem zacięć podczas długich wątków rozmów, ponieważ klient musi obsługiwać dużą ilość wiadomości historycznych.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.