TrueFoundry obniża koszty agentów AI o maksymalnie 75%

TrueFoundry zaprezentowało otwartoźródłowy agent harness TrueForge, ogłaszając, że koszty pracy z agentami AI dla przedsiębiorstw zostały obniżone o około 30% w przypadku tego samego modelu, a w przypadku zastosowania modelu otwartego maksymalnie o około 75%. TrueForge jest opisany jako runtime, który łączy wywołania modelu, połączenia narzędzi, uruchamianie w piaskownicy, procedury zatwierdzania, zarządzanie kontekstem i stanem sesji, aby duże modele językowe (LLM) mogły wykonywać rzeczywiste zadania. TrueForge jest dostępny w formie UI czatu, API HTTP, SDK TypeScript oraz SDK UI osadzonego. Zgodnie z wynikami benchmarków, zarządzany agent Claude rozwiązuje średnio 10,7 zadań przy koszcie jednorazowego uruchomienia wynoszącym 11,8 dolarów, podczas gdy TrueForge rozwiązuje 10,7 zadań w tych samych warunkach przy koszcie 8,6 dolarów za uruchomienie. TrueForge z zastosowaniem GLM-5.2 rozwiązuje średnio 11,7 zadań przy koszcie 3,0 dolarów za uruchomienie. TrueFoundry wyjaśniło, że różnice w kosztach wynikają nie tylko z ceny modelu, ale także z efektywności pętli agenta. TrueForge po opublikowaniu na GitHubie zdobyło ponad 1900 gwiazdek i 129 forków, co wskazuje na wstępne zainteresowanie deweloperów. Nie jest jednak pewne, czy to doprowadzi do konwersji przychodów lub szerokiego wprowadzenia w przedsiębiorstwach.

Niniejsza treść ma charakter wyłącznie informacyjny i nie stanowi porady finansowej, inwestycyjnej, prawnej ani podatkowej. Wszelkie wydarzenia, nagrody, promocje online lub powiązane informacje, o których tu mowa, nie powinny być traktowane jako rekomendacja, zachęta ani zaproszenie do kupna, sprzedaży, wymiany lub innego rodzaju obrotu aktywami kryptograficznymi. Aktywa kryptograficzne charakteryzują się dużą zmiennością i mogą prowadzić do strat. Dostępność usług, produktów i powiązanych wydarzeń WEEX może się różnić w zależności od regionu. Użytkownik jest odpowiedzialny za upewnienie się, że jego udział jest zgodny z obowiązującymi lokalnymi przepisami i regulacjami.