CloudSome completa un finanziamento seed di 3,6 milioni di dollari per costruire un'infrastruttura AI multi-modello per le attività ad alta frequenza nel Web3

Le borse, le istituzioni quantitative e le piattaforme di servizi di asset digitali non hanno bisogno solo di modelli più potenti, ma anche di risorse di chiamata stabili e continue, capacità di commutazione tra fornitori e costi di utilizzo controllabili.

CloudSome, una piattaforma API di modelli AI unificati con sede a Singapore, ha recentemente completato un finanziamento seed di 3,6 milioni di dollari. I fondi saranno principalmente utilizzati per la costruzione della piattaforma di prodotto, l'espansione delle risorse di servizio del modello, il miglioramento delle capacità infrastrutturali e la ricerca e sviluppo di modelli più piccoli per scenari Web3.

Con l'introduzione dell'AI generativa dalle fasi sperimentali a quelle operative, la domanda delle aziende Web3 per le capacità dei modelli sta cambiando. Per le borse, le istituzioni quantitative, i portafogli, le piattaforme di servizi di asset digitali e i team di trading professionali, ciò che realmente influisce sulla capacità dell'AI di entrare in un ambiente produttivo non è solo se il modello stesso è sufficientemente potente, ma se le risorse del modello possono essere fornite in modo continuo, se possono essere chiamate stabilmente durante i picchi di attività e se esistono percorsi alternativi in caso di fluttuazioni nei servizi upstream, oltre alla prevedibilità e gestibilità dei costi complessivi.

CloudSome mira a risolvere proprio questo problema infrastrutturale.

I clienti Web3 non hanno bisogno di una singola chiamata al modello, ma di capacità AI in esecuzione continua

Le attività Web3 hanno caratteristiche intrinsecamente globali, ad alta densità informativa e funzionano 24 ore su 24, 7 giorni su 7.

Le borse devono servire continuamente utenti globali; i team quantitativi e di ricerca devono gestire grandi volumi di informazioni di mercato, documentazione di progetti, annunci, codice e dati non strutturati; i portafogli e le piattaforme di servizi di asset digitali devono supportare contenuti multilingue, servizi per gli utenti, revisioni interne e flussi di lavoro operativi.

Quando l'AI viene integrata in questi processi, il volume delle chiamate ai modelli sarà direttamente influenzato dalle variazioni di mercato.

In caso di forti fluttuazioni di mercato, pubblicazione di politiche significative, lancio di progetti popolari o rapidi aumenti di interesse della comunità, le richieste degli utenti, i compiti di analisi interna e le esigenze di elaborazione dei contenuti possono aumentare significativamente in breve tempo. In questo caso, se un'azienda dipende da un singolo modello o da un singolo servizio upstream, qualsiasi limitazione, aumento dei ritardi, insufficienza di capacità o indisponibilità temporanea possono influenzare direttamente le funzionalità AI correlate.

Il routing multi-modello riserva spazio per picchi di traffico e fluttuazioni upstream

Il routing multi-modello non consiste semplicemente nel distribuire uniformemente il traffico tra diversi modelli.

Nelle attività reali, le aziende devono considerare vari fattori come il tipo di compito, le capacità del modello, la velocità di risposta, i costi di utilizzo, le capacità disponibili e lo stato dei servizi upstream prima di decidere quale modello o canale gestirà la richiesta.

Ad esempio, una singola borsa potrebbe utilizzare modelli per gestire contemporaneamente il servizio clienti multilingue, riassunti di annunci, ricerca di conoscenze, assistenza al codice e compiti operativi interni. I diversi compiti hanno requisiti diversi in termini di prestazioni del modello, latenza e costi, quindi non è necessario affidare tutto a un unico modello.

I team quantitativi e di ricerca potrebbero anche affrontare richieste di diversi tipi contemporaneamente: alcune attività richiedono una maggiore capacità di ragionamento, altre si concentrano su bassa latenza e capacità di elaborazione in batch, mentre altre si limitano a completare la classificazione delle informazioni, la conversione di formati o la selezione dei contenuti.

CloudSome offre ai clienti maggiore spazio di programmazione attraverso l'accesso multi-modello, il failover e la gestione delle chiamate.

Quando eventi di mercato portano a picchi di richieste o quando un servizio upstream presenta limitazioni, ritardi o fluttuazioni, la piattaforma può ridurre la dipendenza da un singolo modello e da un singolo upstream attraverso modelli alternativi o canali di servizio alternativi.

Nel frattempo, il tasso di richiesta, i limiti di concorrenza e le quote giornaliere di Token possono essere utilizzati per limitare il consumo di risorse di diversi progetti, evitando che picchi di traffico si traducano direttamente in costi imprevisti.

Ciò significa che le aziende possono non solo chiamare modelli, ma anche iniziare a gestire e programmare le risorse del modello in modo unificato.

Promuovere la ricerca e sviluppo di piccoli modelli Web3 per il trading ad alta frequenza e scenari quantitativi

Oltre a continuare ad espandere le risorse di modelli generali, CloudSome utilizzerà questo round di finanziamento per promuovere la ricerca e sviluppo di piccoli modelli per scenari verticali Web3, concentrandosi su attività di trading ad alta frequenza, ricerca quantitativa, elaborazione di dati di mercato e analisi di asset digitali.

Nei contesti di trading ad alta frequenza e quantitativi, i modelli devono gestire non solo domande in linguaggio naturale, ma anche un gran numero di compiti di dati che vengono generati continuamente, relativamente strutturati e con requisiti elevati in termini di efficienza di elaborazione. Ad esempio, identificazione delle condizioni di mercato, classificazione di notizie e annunci, estrazione di segnali di sentiment, generazione di etichette per eventi, analisi di dati on-chain, valutazione dello stato delle coppie di trading e selezione di informazioni e estrazione di caratteristiche nei processi di ricerca quantitativa.

Questi compiti hanno generalmente caratteristiche di alta frequenza di chiamata, grande volume di dati, sensibilità ai tempi di risposta e requisiti chiari di controllo dei costi. Se tutti vengono gestiti da modelli generali di grandi dimensioni, non solo i costi di chiamata saranno elevati, ma potrebbero anche non soddisfare le esigenze di stabilità, velocità di elaborazione e capacità di esecuzione in batch dei team quantitativi.

Sulla base di questa esigenza, CloudSome prevede di sviluppare modelli leggeri attorno a compiti specifici nel trading ad alta frequenza e nelle attività quantitative, in modo che possano gestire lavori di elaborazione dati ad alta frequenza, standardizzati e con confini relativamente chiari.

L'obiettivo di CloudSome nello sviluppo di piccoli modelli Web3 non è quello di sostituire direttamente le strategie di trading, i sistemi di trading o i modelli decisionali delle istituzioni quantitative, ma di fornire capacità di modelli di base più efficienti per i team di trading ad alta frequenza e quantitativi.

Attraverso la collaborazione tra piccoli modelli e grandi modelli generali, CloudSome spera di costruire gradualmente un'infrastruttura per l'elaborazione dei dati e le chiamate ai modelli per il mercato Web3, fornendo capacità AI più efficienti, stabili e controllabili per borse, istituzioni quantitative e team di trading professionali.

Le esigenze di base tendono a convergere per diversi clienti Web3

I diversi tipi di clienti Web3 presentano differenze evidenti nei loro scenari di utilizzo specifici.

Le borse e le piattaforme di servizi di asset digitali tendono a concentrarsi di più sulla fornitura di servizi 24 ore su 24, utenti globali, supporto multilingue, pressione di accesso imprevista e continuità del servizio per gli utenti.

Le istituzioni quantitative e i team di ricerca si concentrano maggiormente sulla capacità di chiamata continua, elaborazione di informazioni in batch, flussi di lavoro di ricerca, assistenza al codice e organizzazione di dati non strutturati.

I team di portafoglio e servizi correlati potrebbero applicare le capacità dei modelli all'organizzazione di documenti, strumenti interni, supporto agli utenti e assistenza alla revisione manuale.

I trader professionisti e gli sviluppatori di strumenti di trading potrebbero essere più interessati a un rapido accesso a diversi modelli, a passare tra diversi compiti e a controllare i costi in base al volume di utilizzo effettivo.

CloudSome non fornisce strategie di trading e non sostituisce i sistemi di gestione del rischio, conformità e esecuzione delle transazioni delle borse, delle istituzioni quantitative o dei fornitori di servizi correlati.

La piattaforma svolge il ruolo di livello di chiamata ai modelli e gestione delle risorse, fornendo interfacce unificate, risorse di modelli, routing e capacità di gestione dell'uso necessarie per diversi scenari Web3.

Dalla chiamata dei modelli, alla gestione delle risorse dei modelli

Nelle fasi iniziali delle applicazioni AI generative, le aziende si concentravano generalmente sulla possibilità di "accedere a un determinato modello".

Ma con l'aumento del volume delle chiamate, l'espansione dei team e l'ampliamento degli scenari aziendali, le domande iniziano a spostarsi verso:

• Quali team possono chiamare quali modelli

• Quota di utilizzo per ogni progetto

• Quale modello è più adatto per il compito attuale

• Come passare in caso di indisponibilità di un upstream

• Quanto costano i diversi business line

• Come evitare che richieste improvvise causino interruzioni del servizio o costi incontrollati

Pertanto, il valore delle infrastrutture nell'era dei modelli multipli non è solo quello di aiutare gli sviluppatori a completare più rapidamente una chiamata API, ma di aiutare le aziende a gestire continuamente le risorse dei modelli.

Per gli sviluppatori, il valore diretto di CloudSome è ridurre i costi di adattamento delle interfacce e di commutazione dei modelli.

Per le aziende, il valore si estende ulteriormente a diritti di accesso, quote di chiamata, controllo della concorrenza, failover e gestione dei costi.

Queste capacità non equivalgono a un sistema completo di governance AI aziendale, ma possono implementare un controllo di base delle risorse e una gestione dell'uso a livello di chiamata ai modelli, fornendo la base necessaria per l'integrazione delle capacità AI nelle attività reali.

Prossimi passi dopo il finanziamento

Dopo aver completato questo round di finanziamento, CloudSome continuerà a perfezionare le capacità dei prodotti come il pannello di controllo per gli sviluppatori, la gestione delle API, la fatturazione unificata e l'analisi dell'uso, e migliorerà ulteriormente l'approvvigionamento delle risorse del modello, la programmazione delle richieste, il failover e le capacità di controllo della concorrenza.

La piattaforma espanderà anche ulteriori modelli e canali di servizio ufficiali, migliorando continuamente la stabilità delle chiamate per clienti di diverse regioni e dimensioni aziendali.

L'obiettivo di CloudSome è consentire a borse, istituzioni quantitative, team di trading e altri clienti ad alta frequenza di non dover più gestire separatamente più fornitori di modelli, canali di chiamata e sistemi di fatturazione, ma di poter utilizzare diversi modelli AI in modo più stabile, flessibile e controllabile attraverso una piattaforma unificata.