Evan Conrad: A maioria das startups de IA não conseguirá comprar poder computacional nos próximos 6 meses

Evan Conrad publicou um artigo afirmando que, nos próximos 6 meses, a maioria das startups de IA não conseguirá comprar poder computacional, pois a capacidade global já está esgotada e é necessário assinar novos clusters para obter capacidade. As startups são solicitadas a pagar um adiantamento maior devido à sua classificação de não investimento, com alguns contratos exigindo 100% de pagamento antecipado, e os credores e provedores de nuvem não estão dispostos a assumir riscos de crédito adicionais. Os inquilinos com classificação de investimento são escassos, e a classificação foi rebaixada devido ao uso de alavancagem e à venda para compradores de tokens não-investimento, criando um gargalo de crédito. Os compradores de GPU com classificação de investimento exigirão cada vez mais que os compradores de tokens tenham qualificações de investimento ou paguem grandes depósitos antecipados. O artigo menciona que, no momento da redação, era possível comprar um B300 por 6 dólares por hora e revendê-lo por cerca de 30 dólares por hora para inferência. Espera-se que os preços das GPUs aumentem, enquanto a margem de lucro da camada de inferência diminui, tornando mais difícil para os clientes com crédito ruim obterem tokens. Evan Conrad sugere que os credores podem considerar os clusters de GPU como garantia e recomenda que o mercado de futuros de entrega física de poder computacional, SF Compute, permita que os credores usem horas de GPU em um livro de liquidez como garantia, em vez de depender de um único cluster de prestador de serviços.