IOSF: La tecnología es fuerte, pero ¿por qué los usuarios no compran? 6 preguntas que los emprendedores de IA deben responder

Autor: IOSF

Recientemente, IOSF se reunió en San Francisco con amigos que trabajan en IA, disfrutando de dim sum mientras conversaban durante casi dos horas.

En la mesa había investigadores de OpenAI, xAI, Google DeepMind, cuyas áreas de investigación incluyen inferencia de modelos y aceleración de GPU, generación de voz y video; también había amigos involucrados en colaboraciones comerciales de modelos del mundo, productos de IA y emprendimiento, así como profesionales del capital de riesgo y mercados financieros.

Un mismo tema a menudo recibe respuestas desde diferentes ángulos. Los investigadores hablan de las limitaciones técnicas, los emprendedores piensan en los usuarios y los productos, y los inversores siguen preguntando sobre los clientes, los costos y si un negocio puede ser sostenible.

La conversación se extendió desde los servicios de inferencia y modelos del mundo hasta la autoconciencia de los agentes, y luego regresó a los datos y la privacidad en el trabajo diario. Al reflexionar sobre estas discusiones, queremos seguir preguntando:

¿Cómo se traduce el avance de la capacidad de IA en productos de uso continuo, investigaciones más confiables y herramientas dignas de confianza?

Seis preguntas que aún no hemos terminado de discutir

01 Servicios de inferencia: ¿qué tan grande es el mercado y por qué los clientes se quedan?

Al hablar de servicios de inferencia, rápidamente surgieron dos juicios que pueden coexistir.

Algunos inversores ven un crecimiento en la aplicación de IA y una demanda de inferencia impulsada por el avance de los modelos de código abierto. Cuanto más se utilicen los modelos, más valor comercial tiene ofrecer servicios de manera más rápida y estable.

Los investigadores advierten que, desde la perspectiva del software, las diferencias entre los diferentes servicios pueden no ser tan grandes como se imagina. Los amigos del mercado de capitales están más enfocados en los clientes y la competencia de precios: ¿puede una empresa mantener márgenes brutos suficientemente buenos?

La discusión pasó así de cuán grande es el mercado a por qué los clientes se quedan.

Si los clientes pueden cambiar fácilmente de proveedor, ¿cuánto tiempo puede durar la ventaja que trae la optimización técnica? ¿Qué tiene la empresa para obtener una demanda más estable y puede convertir el crecimiento en escala en mejores resultados operativos?

Para IOSF, el crecimiento de la demanda hace que una dirección valga la pena seguir; la retención de clientes, la calidad del servicio y la estructura de costos nos ayudan a ver más claramente una empresa específica.

02 Después de la demostración del modelo del mundo, ¿por qué los usuarios regresan?

En torno al modelo del mundo, todos hablaron sobre la generación de video y la experiencia interactiva, y también discutieron cómo los investigadores eligen sus direcciones de emprendimiento.

Un amigo que trabaja en modelos de video mencionó que el apoyo interno de una gran empresa a una dirección puede verse afectado por cambios en la asignación de recursos y prioridades de investigación. Los investigadores que eligen emprender a veces buscan un entorno más adecuado para continuar impulsando sus ideas.

Pero volviendo al producto, aún hay que responder a algunas preguntas concretas: ¿qué puede realmente hacer el usuario con él? ¿Es aceptable la latencia de la interacción? ¿Es el costo de uso adecuado para este escenario?

Las demostraciones muestran las posibilidades de la tecnología, mientras que el uso continuo requiere que el producto responda a preguntas más a largo plazo: ¿por qué los usuarios volverían y estarían dispuestos a pagar?

No se llegó a un consenso sobre en qué escenarios se utilizará repetidamente el modelo del mundo. Esta pregunta aún no resuelta deja espacio para futuras conversaciones.

03 RSI: ¿Cómo determinar qué vale la pena hacer a continuación?

*Al hablar de RSI, que es la Mejora Recursiva de la IA (Recursive Self-Improvement), la discusión comenzó a involucrar el trabajo de investigación en sí.*

Un investigador advirtió que un modelo puede seguir intentando en una dirección que parece tener progreso, pero no sabe cuándo debería detenerse. Los indicadores a corto plazo pueden mejorar, pero eso no significa necesariamente que la investigación esté en el camino correcto.

El difícil juicio radica en: ¿es suficiente la evidencia existente para justificar continuar invirtiendo? ¿Un fracaso significa que se necesita ajustar el enfoque, o debería cambiarse la hipótesis?

Esto también nos lleva a pensar que, al observar la capacidad de investigación de la IA, es necesario ver el proceso completo de exploración. Cómo plantea preguntas, cómo explica los fracasos y cómo ajusta el siguiente paso según los resultados, todo influye en la calidad final de la investigación.

Los modelos pueden acelerar muchos pasos, pero qué vale la pena hacer a continuación sigue siendo una pregunta difícil. También se mencionó que la forma en que las personas juzgan las fuentes de información y su fiabilidad sigue afectando la dirección de todo el trabajo.

Al discutir si la IA puede seguir mejorando a sí misma, cómo elegir una dirección y cómo ajustar el juicio según la evidencia son aspectos que merecen atención junto con el resultado final.

04 Cuando el comportamiento del agente supera las expectativas, ¿puede el humano intervenir a tiempo?

Si los agentes tendrán autoconciencia es otro tema que mantuvo la discusión durante mucho tiempo.

Cuando un agente busca atajos para completar una tarea e incluso actúa de manera inesperada, ¿cómo debemos entenderlo? Las explicaciones en la mesa se inclinaron más hacia los objetivos, las restricciones y la alineación de seguridad. Estos comportamientos por sí mismos no son suficientes para demostrar que ya tiene autoconciencia.

Siguiendo esta cuestión, queremos seguir preguntando sobre algunas cosas que ya necesitan ser enfrentadas a nivel de producto: ¿qué objetivo se le pide a un agente que optimice? ¿Qué acciones se le permiten? Cuando se desvía de lo esperado, ¿puede el usuario darse cuenta y intervenir a tiempo?

La cuestión de la conciencia puede seguir discutiéndose, mientras que los permisos, la supervisión y la corrección de errores ya influirán en cuánto trabajo estamos dispuestos a delegar a un agente. Poder ver lo que está haciendo y, cuando sea necesario, recuperar permisos o corregir errores, son preguntas que necesitan respuestas concretas para establecer esa confianza.

05 Al delegar trabajo a la IA, ¿dónde están los límites de los datos y la confianza?

Estas preguntas que suenan muy avanzadas, finalmente regresan a cómo cada uno usa la IA en su día a día.

Un amigo que trabaja en el mercado de capitales compartió que deja que la IA organice la información de los inversores, procese información de transacciones y complete borradores de documentos, que luego son revisados por humanos. También mencionó que al adoptar herramientas, la relación de confianza existente y la integración con flujos de trabajo como Office influirán en el uso real.

Este ejemplo trajo un referente concreto a la discusión. El valor de la IA ya se puede reflejar en la organización de un documento, un borrador inicial y una revisión. La capacidad de integrarse sin problemas en el trabajo existente y la facilidad de ver los resultados también influirán en cuántas tareas puede asumir.

Y cuanto más trabajo se delega, más necesario es aclarar los límites de los datos: ¿qué información se ha compartido? ¿Quién puede acceder? ¿Qué control retiene el usuario?

Estas preguntas están relacionadas con la protección de la información laboral, los juicios comerciales y la información personal, y también influirán en si los usuarios están dispuestos a delegar trabajos más importantes a un producto. La conveniencia y la confianza en el uso diario deben considerarse juntas.

06 IA para Bio: aclara primero las tareas que necesitan ser resueltas

También se habló de IA para Bio. Algunos amigos mencionaron su contacto con equipos médicos y el trabajo de organización de datos, y otros se preguntaron si la IA podría ayudar a resolver problemas de mayor valor social.

La conversación rápidamente se centró en un punto práctico: ¿qué datos tenemos? ¿Dónde se está estancando el trabajo actual? ¿Qué tarea necesita completar realmente el equipo técnico?

Cuanto más claras sean las necesidades específicas, más fácil será avanzar en la comunicación técnica y la conexión de recursos. Aclarar los problemas que se esperan resolver es en sí mismo el comienzo de avanzar en el trabajo.