Director de OpenAI: Existe una posibilidad razonable de un desastre de IA en un año
Un conocido investigador de seguridad de IA y miembro de la junta directiva de la entidad matriz de OpenAI, Paul Cristiano, emitió una advertencia sobre el futuro desarrollo de la inteligencia artificial en una popular entrevista de podcast tecnológico. Él afirmó que la posibilidad de que la humanidad pierda completamente el control sobre la IA está aumentando rápidamente.
El programa de podcast se emitió el lunes, presentado por Devakish Patel. Cristiano declaró en el programa: "Actualmente existe una posibilidad razonable de que ocurra un desastre en los próximos seis meses, causando numerosas muertes o incluso un derrocamiento gubernamental". Este podcast suele tener millones de oyentes, incluidos muchos profesionales de la industria tecnológica.
Cristiano indicó que la ocurrencia de tales eventos depende de la velocidad de iteración de la tecnología de IA. También sugirió que, impulsados por la tecnología de mejora recursiva, los modelos de IA pueden lograr auto-iteración y que la probabilidad de que se desarrollen hasta un punto crítico peligroso en el próximo año es "bastante alta".
Esta declaración, en comparación con las declaraciones públicas anteriores de Cristiano, eleva aún más el tono de advertencia. Él también dirige el Centro de Investigación de Alineación, una organización sin fines de lucro con sede en Berkeley, que se centra en la investigación de alineación de IA. Como investigador veterano que ha estado advirtiendo sobre los riesgos de seguridad de la IA durante mucho tiempo, se unió a la junta del OpenAI Foundation en septiembre, que controla la empresa OpenAI. Cristiano enfatizó en la entrevista que sus comentarios representan solo su posición personal y no la opinión de la junta de OpenAI.
Cuando se unió a la junta, Cristiano publicó un artículo público estimando que el riesgo de un evento catastrófico debido a la pérdida de control de la humanidad sobre la IA en el próximo año era de aproximadamente el 4%.
Sin embargo, en la entrevista del lunes, mencionó que en los últimos meses, el progreso en las capacidades del modelo ha sido rápido, y ahora evalúa que el riesgo de que la IA tome el control de la humanidad en el próximo año es "más cercano al 10%, en lugar del 1%". Afirmó que si las grandes empresas no toman más medidas de protección para mitigar los riesgos asociados con el desarrollo de la IA, se espera que este riesgo aumente "significativamente".
Precio de --
Este contenido se ofrece únicamente con fines informativos generales y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, tradear o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.
También te puede interesar

Take-Two Interactive vs. Anthropic: ¿Cuál acción que mueve el mercado es la mejor compra?

Investigadores de DeepMind proponen cuatro caminos hacia la ASI desde la AGI

Optimism lanza elecciones para el líder del Consejo de Seguridad con un mandato de 24 meses

Wu Yongming: Qianwen entrena el próximo modelo en el chip de PingTouGe

Blockaid marca más de 8800 tokens temáticos de GTA en Solana como maliciosos

Las acciones de Take-Two suben un 8.8% tras el lanzamiento de GTA VI

El sistema backend de Paytaca sufre un ataque, los fondos y claves privadas de los usuarios no se ven afectados

El CTO de Li Auto, Xie Yan, asiste al foro del ecosistema OIP de TSMC 2026

EBRD: Los países en desarrollo podrían perder oportunidades en defensa y desarrollo de IA

Altman habla sobre la auto-mejora de la IA, no se ha logrado la AGI

Informe de información de transacciones de clientes CARF: ¿Qué procesamiento de datos se necesita desde el flujo en cadena hasta la declaración de impuestos?

¿Preocupado por la inteligencia artificial robando tu trabajo? Tony Robbins dice que es hora de crear un plan de auto-reinvención

¿Cómo se calculan los impuestos de las criptomonedas en un mercado alcista y bajista?

El asistente de voz Gemini de Google se integra en Apple CarPlay

El Ministerio de Finanzas discute la ruta de adquisición de Bitcoin, la tenencia gubernamental se somete a una segunda verificación

La CFTC investiga a Kalshi por supuestas violaciones de aviso sobre nuevos productos

Hong Kong Aprueba Regulaciones de Reporte de Activos Cripto - Mundo Fintech

LNbits desactiva servicios de Bitcoin alojados sin un cronograma de reinicio

La producción de minería de Bitcoin de BitFuFu en octubre cae a pesar de una tasa de hash estable

La congresista estadounidense Maxine Waters anuncia su candidatura para presidir el Comité de Servicios Financieros de la Cámara de Representantes: ¡Establecerá reglas estrictas pero justas para las empresas de criptomonedas legales!

La Fundación Ethereum recuerda a los desarrolladores de contratos que revisen el impacto del ajuste de Gas de Glamsterdam

El Banco Central Agrícola y Forestal entra en el negocio de valores digitales (ST) con planes para la formación de ST inmobiliarios

Bull Bitcoin se convierte en el primer intercambio en soportar retiros y depósitos privados con Payjoin por defecto

El cofundador de Casa advierte sobre el abuso de correos de phishing de Google

Bithumb sufre una violación de su sistema interno, se revela la filtración de datos personales de los clientes y se inicia una investigación

Toyota Finance emite su primer bono digital de oferta directa

Hombre de Missouri se declara culpable de conspiración de secuestro por Bitcoin

Blink Wallet cobra 1 dólar al mes por cuentas de custodia inactivas

a16z apoya la creación de derivados de poder computacional en EE. UU., afirmando que el marco regulatorio actual es suficiente


