Director de OpenAI: Existe una posibilidad razonable de un desastre de IA en un año
Un conocido investigador de seguridad de IA y miembro de la junta directiva de la entidad matriz de OpenAI, Paul Cristiano, advirtió sobre el futuro desarrollo de la inteligencia artificial en una popular entrevista de podcast tecnológico. Él afirmó que la posibilidad de que la humanidad pierda completamente el control sobre la IA está aumentando rápidamente.
El programa de podcast se emitió el lunes, presentado por Devraksh Patel. Cristiano mencionó en el programa: "Actualmente existe una posibilidad razonable de que en los próximos seis meses ocurra un desastre que cause numerosas muertes o que se produzca un derrocamiento gubernamental." Este podcast suele tener millones de oyentes, incluyendo a muchos profesionales de la industria tecnológica.
Cristiano indicó que la ocurrencia de estos eventos depende de la velocidad de iteración de la tecnología de IA. También sugirió que, impulsados por tecnologías de auto-mejora recursiva, los modelos de IA pueden lograr auto-iteraciones y que la probabilidad de que se desarrollen hasta un punto crítico peligroso en el próximo año es "bastante alta".
Esta declaración, en comparación con las declaraciones públicas anteriores de Cristiano, intensifica la advertencia. Él también dirige el Centro de Investigación de Alineación, una organización sin fines de lucro con sede en Berkeley, que se centra en la investigación de alineación de IA. Como investigador veterano que ha advertido sobre los riesgos de seguridad de la IA durante mucho tiempo, se unió a la junta del OpenAI Foundation en septiembre, que controla la empresa OpenAI. Cristiano enfatizó en la entrevista que sus comentarios representan solo su posición personal y no la opinión de la junta de OpenAI.
Cuando se unió a la junta, Cristiano publicó un artículo público estimando que el riesgo de un evento catastrófico debido a la pérdida de control de la humanidad sobre la IA en el próximo año era de aproximadamente el 4%.
Sin embargo, en la entrevista del lunes, mencionó que en los últimos meses, el progreso en las capacidades del modelo ha sido rápido, y ahora estima que el riesgo de que la IA tome el control de la humanidad en el próximo año es "más cercano al 10%, en lugar del 1%". Afirmó que si las grandes empresas no toman más medidas de protección para mitigar los riesgos asociados con el desarrollo de la IA, esa estimación de riesgo "aumentará significativamente".
Precio de --
Este contenido se ofrece únicamente con fines informativos generales y no constituye asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, tradear o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.
También te puede interesar

Take-Two Interactive vs. Anthropic: ¿Cuál acción que mueve el mercado es la mejor compra?

Mr&强 comparte el evento de demostración de IA estilo WEEX GTA6

Investigadores de DeepMind proponen cuatro caminos hacia la ASI a partir de la AGI

Optimism lanza elecciones para el líder del Consejo de Seguridad con un mandato de 24 meses

Blockaid marca más de 8800 tokens temáticos de GTA en Solana como maliciosos

Las acciones de Take-Two suben un 8.8% tras el lanzamiento de GTA VI

Paytaca sufre un ataque a su sistema backend, los fondos y claves privadas de los usuarios no se ven afectados

AAOI firma un acuerdo de distribución de acciones, planea emitir hasta 550 millones de dólares en acciones ordinarias

El CTO de Li Auto, Xie Yan, asiste al foro del ecosistema OIP 2026 de TSMC

OpenAI discute la auto-mejora de la IA, sin lograr AGI

Hombre de Hunan víctima de fraude en transacciones de criptomonedas, policía logra interceptar

El vasto mercado de autos usados: CarMax y Carvana compiten por la forma en que los estadounidenses compran autos

Un pago de auto de $776 es una advertencia para Ford y General Motors

¿Preocupado por que la inteligencia artificial te quite el trabajo? Tony Robbins dice que es hora de elaborar un plan de auto-reinvención

¿Cómo se calculan los impuestos de los años en que se jugó con criptomonedas, ganando en mercados alcistas y perdiendo en mercados bajistas?

Asistente de voz Gemini de Google se integra a Apple CarPlay

Los agentes de IA no solo ayudan a realizar pedidos: la próxima oportunidad de negocio está en la intermediación y la confianza

La CFTC investiga a Kalshi por supuestas violaciones de aviso en nuevos productos

Hong Kong Aprueba Regulaciones de Reporte de Activos Cripto - Mundo Fintech

LNbits desactiva servicios de Bitcoin alojados sin un cronograma de reinicio

La producción de minería de Bitcoin de BitFuFu en octubre cae a pesar de un hashrate estable

La Fundación Ethereum recuerda a los desarrolladores de contratos que revisen el impacto del ajuste de Gas de Glamsterdam

El Banco Central Agrícola y Forestal entra en el negocio de valores digitales (ST) con planes para la formación de ST inmobiliarios

Bull Bitcoin se convierte en el primer exchange en soportar retiros y depósitos privados con Payjoin por defecto

El cofundador de Casa advierte sobre el abuso de correos de phishing de Google

Rip Cars completa una ronda de financiamiento estratégico de 1.5 millones de dólares

Bithumb sufre una violación de su sistema interno, se revela la filtración de datos personales de los clientes y se inicia una investigación

Toyota Finance emite su primer bono digital de oferta directa

Cómo el borrador del manual de Optimism elimina silenciosamente las elecciones de los tenedores de tokens


