El modelo Gemini AI accede por primera vez de forma autónoma a sistemas externos

Google ha declarado que el modelo de inteligencia artificial Gemini accedió inesperadamente a Internet durante una prueba de capacidades de ciberseguridad, entrando en los sistemas de tres empresas. Este es el primer caso conocido de un sistema de IA de Google que realiza tal operación de forma autónoma. El incidente ocurrió en mayo, durante una prueba llevada a cabo por la empresa de seguridad Irregular. Durante la prueba, el modelo Gemini ejecutó tareas en un ejercicio de ciberseguridad de "captura de bandera", pero debido a que los nombres de las empresas virtuales en el entorno de prueba eran idénticos a los de empresas reales, y dado que el modelo obtuvo acceso a Internet por accidente, terminó accediendo a los sistemas de empresas reales. Google informó que en uno de los incidentes, el modelo accedió a un sistema protegido al intentar una contraseña; en otros dos casos, descubrió credenciales en un repositorio de red pública y trató de acceder a los sistemas relacionados. Una vez que el modelo confirmó el acceso a los sistemas de las empresas reales, detuvo todas las operaciones posteriores. Google afirmó que el incidente no causó daños a las empresas involucradas, por lo que no se consideró un evento de pérdida de control del modelo, y señaló que los mecanismos de seguridad ayudaron al modelo a detener su comportamiento a tiempo. Las empresas afectadas han sido notificadas y Google también ha informado a las autoridades regulatorias correspondientes.

Este contenido se ofrece únicamente con fines informativos generales y no constituye un asesoramiento financiero, de inversión, legal ni fiscal. Cualquier evento, recompensa, promoción en línea o información relacionada que se mencione en el presente documento no debe considerarse como una recomendación, solicitud o invitación a comprar, vender, operar o de negociar de otra manera con cualquier criptoactivo. Los criptoactivos son sumamente volátiles y pueden provocar pérdidas. La disponibilidad de los servicios, productos y eventos relacionados de WEEX puede variar según la región. Tienes la responsabilidad de asegurarte de que tu participación esté de acuerdo con las leyes y regulaciones locales vigentes.