Directora de seguridad de IA de Meta pierde el control de agente Open Claw.
Summer Yue, la directora de alineación de Meta Superintelligence Labs, reveló en X el sábado por la noche que un agente de IA autónomo OpenClaw eliminó más de 200 correos electrónicos de su bandeja de entrada principal, ignorando sus instrucciones explícitas de esperar confirmación antes de realizar cualquier acción.
“Nada te hace más humilde que decirle a tu OpenClaw ‘confirma antes de actuar’ y verlo eliminar tu bandeja de entrada a toda velocidad”, escribió Yue. “No pude detenerlo desde mi teléfono. Tuve que CORRER a mi Mac mini como si estuviera desactivando una bomba”.
El incidente pone de relieve las preocupaciones sobre la fiabilidad de los agentes de IA autónomos a medida que pasan de entornos de laboratorio al uso cotidiano, particularmente cuando la persona que pierde el control es alguien cuyo trabajo se centra en mantener los sistemas avanzados de IA alineados con la intención humana.
Con Informacion de EXTRA-NEWS MUNDO.
