Towards Building Safe and Sacure Agentic AI - Dawn Song

Professor Dawn Song of UC Berkeley underscore that cybersecurity is the frontline of AI safety. Her team’s AgentVigil and AgentXploit frameworks show that memory, retrieval, and tool use expose agents to new vulnerabilities. Through works such as Progent, she emphasized the need for standardized, reproducible risk-assessment platforms for agentic systems. ---- La professeure Dawn Song de l'université de Berkeley souligne que la cybersécurité est la première ligne de défense en matière de sécurité de l'IA. Les cadres AgentVigil et AgentXploit développés par son équipe montrent que la mémoire, la récupération et l'utilisation d'outils exposent les agents à de nouvelles vulnérabilités. À travers des travaux tels que Progent, elle a insisté sur la nécessité de disposer de plateformes d'évaluation des risques standardisées et reproductibles pour les systèmes agentifs.