在谷歌于拉斯维加斯举行的 LLM bugSWAT 活动中,研究人员发现并报告了该公司Bard AI(以前称为 Gemini)中的错误,并获得了 50,000 美元的奖励。Roni Carta、Justin Gardner 和 Joseph Thacker 共同破解了 Bard 和 Google Cloud Console。特别是,研究人员发现的安全漏洞可能会导致DoS 攻击、用户数据泄露以及对属于特定用户的上传图像的访问。“视觉功能旨在处理和描述任何上传的图像。然而,我们观察到一个重大缺陷。当我们利用这个缺陷时,它允许我们在没有任何权限或验证过程的情况下访问其他用户的图像”,Roni Carta 在他的博客中写道。研究人员表示,通过欺骗巴德描述其他用户发布的照片,攻击者可以有效地获得对目标上传的任何图像的未经授权的视觉访问。此外,考虑到 Bard 的光学字符识别 (OCR) 技术,这还可能导致受害者照片中的机密文本信息(例如电子
………………………………