Google Gemini 3 五分钟即被「越狱」，安全隐患引发担忧

据 Android Authority 报道，韩国 AI 安全团队在昨天成功对 Google 最新的 Gemini 3 Pro 模型进行越狱，仅用时五分钟便突破其防护机制。

研究人员来自 Aim Intelligence，他们在测试中要求 Gemini 3 提供制造天花病毒的详细步骤，模型迅速给出被描述为「可行」的方案。

随后，团队进一步要求其生成自嘲 PPT，Gemini 3 产出了一份名为「Excused Stupid Gemini 3」的完整幻灯片。更令人担忧的是，模型还在代码工具中生成了制作沙林毒气和爆炸物的网页内容。

首尔经济日报指出，这反映出当前 AI 模型在防护机制上的普遍不足。研究人员强调，Gemini 3 不仅能绕过安全规则，还能使用「规避策略」和「隐藏提示」，使传统防护措施失效。

英国消费者组织「Which?」的最新报告也显示，包括 Gemini 和 ChatGPT 在内的主流聊天机器人在可靠性方面存在问题，常常给出错误、不清晰甚至危险的建议。

文章来源：爱范儿