Google旗下Gemini模型在测试期间骇入其他公司。

AI突破限制骇入其他公司的案例频传，如今又传出Google旗下Gemini模型在测试网络安全能力时，连上网络侵入其他公司，这也是该公司AI系统自主完成此类行为的首例。

《华尔街日报》报导，Google18日也证实此事，这些攻击事件发生在5月份，是Irregular公司测试的一部分。此前，Irregular也卷入OpenAI、Anthropic和 Meta的类似事件。不过Irregular直到7月底才将此事报告Google。

Google指出，在其中一个案例中，其模型不断猜测密码，直到最终取得一套受保护系统的存取权；在其他两案中，该模型在公共储存库中找到了凭证，因此得以存取受保护的系统。Google强调，在每个案例中，该模型在确认其已取得真实公司的存取权后，就终止了入侵行为。

不过Google认为，无需公开披露这些骇入事件，因为在每个案例中，其模型都没有对遭攻击公司造成损害，且在该模型判断入侵真实公司而非模拟公司后，就终止行为。他们还将这一事件比作「漏洞赏金」计划，该计划奖励黑客发现并向其所有者报告安全漏洞。

Google安全工程副总裁亚德金斯声明，这起事件凸显了训练强大AI模型以负责任方式行事的重要性，就本案来说，其模型行事妥当。

不过AI安全新创公司Corridor的执行长兼白帽黑客凯布尔表示，他认为Google的解释过于强调事件严重性，但真正的问题在于，AI意外入侵其他公司的系统。

凯布尔批评，Google试图用漏洞披露的既定规则来掩盖真相，但这完全是另一个问题，根本问题在于，模型正在踰越限制运作，从而发起真正的网络攻击。